NVIDIA GPU instance별 쪼개기
NVIDIA GPU MIG(Multi-Instance GPU) 기능은 A100/H100 계열에서 한 장의 GPU를 여러 “slice”로 분할해 사용하는 기능입니다. 이를 제어하는 도구는 주로 **nvidia-smi**와 **nvidia-mig-parted**입니다. CRUD(Create, Read, Update, Delete) 관점으로 정리해 드리겠습니다. 🔹 1. …
2개의 직업이 보편화된 사회
아주 중요한 질문을 주셨습니다. “앞으로 2개의 직업(겸업·복수 직업)을 갖는 것이 보편화되는 사회가 올 것인가?”라는 논점은 단순 개인 선택이 아니라 노동시장 구조 변화와 직결됩니다. 이유를 세 가지 축에서 설명드리겠습니다. 1. 노동력(Labor …
Elon Musk, Bill Gates, Waren Buffett 공통점
엘론 머스크, 빌 게이츠, 워렌 버핏—이 세 거물 투자가가 공통적으로 에너지 저장 장치 또는 전력 관련 분야에 투자하고 있다는 것은, 기후변화 대응 및 에너지 산업의 미래 경쟁력 확보 차원에서 매우 …
LG전자-창원에 HVAC 연구소 신설
“LG전자가 창원에 HVAC 연구소를 신설한다”는 것은 단순한 건물 하나의 의미가 아니라, 미래 냉난방·공조(HVAC, Heating Ventilation & Air Conditioning) 산업을 선도하기 위한 전략적 거점 확보라는 점에서 의미가 있습니다. 1. 전략적 의미 …
침지(immersion)에 사용되는 액체
침지(immersion) 냉각에 쓰이는 “비전도(절연) 액체” 중, ‘원유 정유 공정’에서 파생되는(또는 석유계) 유체는 대체로 아래 3계열입니다. 석유계(정유/석유화학) 유래 침지용 유체 계열 무엇인가 대표 예/브랜드 핵심 메모 고도 정제 광유(미네랄 오일, 화이트 …
MoE (Mixture of Experts)
다음 한 줄이 핵심입니다:MoE = Mixture of Experts(전문가 혼합 모델) — 입력(보통 토큰)마다 소수의 ‘전문가(서브모델)’만 선택적으로 활성화해 계산하는 희소(sparse) 신경망 아키텍처입니다. 무엇을, 어떻게 하나? 어디가 어려운가? 언제 쓰나?
공랭 방식 (Air Cooling)
아래 표는 **‘최종 열 배출이 공기(공랭)’**인 대표 냉각 방식들을, 데이터센터/서버실 관점에서 비교 정리한 것입니다. (DX=직팽식, CRAH=냉수식 항온항습기, CRAC=DX 항온항습기) 1) 공냉 방식 개요 비교 방식 최종 열배출 기본 구성(실내/실외) 용량·밀도 …
수냉 방식 (Water Cooling)
아래 표는 **“수냉식 냉방(=열을 물로 받아 공기 밖으로 내보내는 방식)”**을 **공간 레벨(룸/랙/칩/탱크)**별로 나눠 핵심 스펙·장단·적용 상황을 비교한 것입니다. (수치는 현업 범위 기준의 감각치) 1) 수냉식 냉방 방식 비교(화이트스페이스 관점) 구분(레벨) …
여러 GPU로 분산 – TP/PP/EP (xParalleism)
아래가 TP / PP / EP의 약자와 의미를 한눈에 정리한 표입니다. (대규모 모델에서 보통 **DP(Data Parallelism)**와 함께 조합해 씁니다.) 약자 풀네임 핵심 아이디어 대표 통신 패턴 언제/왜 쓰나 TP Tensor …