NVIDIA GPU instance별 쪼개기
NVIDIA GPU MIG(Multi-Instance GPU) 기능은 A100/H100 계열에서 한 장의 GPU를 여러 “slice”로 분할해 사용하는 기능입니다. 이를 제어하는 도구는 주로 **nvidia-smi**와 **nvidia-mig-parted**입니다. CRUD(Create, Read, Update, Delete) 관점으로 정리해 드리겠습니다. 🔹 1. …
2개의 직업이 보편화된 사회
아주 중요한 질문을 주셨습니다. “앞으로 2개의 직업(겸업·복수 직업)을 갖는 것이 보편화되는 사회가 올 것인가?”라는 논점은 단순 개인 선택이 아니라 노동시장 구조 변화와 직결됩니다. 이유를 세 가지 축에서 설명드리겠습니다. 1. 노동력(Labor …
Elon Musk, Bill Gates, Waren Buffett 공통점
엘론 머스크, 빌 게이츠, 워렌 버핏—이 세 거물 투자가가 공통적으로 에너지 저장 장치 또는 전력 관련 분야에 투자하고 있다는 것은, 기후변화 대응 및 에너지 산업의 미래 경쟁력 확보 차원에서 매우 …
LG전자-창원에 HVAC 연구소 신설
“LG전자가 창원에 HVAC 연구소를 신설한다”는 것은 단순한 건물 하나의 의미가 아니라, 미래 냉난방·공조(HVAC, Heating Ventilation & Air Conditioning) 산업을 선도하기 위한 전략적 거점 확보라는 점에서 의미가 있습니다. 1. 전략적 의미 …
침지(immersion)에 사용되는 액체
침지(immersion) 냉각에 쓰이는 “비전도(절연) 액체” 중, ‘원유 정유 공정’에서 파생되는(또는 석유계) 유체는 대체로 아래 3계열입니다. 석유계(정유/석유화학) 유래 침지용 유체 계열 무엇인가 대표 예/브랜드 핵심 메모 고도 정제 광유(미네랄 오일, 화이트 …
MoE (Mixture of Experts)
다음 한 줄이 핵심입니다:MoE = Mixture of Experts(전문가 혼합 모델) — 입력(보통 토큰)마다 소수의 ‘전문가(서브모델)’만 선택적으로 활성화해 계산하는 희소(sparse) 신경망 아키텍처입니다. 무엇을, 어떻게 하나? 어디가 어려운가? 언제 쓰나?
공랭 방식 (Air Cooling)
아래 표는 **‘최종 열 배출이 공기(공랭)’**인 대표 냉각 방식들을, 데이터센터/서버실 관점에서 비교 정리한 것입니다. (DX=직팽식, CRAH=냉수식 항온항습기, CRAC=DX 항온항습기) 1) 공냉 방식 개요 비교 방식 최종 열배출 기본 구성(실내/실외) 용량·밀도 …
수냉 방식 (Water Cooling)
아래 표는 **“수냉식 냉방(=열을 물로 받아 공기 밖으로 내보내는 방식)”**을 **공간 레벨(룸/랙/칩/탱크)**별로 나눠 핵심 스펙·장단·적용 상황을 비교한 것입니다. (수치는 현업 범위 기준의 감각치) 1) 수냉식 냉방 방식 비교(화이트스페이스 관점) 구분(레벨) …
여러 GPU로 분산 – TP/PP/EP (xParalleism)
아래가 TP / PP / EP의 약자와 의미를 한눈에 정리한 표입니다. (대규모 모델에서 보통 **DP(Data Parallelism)**와 함께 조합해 씁니다.) 약자 풀네임 핵심 아이디어 대표 통신 패턴 언제/왜 쓰나 TP Tensor …
H100 x 2 vs H100 x 8
아래 표는 “순수 성능(연산량) 외에” 2GPU 서버에서 하기 어려운/사실상 불가하고 8GPU(HGX/DGX)에서만 현실적으로 가능한 것들을 정리한 것입니다. 구분 H100 2GPU 서버(보통 PCIe) H100 8GPU 서버(HGX/DGX·NVLink+NVSwitch) 왜 차이가 나나? 고차 모델 병렬화(텐서/파이프·시퀀스·전문가 …
Ready to Begin
Verse 1Stepping out with my heart on fire,The world feels big, but I’m reaching higher.Got my books, my dreams, and a beat in my soul,I’m on the edge of something …
Sunrise Journey
Verse 1:Golden light on the river’s edge,Softly guiding each gentle step,The world awakens, calm and still,As she moves with grace and will. Chorus:Sunrise journey, here we flow,In the morning’s tender …
In the Morning Glow
Verse 1:The sky is waking, painted soft and brightI’m floating on the breeze, wrapped in golden lightThe trees below are waving as I riseThrough the endless blue, where the daylight …
Journey’s Song
(Verse 1)Through the fields of gold and green,We wander far, chasing the dream.The skies above, the earth below,A rhythm in the winds that blow.Our voices rise, they carry on,A melody …
Soft_mist
((Verse 1)Soft mist rises from the streamAncient spirits start to dreamPanpipes whisper through the treesCarrying wisdom on the breeze(Chorus)In this sacred mountain airWe release our earthly careVoices blend with nature’s …
Wings of Light
Verse 1)In the silence, I can hear,Whispers of the sky so clear,Golden light and gentle breeze,Dancing through the twilight trees. (Chorus)Wings of light, they carry me,Through the stars and endless …
Echoes of the Palace
(Verse 1)Beneath the chandelier’s soft glow,I dance where golden rivers flow,In the stillness, time stands still,A dream of peace, a heart to fill. (Chorus)Through the halls of light, I roam,The …
Climbing to Glory
(Soft choir hums, gentle piano intro) (Verse 1: Soloist & Choir Harmonies)On a road so steep and winding,With every step, the storm is blinding.But I see a light that calls …
Voices United
Gentle choral humming introduces the song)Verse 1: Soloist with Choir HarmoniesFrom rolling hills to city lights,Our voices rise through day and night.A song of hope, a melody,That echoes through eternity.(Folk …
The Climb of Faith
(Soft choir intro with piano and light folk guitar) (Verse 1: Soloist & Choir Response)We walk this road, hand in hand,Through stormy skies and shifting sand.With every tear, the sun …