매니코어소프트, 5세대 액체냉각 AI 서버 'dg5R·dg5W' 정식 출시
매니코어소프트(ManyCoreSoft)가 5세대 액체냉각 AI 서버 dg5R과 dg5W를 정식 출시했다. 랙마운트형 dg5R은 6U 섀시 하나에 최신 GPU를 10장까지 담는다. 워크스테이션 겸용 dg5W는 풀로드 소음 53dB로 책상 옆에서 GPU 6장을 돌린다. 두 제품 모두 냉각이 서버 안에서 끝나는 Self-Contained 방식이라 별도 공조 설비가 필요 없다.
왜 지금 액체냉각인가
숫자부터 보자. NVIDIA B200 GPU 한 장의 발열은 1.2kW다. 차세대 Rubin은 1.8kW까지 예상된다. 칩 하나가 헤어드라이어 한 대만큼 열을 뿜는 셈이다. 이 수준이면 기존 공랭으로는 적정 온도 유지가 어렵고, 직접액체냉각(DLC,수랭)이 사실상 유일한 답이라는 게 회사 설명이다.
전력 문제도 겹친다. 국제에너지기구(IEA)는 2030년 글로벌 데이터센터 전력 소비를 945TWh로 내다봤다. 2024년의 2배 규모다. 그런데 그 전기의 상당 부분은 계산이 아니라 냉각에 들어간다. 데이터센터가 IT 장비 전력의 몇 배를 쓰는지 나타내는 지표 PUE가 성적표가 된 이유다. 1에 가까울수록 낭비가 없다.
dg5R: 6U에 GPU 10장, PUE 1.30
dg5R은 서버실과 데이터센터용 6U 랙마운트 서버다. H200 NVL, RTX PRO 6000, RTX 5090 같은 최신 NVIDIA GPU는 물론 FuriosaAI RNGD, 텐스토렌트 칩까지 최대 10장을 장착한다. H200 NVL 10장 기준 FP8 성능은 33.4 PFLOPS. DeepSeek V4나 GLM-5급 초대형 모델이 서버 한 대에서 돌아가는 수준이다.
핵심은 냉각 범위다. GPU만 식히는 반쪽 수냉이 아니라 CPU, 메모리, NIC, PEX까지 자체 설계·제조한 콜드플레이트로 냉각한다. 냉각 루프는 두 계통으로 분리했고, 누수가 감지되면 경고와 함께 시스템 전원을 내린다.
전기료 성적은 이렇다. 회사 자체 산정 기준 dg5R 기반 데이터센터의 PUE는 1.41. 공랭(1.85) 대비 전체 전력이 24% 줄고, 프리쿨링·드라이쿨링을 더하면 30% 가까이 내려간다(PUE 1.30). 중앙 공조 전력만 떼어 보면 87.6% 절감이다. 35℃ 환경에서도 정상 운용되도록 설계돼, 항온항습 설비가 없는 서버실에서도 돌아간다.
dg5W: 책상 옆에 두는 53dB 슈퍼컴퓨터
dg5W는 같은 냉각 기술을 사무실 크기로 줄였다. 평소엔 타워형으로 쓰다가 랙에 눕히면 그대로 5U 랙마운트가 된다. CPU는 AMD 라이젠 스레드리퍼 PRO 9000WX(최대 96코어), GPU는 최대 6장. 풀로드 소음이 20~53dB라 연구실 옆자리에서 회의가 가능한 수준이다. 4bit 양자화 기준 750B 파라미터 모델을 서버 한 대로 서빙한다는 게 회사 설명이다.
온도는 검수 기록이 말해 준다. 최근 출하분의 번인 테스트에서 풀로드 GPU 최고 온도는 54~67℃ 사이였다. 스로틀링 구간에 닿지 않으니, 구매한 성능이 그대로 나온다.
주요 사양
구분 | dg5W | dg5R |
|---|---|---|
폼팩터 | 5U, 타워·랙 겸용 | 6U 랙마운트 |
AI 프로세서 | 최대 6장 (수냉) | 최대 10장 (수냉) |
지원 칩 | H200 NVL, RTX PRO 6000 SE/Max-Q, RTX 5090, FuriosaAI, 텐스토렌트 | 동일 |
CPU | AMD 스레드리퍼 PRO 9000WX 1소켓 (수냉) | 인텔 제온 6700/6900 또는 AMD EPYC 9005 2소켓 (수냉) |
메모리 | DDR5 최대 1TB (수냉) | DDR5 최대 4TB (수냉) |
스토리지 | M.2 NVMe 4개 + SATA·U.2 확장 | M.2 4개 + U.2 16개, 최대 983TB |
네트워크 | 10GbE 기본, ConnectX-6/7 200·400G 옵션 (수냉) | 1GbE 기본, ConnectX-6/7 100~400G 옵션 (수냉) |
전원 | 1,300W 플래티넘 x4 또는 3,200W 티타늄 x4, N+1 핫스왑 | 3,200W 티타늄 x4, N+1 핫스왑 |
소음(풀로드) | 20~53dB | 30~62dB |
권장 환경 | 사무실, 연구실, 서버실 | 서버실, 소~대규모 데이터센터 |
관리는 Gadgetini가 맡는다
이번 출시에는 모니터링 도구 “Gadgetini”도 함께 실렸다. 전면에 내장된 LCD와 웹 대시보드에서 냉각수 온도와 수위, 누수 여부, GPU 온도·전력·메모리 사용률을 실시간으로 보여 준다. 서버 상태는 Normal·Warning·Critical 색상으로 구분되고 PC와 모바일 어디서든 열린다. 새벽에 서버실로 뛰어가기 전에, 침대에서 먼저 확인하면 된다.
소프트웨어는 우분투 위에 CUDA, PyTorch, Docker, vLLM, SGLang 까지 설치된 상태로 출고된다. 전원을 꽂는 날 바로 학습을 돌리는 구성이다. 보증은 3년으로, 회사는 업계 최장 수준이라고 밝혔다. 모든 서버는 출하 전 개별 번인 테스트를 거치고 기록을 남긴다.
13년 냉각 기술, 180곳의 검증
매니코어소프트는 2012년 서울대학교 멀티코어컴퓨팅연구실에서 출발했다. 이 때, 매니코어소프트가 만든 슈퍼컴퓨터 '천둥'은 세계 TOP500 277위, 전력 효율 순위 Green500 32위에 올랐다. 구축 사업에서는 한 사이트에만 GPU 3,000장 이상, 서버 400대 이상을 넣은 이력이 있다. 서울대학교, KT, 현대중공업 등의 GPU 서버 클러스터도 이 회사가 만들었다. 딥가젯 서버를 쓰는 고객은 대학과 병원, 중공업, 클라우드까지 185곳을 넘는다.
박정호 매니코어소프트 대표이사는 "GPU는 해마다 뜨거워지는데 건물은 그대로다. dg5 세대는 냉각 설비를 새로 짓는 대신 서버 안에서 냉각을 끝내자는 답"이라며 "사무실이든 데이터센터든 받은 날 바로 AI를 돌리게 하는 것이 목표"라고 말했다.
두 제품은 딥가젯 홈페이지에서 구성별 견적 문의로 구매할 수 있다. 가격은 GPU 구성에 따라 달라진다. 회사는 올해 In-rack CDU와 L2L 서버로 라인업을 넓혀 랙 단위, 룸 단위 냉각까지 채울 계획이다. 칩 하나가 1.8kW를 뿜는 시대에 냉각을 서버 안에서 끝내려는 이 접근이 어디까지 통할지, 다음 확장이 궁금해진다.