NPU 퓨리오사AI RNGD 16장, 국산 고밀도 액체냉각 서버 딥가젯 한 대에 탑재

NPU 퓨리오사AI RNGD 16장, 국산 고밀도 액체냉각 서버 딥가젯 한 대에 탑재 

국산 NPU가 연구실을 넘어 실제 데이터센터로 들어가고 있습니다. 퓨리오사AI의 2세대 NPU ‘RNGD(레니게이드)’는 2026년 1월 양산에 들어갔고, 1차 물량 4,000장의 출고를 시작했습니다.

매니코어소프트는 이 RNGD를 자체 개발한 액체냉각 서버 딥가젯(deep gadget) 에 탑재했습니다. 지난 10월에는 RNGD 4장을 넣은 딥가젯 dg5W를 퓨리오사AI에 납품했습니다. 12월에는 RNGD 16장을 서버 한 대에 담은 딥가젯 dg5R을 광주 인공지능산업융합사업단(AICA)의 국산 서버 홍보관에 전시할 예정입니다.

이번 글에서는 저전력 NPU에 왜 액체냉각이 필요한지, 그리고 딥가젯이 RNGD를 어떻게 담았는지 소개합니다.

저전력 NPU에 왜 액체냉각이 필요할까요

RNGD는 AI 추론용 데이터센터 NPU로, 서버의 PCIe 슬롯에 꽂는 카드 형태입니다. NPU 카드 한 장의 열설계전력(TDP)은 180W로, 칩 하나에 600W 이상을 쓰는 최신 GPU의 3분의 1이 되지 않습니다. 칩 한 장만 보면 공랭으로도 충분히 식힐 수 있습니다. 퓨리오사AI의 RNGD 서버는 공랭식 4U 섀시에 NPU 8장을 넣고도 시스템 전체 소비 전력이 3kW 수준입니다.

다만 같은 공간에 NPU를 더 촘촘하게 넣고 싶다면 냉각 방식도 함께 고민해야 합니다. NPU가 가까워질수록 열이 한곳에 모이고, 바람길을 확보할 공간도 줄어들기 때문입니다. 이때 액체냉각이 하나의 좋은 선택지가 됩니다. 

액체냉각은 칩 위에 붙인 콜드플레이트로 열을 직접 빼냅니다. 바람길이 덜 필요해 같은 공간에 더 많은 칩을 넣을 수 있고, 높은 흡기 온도에서 동작할 수 있어 팬소음과 냉방 전력도 함께 줄어듭니다.

NPU 수요는 이미 수천 장 단위로 커지고 있습니다. 정부가 광주에 추진하는 국가 NPU 컴퓨팅센터는 NPU 약 8,400장 규모로 계획되고 있습니다. 이 정도 규모에서는 칩 한 장의 전력보다 랙당 밀도와 운영 비용이 더 중요한 기준이 됩니다.

RNGD를 위한 전용 콜드플레이트를 설계했습니다

딥가젯은 GPU·NPU 같은 가속기 칩에 콜드플레이트를 직접 붙여 냉각하는 직접 액체 냉각(DLC) 방식 서버입니다. 칩마다 크기와 발열 위치가 다르기 때문에, 새 가속기를 지원하려면 그 칩에 맞는 콜드플레이트를 따로 설계해야 합니다.

매니코어소프트는 RNGD 카드의 크기와 칩 위치에 맞춰 전용 콜드플레이트를 자체 설계했습니다. 냉각수가 NPU 칩 바로 위를 지나며 열을 빼내기 때문에, NPU를 촘촘하게 꽂아도 NPU 사이에 바람길을 따로 두지 않아도 됩니다.

퓨리오사AI에 RNGD NPU 서버(딥가젯 dg5W) 납품 

RNGD 전용 콜드플레이트를 적용한 첫 납품 제품은 퓨리오사AI에 공급한 딥가젯 dg5W입니다. dg5W는 워크스테이션과 랙마운트 서버로 모두 쓸 수 있는 모델로, 이번 제품에는 RNGD 4장을 탑재했습니다.

매니코어소프트는 이 서버를 출고하기 전에 RNGD에 최대 부하를 1시간 동안 계속 거는 번인(burn-in) 테스트를 진행했습니다. 테스트 내내 NPU 온도는 최고 약 48℃를 유지했습니다. 별도로 진행한 공랭 테스트에서는 같은 부하에서 최고 약 75℃로 안정적으로 동작했습니다. 액체냉각을 쓰면 칩 온도를 27℃가량 더 낮게 유지할 수 있어, NPU를 더 촘촘하게 넣을 여유가 생깁니다.

RNGD 16장 NPU 서버, AICA 국산 서버 홍보관 전시 예정

다음 단계는 더 많은 RNGD를 서버 한 대에 담는 것입니다. 매니코어소프트는 인공지능산업융합사업단(AICA)이 광주에 마련하는 국산 서버 홍보관에 RNGD 16장을 탑재한 딥가젯 dg5R을 전시합니다. 홍보관은 12월 초 개관할 예정입니다.

dg5R은 서버실 랙에 설치하는 랙마운트 전용 모델입니다. 이번 전시 제품은 GPU 없이 RNGD로만 구성했습니다. PCIe Gen5 스위치칩을 4개 탑재하여 NPU 16장을 서버 한 대에 연결합니다. 이 서버를 42U 표준 랙에 6대 넣는다고 가정하면, 랙 하나에 RNGD를 96장까지 담을 수 있습니다. 

RNGD 16장의 TDP를 더하면 NPU만 약 2.9kW(2,880W)입니다. 이 열은 모든 NPU에 붙인 콜드플레이트로 직접 빼냅니다. 400G 네트워크 카드도 액체 냉각 방식으로 냉각합니다.

홍보관 서버실은 유리벽으로 둘러싸여 있어, 관람객이 밖에서 서버를 볼 수 있습니다. 내부 냉각 구조가 잘 보이도록 서버 상판은 투명하게 제작할 예정입니다.

AICA는 그동안 광주에서 국산 AI 반도체의 실증과 검증을 이끌어 왔습니다. 국산 NPU를 액체냉각 서버에 고밀도로 담은 모습을 그 현장에서 보여드리게 되어 뜻깊게 생각합니다.

GPU에서 국산 NPU까지, 같은 액체냉각 플랫폼으로

딥가젯은 그동안 엔비디아 H100·H200, RTX PRO 6000 뿐만 아니라 AMD, Tenstorrent 등 다양한 GPU/NPU를 탑재한 액체냉각 서버를 공급해 왔습니다. 이번 RNGD 서버로 국산 NPU까지 같은 플랫폼에서 지원하게 되었습니다.

앞서 본 국가 NPU 컴퓨팅센터 계획처럼, AI 데이터센터는 학습은 GPU가 맡고 추론은 NPU가 맡는 구성으로 바뀌고 있습니다. 칩이 달라도 냉각 방식과 운영 방식이 같다면 데이터센터를 설계하고 관리하는 부담이 크게 줄어듭니다. 딥가젯이 GPU와 NPU를 같은 액체냉각 구조로 지원하는 이유입니다.

매니코어소프트는 2012년 슈퍼컴퓨터 '천둥'의 발열 문제를 풀기 위해 액체냉각을 시작했습니다. 이 기술을 서버 크기로 옮긴 것이 딥가젯이며, 지금까지 190곳 이상의 고객사에 공급했습니다.

12월 AICA 홍보관이 문을 열면 실제 전시 모습과 함께 다시 소식을 전하겠습니다. RNGD 등 국산 NPU 기반 액체냉각 서버 도입을 검토하고 계신다면 매니코어소프트로 문의해 주세요.