GPU 공랭의 한계: 직접액체냉각(DLC, 수랭)이 필요한 이유
GPU 서버에 더 큰 팬을 달고, 찬 공기를 더 많이 공급하면 계속 공랭으로 버틸 수 있을까요?
저밀도 서버라면 여전히 가능합니다. 하지만 최신 AI 서버에서는 이야기가 달라집니다. GPU 한 개에서 발생하는 열은 늘고 한 랙에 들어가는 GPU 수도 많아졌습니다. 이제 문제는 단순히 서버실을 시원하게 유지하는 것이 아니라, 좁은 공간에서 발생하는 막대한 열을 얼마나 빠르게 밖으로 옮길 수 있느냐입니다.
이 변화 때문에 고밀도 AI 인프라의 냉각 방식은 공기에서 액체로 이동하고 있습니다.
냉각은 ‘차갑게 만드는 일’이 아니라 ‘열을 옮기는 일’이다
서버 냉각의 원리는 단순합니다. CPU와 GPU에서 발생한 열을 서버 밖으로, 다시 건물 밖으로 운반하는 일입니다. 공랭과 액체냉각의 가장 큰 차이는 이 열을 무엇으로 옮기느냐에 있습니다.
공랭은 공기를, 액체냉각은 물이나 물·글리콜 계열 냉각수를 사용합니다. 물은 공기보다 밀도가 훨씬 높고 열용량도 큽니다. 같은 부피를 기준으로 비교하면 물이 운반할 수 있는 열은 공기의 약 3,500배에 이릅니다.
발열이 낮을 때는 공기로도 충분합니다. 팬 속도를 높이고, 냉·열복도를 분리하고, 더 큰 공조 설비를 설치하면 처리할 수 있습니다. 그러나 열이 계속 늘어나면 더 많은 공기와 더 큰 설비가 필요합니다. 어느 순간부터는 공랭을 보강하는 비용과 복잡성이 급격히 커집니다.
공랭의 한계는 두 곳에서 나타난다
공랭의 한계를 이해하려면 ‘GPU 한 개’와 ‘랙 전체’를 나눠 봐야 합니다.
1. GPU 표면에서 열을 빼내기 어려워진다
GPU의 소비전력이 증가해도 칩과 서버의 크기가 같은 비율로 커지는 것은 아닙니다. 좁은 면적에서 더 많은 열이 발생하므로 단위 면적당 열부하, 즉 열유속이 높아집니다.
공랭 서버는 GPU 위의 히트싱크로 열을 전달한 뒤, 팬으로 공기를 통과시켜 그 열을 제거합니다. 발열이 커질수록 히트싱크는 커지고 더 높은 풍량과 정압이 필요합니다. 그 결과 다음과 같은 문제가 생깁니다.
서버가 두꺼워져 같은 랙에 넣을 수 있는 GPU 수가 줄어듭니다.
고속 팬의 전력 소비와 소음이 커집니다.
입구 공기 온도와 서버 내부 유로에 더 엄격한 조건이 필요합니다.
냉각이 부족하면 GPU가 클록을 낮추는 열 스로틀링이 발생할 수 있습니다.
따라서 공랭의 한계는 단순히 “서버실이 덥다”는 뜻이 아닙니다. 칩에서 공기로 열을 넘기는 구조 자체가 고밀도 시스템에 불리해진다는 뜻입니다.
2. 랙과 데이터센터가 필요한 공기량을 감당하기 어려워진다
GPU 한 개를 공랭으로 식힐 수 있더라도, 여러 대를 한 랙에 모으면 또 다른 문제가 생깁니다. 랙 전력이 높아질수록 더 많은 공기를 통과시켜야 하기 때문입니다.
풍량을 늘리려면 팬을 더 빠르게 돌려야 합니다. 일반적인 팬 법칙에 따르면 팬 동력은 회전 속도의 세제곱에 비례해 증가합니다. 냉각을 강화할수록 팬과 공조 설비가 더 많은 전기를 쓰고 그 전력 역시 다시 열이 됩니다.
시설 측 부담도 커집니다. 대형 풍도, 냉·열복도 격리, 고성능 공조기, 높은 바닥이나 천장 공간이 필요하고 랙 상·하부의 온도 편차도 관리해야 합니다. 후면 도어 열교환기 같은 보강 기술로 대응 범위를 넓힐 수는 있지만, 모든 랙 밀도를 공랭만으로 처리할 수 있는 것은 아닙니다.
중요한 점은 공랭에 모든 환경에 적용되는 하나의 절대 한계가 있는 것은 아니라는 사실입니다. 외기 조건과 서버 구조, 공조 설계에 따라 가능한 랙 전력은 달라집니다. 다만 랙 밀도가 수십 kW에서 100kW 이상으로 올라갈수록, 공기를 더 많이 밀어 넣는 방식보다 열원에서 액체로 직접 회수하는 방식이 훨씬 현실적이 됩니다.
최신 AI 시스템은 이미 액체냉각을 전제로 설계된다
이 변화는 미래의 전망이 아니라 현재 제품 설계에 이미 반영돼 있습니다.
GPU 시스템 세대 | 대표적인 냉각 구성 | 의미 |
|---|---|---|
NVIDIA H100 세대 | 공랭과 액체냉각 모두 사용 | 서버와 랙 구성에 따라 냉각 방식 선택 가능 |
NVIDIA GB200·GB300 NVL72 | 랙 스케일 직접액체냉각 | 72개 GPU를 한 NVLink 도메인으로 집적하기 위해 액체냉각 적용 |
NVIDIA Vera Rubin NVL72 | 완전 액체냉각, 45°C 급수 기반 온수 냉각 | 고밀도 AI 랙이 액체냉각 인프라를 기본 조건으로 요구 |
즉, GPU 업계는 공랭을 더 강하게 만드는 단계를 넘어 액체냉각에 맞춰 서버와 랙을 함께 설계하는 단계로 들어섰습니다. 세대별 TDP 숫자 하나보다 더 중요한 변화는 냉각 방식이 선택 사양에서 시스템 전제 조건으로 바뀌고 있다는 점입니다.
직접액체냉각(DLC)은 어떻게 작동하는가
직접액체냉각(Direct Liquid Cooling, DLC)은 CPU와 GPU 위에 콜드플레이트를 부착하고 내부 유로로 냉각수를 순환시켜 열을 직접 회수하는 방식입니다.
열은 다음 순서로 이동합니다.
GPU와 CPU의 열이 콜드플레이트로 전달됩니다.
냉각수가 콜드플레이트를 통과하며 열을 흡수합니다.
데워진 냉각수는 CDU 또는 서버 내부 열교환기로 이동합니다.
회수한 열은 시설 냉각수, 외기 또는 다른 열 배출 설비로 전달됩니다.
열이 히트싱크와 대량의 공기를 거치지 않고 액체로 바로 이동하므로, 좁은 공간에서도 훨씬 높은 열부하를 처리할 수 있습니다.
액체냉각이 만드는 세 가지 변화
더 높은 GPU 밀도
대형 히트싱크와 고속 팬에 필요한 공간을 줄일 수 있어, 같은 랙에 더 많은 연산 자원을 배치할 수 있습니다. 데이터센터의 바닥 면적을 더 효율적으로 사용할 수 있다는 뜻입니다.
더 낮은 냉각 전력
액체는 적은 유량으로 많은 열을 옮길 수 있습니다. 서버 팬과 공조 설비의 부담을 낮추고, 조건이 맞으면 냉동기 사용을 줄이거나 외기 냉각 시간을 늘릴 수 있습니다.
다만 액체냉각을 적용한다고 PUE가 자동으로 특정 수치까지 내려가는 것은 아닙니다. 펌프, CDU, 열 배출 방식, 외기 조건과 전력 계통까지 포함한 전체 시설 설계가 함께 최적화돼야 합니다.
온수 냉각과 폐열 활용
최신 랙 스케일 시스템은 차가운 냉각수만을 요구하지 않습니다. NVIDIA는 Vera Rubin NVL72에 45°C 급수 기반의 단상 온수 DLC를 적용한다고 설명합니다. 공급 수온을 높일 수 있으면 냉동기 의존도를 낮추고 회수한 열을 난방이나 급탕 등에 활용할 가능성도 커집니다.
단, 폐열 활용의 경제성은 열을 사용할 수요처와의 거리, 필요한 온도, 계절별 수요에 따라 달라집니다.
냉각은 AI 토큰의 생산 원가에 포함된다
AI 데이터센터를 공장으로 보면 냉각의 경제적 의미가 선명해집니다. GPU는 생산 설비이고, 토큰은 생산물입니다. 전력비에는 GPU가 연산할 때 쓰는 전기뿐 아니라, 그 과정에서 발생한 열을 제거하는 데 필요한 전기도 포함됩니다.
PUE가 1.5인 시설을 예로 들어 보겠습니다. IT 장비가 1의 전력을 사용할 때 시설 전체는 1.5를 사용한다는 뜻입니다. 추가된 0.5에는 냉각뿐 아니라 전력 변환과 배전 손실, 조명 등 여러 부대설비가 포함됩니다. 따라서 이 0.5를 전부 냉각비라고 부르는 것은 정확하지 않습니다.
그럼에도 고밀도 AI 데이터센터에서는 냉각이 시설 오버헤드의 큰 부분을 차지합니다. DLC는 이 비용을 두 방향에서 줄일 수 있습니다.
시설 측에서는 냉동기와 공조기의 전력 부담을 낮출 수 있습니다.
서버 측에서는 고속 팬의 소비전력을 줄일 수 있습니다.
두 번째 절감분은 IT 전력에 포함되므로 PUE만 봐서는 드러나지 않습니다. 액체냉각의 경제성을 평가할 때 PUE뿐 아니라 GPU 성능당 전력, 서버 팬 전력, 랙당 처리량까지 함께 봐야 하는 이유입니다.
그렇다면 공랭은 사라질까
공랭이 없어지는 것은 아닙니다. 네트워크 장비, 스토리지, 저밀도 범용 서버에는 여전히 공랭이 경제적입니다. DLC 서버도 메모리, 전원부, 스토리지 등 콜드플레이트가 직접 식히지 않는 부품의 잔열을 처리하기 위해 공기를 함께 사용하는 경우가 많습니다.
앞으로의 일반적인 형태는 공랭과 액체냉각 중 하나만 선택하는 구조가 아니라, 고발열 부품은 액체로 직접 식히고 나머지 열은 공기로 처리하는 하이브리드 냉각에 가깝습니다. 다만 GPU와 CPU의 전력 밀도가 계속 높아질수록 냉각의 주역은 공기에서 액체로 이동하게 됩니다.
기존 공랭 데이터센터에서도 DLC를 도입할 수 있다
시설형 DLC를 도입하려면 냉각수 배관, CDU, 누수 감지, 수질 관리와 제어 시스템이 필요합니다. 랙당 전력 밀도가 높아지는 만큼 수전·배전 설비와 바닥 하중도 함께 검토해야 합니다.
기존 시설을 전면 개조하기 어렵다면 서버 안에서 냉각수를 순환시키고 회수한 열을 서버 라디에이터로 기존 공조 환경에 배출하는 셀프컨테인드 방식도 선택할 수 있습니다. 이 방식은 칩에서 열을 회수할 때는 액체를 사용하면서도 별도의 시설 냉각수 배관 없이 기존 데이터센터에 설치할 수 있다는 장점이 있습니다.
매니코어소프트는 2017년부터 이러한 서버 통합형 직접액체냉각을 적용한 딥가젯 시스템을 공급해 왔습니다. 기존 공랭 시설을 유지하면서도 고발열 GPU의 온도와 소음, 서버 밀도 문제를 개선하려는 환경에 적합합니다.
공랭의 한계는 더 많은 공간과 전력, 소음을 투입해도 얻는 냉각 효과가 빠르게 줄어들기 때문에 생깁니다. 최신 AI 인프라에서 액체냉각이 필요한 이유도 여기에 있습니다. 액체냉각은 단순히 서버를 차갑게 만드는 기술보다는 제한된 전력과 공간에서 더 많은 연산을 지속하기 위한 인프라 기술입니다.
자주 묻는 질문
공랭 데이터센터는 랙당 몇 kW까지 가능한가요?
하나의 절대 기준은 없습니다. 서버 유로, 입구 공기 온도, 공조 방식과 랙 배치에 따라 크게 달라집니다. 일반적인 공랭 환경은 수십 kW 이하에서 운영하기 쉽고, 고성능 공조와 격리 설비로 범위를 넓힐 수 있습니다. 다만 100kW급 이상의 고밀도 랙에서는 직접액체냉각이 기술적·경제적으로 유리한 경우가 많습니다.
액체냉각은 누수 때문에 위험하지 않나요?
누수 위험은 없다고 할 수 없지만 설계와 운영으로 관리할 수 있습니다. 드립리스 퀵디스커넥트, 이중 밀봉, 압력·유량 감시, 누수 센서와 자동 차단 장치를 함께 사용합니다. 냉각수는 시스템에 따라 물, 탈이온수 또는 물·글리콜 혼합액을 사용합니다. 모든 DLC 냉각수가 절연되는 것은 아닙니다.
액체냉각은 물을 더 많이 소비하나요?
반드시 그렇지는 않습니다. 서버 내부 냉각수는 일반적으로 폐쇄 회로에서 순환합니다. 실제 물 소비량은 회수한 열을 데이터센터 밖으로 내보내는 방식에 좌우됩니다. 냉각탑을 사용하면 물을 소비할 수 있고, 건식 냉각기나 외기 냉각을 사용하면 물 소비를 줄일 수 있습니다.
기존 공랭 데이터센터를 액체냉각으로 전환할 수 있나요?
가능합니다. 시설형 DLC는 배관과 CDU 등 추가 설비가 필요하고, 셀프컨테인드 DLC 서버는 기존 공조 환경을 활용할 수 있습니다. 어떤 방식이 적합한지는 목표 랙 전력, 시설 전력 용량, 냉각 여유와 향후 증설 계획을 함께 검토해 결정해야 합니다.