인공지능(AI) 데이터센터 시장이 빠르게 성장하면서 고성능 그래픽처리장치(GPU)의 열을 식히는 수랭식 냉각 기술이 주목받고 있다. 기존 데이터센터는 찬 바람을 불어넣는 공랭식 냉각 기술을 사용했는데, 최첨단 GPU를 대규모로 가동하는 AI 데이터센터는 공기 흐름만으로는 발열을 잡기 어려워 물로 열을 낮추는 액체 냉각 기술을 도입하고 있다.
1일 시장조사업체 마켓앤마켓에 따르면 전 세계 데이터센터 냉각 시장은 올해 132억3000만달러(약 18조1400억원)에서 2033년 376억2000만달러(약 51조6000억원)로 연평균 16.1% 성장할 전망이다. AI와 클라우드 수요 확산으로 데이터센터 소비 전력과 부하가 급증하면서 냉각 기술의 중요성이 커지고 있기 때문이다.
특히 첨단 GPU는 전력 밀도와 발열이 높아 더 안정적이고 효율적인 냉각 기술을 필요로 한다. 고성능 AI 반도체에서 발생한 열을 제때 식히지 못해 장비가 과열되면 칩의 성능이 저하되거나 고장이 날 수 있기 때문이다.
기존 데이터센터는 찬 공기로 열을 식히는 공랭식을 기준으로 설계됐다. 공랭식 냉각은 설치와 유지보수가 비교적 수월하다는 장점이 있지만, GPU 랙당 전력 밀도가 일반 데이터센터의 2배 이상인 AI 데이터센터에서는 냉각 효율이 떨어진다. 공랭식 냉각은 일반적으로 랙당 20~40kW 수준의 전력 밀도에 대응할 수 있지만, 엔비디아의 차세대 고성능 '베라 루빈' GPU가 집적된 서버 랙의 전력 밀도는 230kW에 달한다.
액체 냉각은 이런 공랭식 냉각의 한계를 보완하는 기술로 각광받고 있다. AI 칩에 냉각수가 흐르는 콜드플레이트(금속 냉각판)을 부착해 열을 흡수하는 '직접 칩 냉각(D2C)' 방식이 대표적이다. 공기를 순환시키는 것보다 열전달 효율이 높은 액체를 활용해 GPU와 신경망처리장치(NPU)에서 발생하는 열의 65~75%를 회수할 수 있다는 게 업계의 설명이다.
다만 GPU 서버를 제외한 메모리, 네트워크 장비 등에서 나오는 25~35%의 열은 공기로 온도를 낮춰야 하기 때문에 액체 냉각을 기준으로 설계한 AI 데이터센터도 결국 두 방식을 결합한 하이브리드 구조로 운영된다.
업계에서는 추후 서버 전체를 특수 냉각액에 담가 열을 제거하는 '액침 냉각'도 상용화될 것으로 전망하고 있다. 현재는 특수 냉각액의 비용이 높은 편인 데다 관련 장비 유지보수가 어렵다는 점이 걸림돌로 작용하고 있지만, AI 데이터센터의 랙당 전력 사용량이 1메가와트(MW)를 넘어서는 단계까지 높아지면 액침 냉각 수요도 확산할 것으로 예상된다.
국내외 기업들도 액체냉각 관련 기술과 인프라에 선제적으로 투자하고 있다. LG CNS는 네이버클라우드와 손잡고 삼송 데이터센터에 액체냉각 기술인 '직접 칩 냉각'을 적용할 예정이다. 한국에너지기술평가원과 공동으로 액침 냉각 기술 연구도 진행 중이다. AI 인프라 기업 엘리스그룹은 고전력 GPU 설비를 구동할 때 발생하는 열을 효율적으로 식히기 위해 냉수가 아닌 40도 이상의 온수를 활용한 냉각 기술을 현재 구축 중인 모듈형 데이터센터에 도입할 계획이다.
엔비디아는 지난 6월 차세대 베라 루빈 전용 AI 데이터센터의 표준을 '100% 수랭식'으로 설계하면서 "완전 액체냉각 방식의 인프라를 적용하면 전력 사용량을 획기적으로 줄일 수 있다"고 주장했다. 엔비디아에 따르면 50메가와트(MW) 규모의 대규모 데이터센터가 액체냉각 인프라로 전환하면 냉각 관련 에너지와 용수 비용을 연간 400만달러(약 56억원) 이상 절감할 수 있다.
삼일PwC는 최근 발간한 보고서에서 "AI 산업의 경쟁 구도가 GPU 확보에서 '열 관리'로 이동하고 있다"며 "AI 서버의 전력 밀도와 발열량이 급증하면서 한정된 전력과 공간을 얼마나 효율적으로 활용하느냐가 데이터센터의 경쟁력을 가르는 요소로 부상했다"고 분석했다.