“슈퍼마이크로의 직접 액체 냉각(DLC) 시스템으로 데이터센터 운영 비용을 5년 동안 6000만달러(약 800억원)가량 절약할 수 있습니다. 현재 DLC를 적용한 데이터센터는 전 세계 1% 수준이지만, 2년 안에 30%까지 높일 것입니다.”
찰스 리앙 슈퍼마이크로 창업자 겸 최고경영자(CEO)가 5일(현지시각) 아시아 최대 컴퓨팅·IT 전시회 ‘컴퓨텍스 2024′ 기조연설에서 이같이 말했다. 리앙 CEO는 젠슨 황 엔비디아 CEO와 리사 수 AMD CEO와 같은 대만 출신이다. 미국 텍사스대에서 전기공학을 전공한 그는 지난 1993년 슈퍼마이크로를 창업했다.
슈퍼마이크로는 인공지능(AI)을 구동하면서 발생하는 열을 낮추는 DLC 시스템을 엔비디아와 인텔, AMD 등의 중앙처리장치(CPU)와 그래픽처리장치(GPU)가 들어가는 데이터센터에 공급하고 있다. 슈퍼마이크로는 클라우드 시장에서 20% 이상의 시장 점유율을 기록하고 있다.
그동안 데이터센터를 운영하는 기업들은 데이터센터 내에 공기를 통과시켜 열을 식히는 방식(공랭식)의 냉각 시스템을 적용해 왔다. 하지만 에너지 효율이 떨어지고 환풍기 소음이 심하다는 단점이 있다. 이를 대체할 수 있는 액체 냉각 방식인 슈퍼마이크로의 DLC 시스템을 도입하는 추세다. 지난 1일(현지시각) 슈퍼마이크로가 발표한 2024 회계연도 3분기(1~3월) 매출액은 38억5000만달러(약 5조3130억원)으로 전년 동기(12억8000만달러) 대비 3배 가까이 늘었다.
리앙 CEO는 DLC 시스템을 활용하면 운영 비용뿐만 아니라 전력 소모도 줄일 수 있다고 밝혔다. 그는 “DLC 시스템의 전력 소모량은 대규모언어모델(LLM)을 구동하는 데이터센터에서 활용하는 공랭식 냉각 시스템의 20% 수준”이라며 “DLC 시스템을 이용하면 전체 데이터센터 전력 사용량을 최대 40%까지 줄일 수 있다”고 했다.
리앙 CEO는 고객사가 DLC 시스템을 효율적으로 도입할 수 있도록 파트너사들과 협력을 강화하고 있다고 했다. 그는 “이전에는 DLC 시스템을 적용하는 데 최소 4개월에서 12개월가량 소요돼 고객사에서 도입하길 꺼려했고, 액체 형태의 냉각 시스템이 유지 및 보수가 어렵다는 인식이 있었다”며 “이제는 2~4주 안에 도입할 수 있도록 기간을 단축했고, 지난 3년 동안 파트너사들과 협력을 통해 데이터센터에 최적화된 설계를 적용했다”고 했다.
슈퍼마이크로는 증가하는 DLC 시스템 수요에 대응하기 위해 생산능력도 확대할 방침이다. 리앙 CEO는 “미국과 대만, 네덜란드 등에 생산 기지를 마련해 한 달에 1000대 이상 생산할 수 있다”며 “여기에 생산능력을 2배 이상 늘릴 수 있도록 생산시설을 확충할 계획”이라고 했다.
그러면서 그는 아직 1%에 불과한 DLC 시스템 도입 비중을 30%까지 높일 것이라고 설명했다. 리앙 CEO는 “AI 열풍으로 이를 가동하기 위한 데이터센터도 빠르게 늘고 있다”며 “이들이 DLC 시스템을 적극 도입하고 있고, 공랭식을 적용한 데이터센터에서도 DLC 도입을 고려하고 있어 몇 개월 안에 10% 이상으로 늘어날 것으로 전망되며, 1~2년 이내에 30%까지 높이는 것을 목표로 하고 있다”고 했다.
리앙 CEO는 엔비디아의 차세대 AI 가속기를 탑재한 DLC 시스템을 선보일 것이라고 했다. 그는 “엔비디아의 B100과 B200 등 신제품이 탑재되 DLC 시스템을 공개할 것”이라며 “AI 가동을 위한 LLM 학습과 딥러닝에 최적화된 시스템이 될 것이다”고 했다.
이날 무대에는 젠슨 황 CEO가 예고 없이 깜짝 등장했다. 황 CEO는 “리앙 CEO와 나는 30년 동안 알고 지낸 사이”라며 리앙 CEO와 함께 엔비디아 GPU가 탑재된 슈퍼마이크로의 DLC 시스템을 소개했다.
그러면서 그는 “생성형 AI의 등장으로 서버 수가 기하급수적으로 늘어나고 있다”며 “슈퍼마이크로의 액침 냉각 기술과 서버 설계 능력으로 전력 효율뿐만 아니라 비용까지 절감할 수 있다”고 했다