"인공지능(AI) 전용 데이터센터와 일반 데이터센터의 가장 큰 차이는 전력 밀도입니다. 고성능 그래픽처리장치(GPU)는 많은 전력을 소비해 발열이 심하기 때문에 찬물로 열을 식히는 수랭식 냉각 방식을 적용했습니다."이일준 NHN클라우드 기술사업부장(이사)
18일 방문한 서울 영등포구 양평동 소재 'NHN 팩토리X 서울'은 엔비디아 최신 B200 그래픽처리장치(GPU) 7656장을 운용하는 인공지능(AI) 데이터센터다. NHN클라우드가 미래 성장 동력으로 내세운 AI 인프라 사업의 핵심 거점 중 하나로, 국내 기업·정부 기관·학계가 필요로 하는 고성능 연산 자원을 제공한다.
이날 NHN 팩토리X 서울 6층 데이터홀에 들어서자, 물건을 보관하는 수납장(캐비닛)처럼 생긴 검은색 GPU 서버 랙 6대가 양옆으로 줄지어 선 모습이 눈에 들어왔다. 이렇게 늘어선 서버 랙은 일정한 간격을 두고 수십 개 열을 채우고 있었다. 랙 한 대당 B200 GPU 서버 6대와 냉각수 분배장치(CDU)가 배치됐고, 랙 위로는 차가운 냉각수를 공급하고 데워진 물을 회수하는 굵은 수랭 배관이 연결되어 있었다. 선풍기와 소형 모터 수십대가 돌아가는 것 같은 '윙' 소리가 공간에 울려퍼졌다.
수랭식 냉각은 서버 발열의 90%를 차지하는 GPU와 신경망처리장치(CPU)에 닿는 콜드 플레이트를 통해 열을 흡수하는 방식이다. 기존 공랭식 냉각이 공기의 흐름을 활용해 장비의 열을 낮추는 방식이라면, 수랭식은 열 전달 효율이 높은 액체를 이용해 GPU 밀도가 높은 AI 데이터센터에 필요한 안정적인 냉각 성능을 제공한다.
NHN 팩토리X 서울이 입주한 데이터센터는 공랭식으로 설계됐지만, NHN클라우드는 대규모 B200 GPU를 운용하기 위해 직접수랭식(DLC) 설비를 별도 구축했다. 이일준 NHN클라우드 기술사업부장(이사)은 "찬물이 별도 배관을 통해 서버 랙까지 이동해 장비를 식히고, 데워진 물은 빠져나오는 냉매 순환 방식"이라고 설명했다.
이날 NHN클라우드는 국내 최초로 수랭식 냉각 방식을 대규모 GPU 자원에 적용했다는 점을 차별화 요인으로 꼽았다. 이곳에 구축된 서버 랙 하나에는 B200 GPU 48장이 들어가고, 랙당 전력 밀도는 75kW로 일반 데이터센터의 약 2배 수준이다. 고성능 GPU 서버의 전력 밀도가 높아지면서 발열도 심해지고 있어, 냉각 기술의 중요성이 커지고 있다. 이때 발생하는 열을 효율적으로 식히려면 수랭식 냉각이 필수라는 게 회사 측의 설명이다.
이일준 이사는 "엔비디아가 선보일 차세대 GPU는 랙당 전력 밀도가 점점 높아길 것이기 때문에 앞으로 구축될 AI 데이터센터는 수랭식 냉각을 사용할 수밖에 없다"며 "베라루빈 GPU만 해도 랙당 230kW 수준의 전력을 요구하기 때문에 랙당 30~40kW의 전력 밀도에 맞춰진 공랭식 냉각으로는 발열을 잡을 수 없다"고 했다.
NHN 팩토리X 서울은 정부가 예산 1조원을 투입해 조성한 AI 인프라로, 국가 소유 자산이다. NHN클라우드는 향후 5년간 해당 인프라의 구축과 운영을 맡게 됐다. 이를 위해 지난해 8월 총 8층 규모의 민간 데이터센터의 절반인 3~6층을 임차했고, 올해 4월 가동을 시작했다.
NHN 팩토리X 서울이 입주한 공간 중 3~5층은 정부 AI 컴퓨팅 자원을 운영하는 공간이고, 6층은 NHN클라우드 자체 AI 클라우드 서비스 운영에 활용된다. 국가 소유 자산인 B200 GPU 인프라의 80%는 정부가 지정한 기업·대학·연구기관에 제공하고 나머지 20%는 NHN클라우드가 이용하는 구조다.
이 이사는 "서버 한 대를 한 달 빌려쓰는 데 약 5000만원을 내야 하는데, 대다수 기관과 기업이 감당하기 어려운 비용"이라며 "정부가 지정하는 산업체는 시중 가격의 약 10분의 1 수준에 AI 연산 자원을 사용할 수 있고, 학교나 연구소는 무상으로 제공받고 있다"고 했다. 이어 "AI 인프라는 워낙 고가라 비용 부담이 크기 때문에 이번 정부 사업은 국내 산업 전반에 필요로 하는 AI 연산 자원을 보다 저렴하게 제공해 AI 생태계를 활성화하는 데 중점을 뒀다"고 덧붙였다.
NHN 팩토리X 서울의 전체 IT 로드는 13메가와트(㎿) 규모로, 인구 10만명의 중소도시가 사용하는 전력 규모를 뛰어넘는다고 회사 측은 설명했다. 외부 전력은 이중 수전 방식을 적용해 공급 안정성을 확보했고, UPS와 비상 발전기를 통해 장애 발생 시에도 서비스 연속성을 유지할 수 있도록 설계했다.
NHN의 클라우드 자회사인 NHN클라우드는 서울을 포함해 판교, 평촌, 광주, 대구까지 총 5곳에서 데이터센터를 운영하고 있다. AI 산업의 필수 기반 시설이 된 AI 데이터센터와 GPU 인프라는 NHN의 핵심 성장축으로 자리매김했다.
실제 올해 4월 양평 'NHN 팩토리X 서울'이 가동을 시작하면서 NHN은 2분기 역대 최대 실적을 기록했다. 매출은 7579억원, 영업이익은 579억원으로 각각 전년 동기 대비 25.3%, 164.1%씩 증가했다.
특히 NHN클라우드의 AI GPU 사업의 성장세가 본격화되면서 NHN의 기술 부문 매출은 52.9% 성장한 1598억원을 기록했다. NHN클라우드만 놓고 보면, 엔비디아 B200 기반의 서비스형 GPU 공급이 본격화된 서울 양평 데이터센터에서 안정적인 매출이 발생하기 시작하면서 2분기 매출이 전년 동기 대비 85.3% 늘었다. NHN클라우드는 현재 양평 리전에서 자체운영 중인 물량의 잔여분에 대해 신규 장기계약을 논의 중이다.