"인공지능(AI) 서비스에 질문 하나를 던질 때 사용하는 전력은 일반 인터넷 검색의 약 10배다. AI를 개발하는 사람들은 성능을 고민하지만, 인프라를 담당하는 사람들은 이제 전기를 걱정하고 있다."
이일준 NHN클라우드 기술사업부장(이사)은 26일 서울 중구 웨스틴조선호텔에서 열린 국내 최대 테크 콘퍼런스 '스마트클라우드쇼 2026'에서 "AI 경쟁은 결국 데이터센터와 전력 확보 경쟁"이라며 이같이 말했다.
이 이사는 'AI 인프라와 데이터센터, AI가 바꾸는 것에 대한 이해'를 주제로 한 강연에서 "과거 데이터센터는 5~8메가와트(㎿) 규모가 일반적이었지만, 최근에는 60~100㎿를 넘어 기가와트(GW)급 데이터센터까지 거론된다"고 했다. NHN클라우드가 최근 이용하기 시작한 20㎿ 규모 데이터센터는 인구 약 10만명인 충남 공주시와 맞먹는 전력을 소비한다.
AI 확산은 데이터센터의 성격도 바꾸고 있다. 기존 데이터센터가 중앙처리장치(CPU)를 기반으로 웹·검색·데이터베이스 서비스를 처리했다면, AI 데이터센터는 수천~수만개의 코어로 병렬 연산을 수행하는 그래픽처리장치(GPU)를 중심으로 운영된다. 데이터를 원료로 받아 '지능'을 생산한다는 점에서 데이터센터가 'AI 공장'으로 변하고 있다는 것이다.
문제는 최신 GPU를 구매해도 이를 가동할 시설이 부족하다는 점이다. 기존 데이터센터는 랙당 4~7킬로와트(㎾)를 공급하도록 설계됐지만, AI GPU 랙에는 40~130㎾가 필요하다. 엔비디아의 차세대 베라 루빈 NVL72는 랙 하나가 약 210㎾를 소비할 것으로 예상된다.
이 이사는 "5㎾ 기준으로 설계된 기존 데이터센터에 210㎾짜리 랙을 넣으면 기존 랙 약 40개가 사용할 전력을 하나가 독차지한다"며 "공간이 있어도 전력과 냉각 능력이 부족해 최신 AI 장비를 설치하지 못하는 상황"이라고 설명했다.
전력 밀도가 높아지면서 공기로 열을 식히는 기존 냉각 방식도 한계에 도달했다. 공랭식 냉각은 랙당 30~40㎾가 사실상 한계다. 이를 넘어서면 냉각수를 칩에 직접 접촉시키는 '직접 칩 냉각(Direct-to-Chip)'이 필요하고, 향후에는 서버를 비전도성 액체에 담그는 액침 냉각도 확산할 가능성이 크다. AI 데이터센터가 전산실에서 전력·배관·냉각 설비를 갖춘 기계시설로 바뀌는 셈이다.
입지 선정 기준도 달라지고 있다. 이 이사는 "과거에는 이용자가 많은 수도권과 가깝고 통신 지연이 짧은 곳을 선호했지만, 이제는 대규모 전력을 확보할 수 있는지가 우선"이라며 "AI 학습은 실시간 응답 속도의 중요성이 상대적으로 낮아 데이터센터를 지방에 건설할 여지도 크다"고 했다. 수도권 전력 제약이 강화될수록 AI 데이터센터의 지역 분산이 빨라질 수 있다는 의미다.
글로벌 빅테크가 발전 사업에 가까운 행보를 보이는 것도 같은 이유다. 마이크로소프트(MS)는 미국 스리마일섬 원전 재가동을 통해 전력을 공급받기로 했고, 아마존과 구글은 소형모듈원전(SMR)에 투자하고 있다. 데이터센터 산업의 경쟁력이 건물이나 서버 보유량보다 안정적인 전력 조달 능력에 좌우되는 '에너지 사업'으로 이동하고 있는 것이다.
이 이사는 "세계 최대 데이터센터 밀집 지역인 미국 북버지니아의 공실률은 0.3%에 불과하고, 2027년에는 데이터센터가 요구하는 전력의 40%가 부족할 것이라는 전망도 나온다"며 "돈이 있어도 끌어올 전기가 없어 데이터센터를 짓지 못하는 시대가 됐다"고 말했다.
NHN클라우드는 2023년 광주 국가AI데이터센터를 구축한 데 이어 서울 영등포구 양평동에서 대규모 AI 클러스터 'NHN 팩토리X'를 운영하고 있다. 팩토리X에는 엔비디아 B200 GPU 7656장이 탑재됐으며, 관련 사업 규모는 약 1조100억원이다.
이 이사는 기업들이 막대한 비용을 들여 자체 AI 인프라를 구축하기 전에 클라우드 GPU로 사업성을 검증해야 한다고 조언했다. 그는 "AI 서버 한 대에 10억~15억원 이상이 들어가는데, 그만큼의 가치를 창출할 수 있는지 먼저 확인해야 한다"며 "3개월에서 1년 정도 클라우드를 이용한 뒤 자체 투자 여부를 결정하는 것이 바람직하다"고 말했다.
이어 "AI 경쟁력을 확보하기 위한 투자는 계속되겠지만 모든 기업이 데이터센터를 직접 지을 필요는 없다"며 "앞으로의 핵심은 가장 비싼 GPU를 보유하는 것이 아니라 전력과 냉각 비용까지 포함해 AI 인프라를 얼마나 효율적으로 운영하느냐가 될 것"이라고 했다.