SK텔레콤이 엔비디아와 손잡고 인공지능(AI) 인프라 시장 공략에 나선다. 이동통신 가입자와 요금제 중심의 성장 공식이 둔화한 상황에서 통신망과 데이터센터 운영 역량을 AI 연산 인프라로 전환해 새 수익원을 만들겠다는 구상이다.
이번 협력은 SK그룹과 엔비디아의 관계가 반도체 공급을 넘어 AI 인프라 전반으로 넓어지는 계기이기도 하다. 그동안 양사의 협력은 SK하이닉스의 고대역폭메모리(HBM) 등 메모리 분야에 집중돼 있었지만, 앞으로는 SK텔레콤의 데이터센터 구축·운영 역량과 엔비디아의 그래픽처리장치(GPU)·소프트웨어 플랫폼을 묶어 AI 팩토리 설계와 운영까지 공동으로 추진하는 구조가 된다.
◇ 통신망, AI 연산 인프라로 재정의
8일 SK텔레콤은 엔비디아 DSX 플랫폼을 기반으로 칩부터 데이터센터 운영까지 포괄하는 '풀스택 AI 클라우드' 협력을 추진한다고 밝혔다. 양사는 AI 작업에 특화된 데이터센터인 'AI 팩토리'를 기가와트(GW)급 규모로 확장할 계획이다. 첫 AI 팩토리는 오는 2027년 한국에서 가동될 예정이다.
AI 팩토리는 기존 데이터센터와 성격이 다르다. 일반 데이터센터가 서버와 저장장치를 기반으로 범용 클라우드 서비스를 제공했다면, AI 팩토리는 대규모 AI 모델의 학습과 추론을 처리하는 전용 생산 설비에 가깝다. 전력과 데이터를 투입해 생성형 AI 서비스의 기본 단위인 토큰을 생산하는 구조다.
SK텔레콤이 이번 협력에서 '최저 토큰 비용'과 '와트당 최고 성능'을 강조한 것도 이 때문이다. AI 클라우드 경쟁력은 GPU 물량만으로 결정되지 않는다. 반도체, 메모리, 네트워크, 냉각, 데이터센터 운영, 소프트웨어를 한꺼번에 최적화해야 한다. AI 사용량이 늘수록 기업들은 같은 비용으로 더 많은 토큰을 처리할 수 있는 인프라를 찾게 된다.
최태원 SK그룹 회장과 젠슨 황 엔비디아 최고경영자(CEO)가 지난 1일 대만에서 만나 AI 인프라 로드맵을 논의한 것도 이런 흐름과 맞닿아 있다. 양사는 차세대 AI 팩토리 아키텍처 공동 연구를 위한 협의체를 구성할 계획이다. 설계 단계부터 GPU와 메모리 성능을 함께 끌어올리는 컴퓨팅 구조를 연구하겠다는 것이다.
◇ 전력·고객 확보가 사업화 관건
SK텔레콤 입장에서는 이번 협력이 '탈통신' 전략의 시험대가 될 수 있다. 통신사는 전국 단위 네트워크 운영 경험과 데이터센터 운용 역량을 갖고 있다. AI 클라우드는 통신사가 보유한 망과 운영 역량을 새 사업으로 전환할 수 있는 영역이다. 통신망이 단순 연결망을 넘어 AI 서비스를 돌리는 기반 인프라로 재정의되는 셈이다.
다만 사업화의 문턱은 높다. GW급 AI 팩토리는 막대한 전력을 안정적으로 조달해야 하고, 고가의 GPU를 높은 가동률로 운영해야 수익성이 나오기 때문이다. IT업계 관계자는 "글로벌 빅테크와 대기업의 AI 학습·추론 수요를 얼마나 확보하느냐와 전력·냉각 비용을 얼마나 낮추느냐가 SK텔레콤의 AI 인프라 승부수를 가를 핵심 변수가 될 것"이라고 했다.
젠슨 황 엔비디아 최고경영자(CEO)는 "통신 네트워크는 국가 AI 인프라로 진화하고 있다"며 "SK텔레콤은 엔비디아 DSX 플랫폼을 통해 대규모 AI 클라우드를 구축하고 기업과 산업계에 에이전트 AI, 엔터프라이즈 AI, 피지컬 AI를 제공할 수 있게 될 것"이라고 했다.