SK텔레콤의 인공지능(AI) 전략이 모델 개발을 넘어 'AI를 돌리는 인프라'로 이동하고 있다. 생성형 AI 경쟁의 무게중심이 초거대 모델 학습에서 실제 서비스를 안정적이고 저렴하게 구동하는 추론 인프라로 옮겨가고 있다는 판단에서다.
이재신(50) SK텔레콤 AI사업개발담당(부사장)은 지난 15일 조선비즈와 만나 "AI 산업의 무게중심이 학습에서 추론으로 넘어가고 있다"며 "앞으로는 AI 데이터센터와 추론 인프라를 얼마나 효율적으로 운영하느냐가 경쟁력이 될 것"이라고 말했다.
미국 시라큐스대 회계학 석사 출신인 이 부사장은 2001년 SK텔레콤에 입사해, 사업 개발 및 전략 업무 등 주요 보직을 두루 거쳤다. 2021년부터는 AI사업개발담당을 맡아 SK텔레콤 AI CIC 산하에서 투자, 사업 개발, 전략, 글로벌 빅테크 파트너십을 맡고 있다. 앤트로픽과 퍼플렉시티 투자를 주도했고, 이를 AI 개인비서 서비스 에이닷과 독자 파운데이션 모델 A.X K1 개발로 연결해 왔다. 최근에는 국산 AI 반도체와 AI 데이터센터까지 묶는 풀스택 전략에 속도를 내고 있다.
그가 보는 AI 투자의 기준은 분명하다. 단순 재무 투자가 아니라 SK텔레콤의 사업과 맞물려야 한다는 것이다. 이 부사장은 "투자할 때는 전략적 시너지가 입증돼야 한다"며 "아무리 좋은 회사라도 우리와 사업적 협력 가능성이 없으면 투자하지 않는다"고 했다.
앤트로픽 투자는 이 원칙을 보여주는 사례다. SK텔레콤은 생성형 AI 시장이 본격화되던 시점부터 자체 모델 개발과 글로벌 선도 모델 기업과의 협력을 병행해야 한다고 봤다. 이 부사장은 "앤트로픽은 왜 우리에게 투자하려고 하는지, 서로 얻을 수 있는 게 무엇인지 먼저 물었다"며 "단순 자금 유치보다 장기 협력 가능성을 따지는 태도가 인상적이었다"고 말했다.
◇ 엔비디아 GPU에 리벨리온 NPU 더해 추론 인프라 보완
SK텔레콤은 최근 엔비디아와 DSX 플랫폼 기반 '풀스택 AI 클라우드' 협력에 나섰다. 엔비디아의 최신 그래픽처리장치(GPU) 블랙웰과 차세대 플랫폼 베라 루빈을 선제적으로 확보해 AI 학습과 고성능 추론 수요에 대응한다는 구상이다.
동시에 SK텔레콤은 모든 AI 연산을 GPU에만 맡기지 않는 전략을 추진하고 있다. 작업 성격에 따라 GPU와 신경망처리장치(NPU)를 함께 쓰는 '이종 컴퓨팅 하이브리드' 구조다. 학습과 고성능 연산은 GPU가 맡고, 반복적으로 발생하는 서비스 추론은 전력 효율이 높은 NPU가 일부 분담하는 방식이다.
이 부사장은 리벨리온 NPU의 역할을 "GPU의 대체가 아니라 보완"이라고 설명했다. 그는 "GPU가 잘하는 영역과 NPU가 더 효율적인 영역을 나눠 쓰는 하이브리드 전략을 가져가고 있다"며 "학습이나 범용 고성능 연산에서는 GPU가 계속 중요하지만, 이미 만들어진 모델을 실제 서비스에서 반복적으로 구동하는 추론 영역에서는 전력 효율과 운영비용이 훨씬 중요하다"고 말했다.
SK텔레콤이 최근 Arm, 리벨리온과 CPU·NPU 결합형 AI 추론 서버 솔루션 개발에 나선 것도 같은 맥락이다. 세 회사는 Arm의 데이터센터용 프로세서 'Arm AGI CPU'와 리벨리온의 AI 추론용 가속기 '리벨카드'를 결합한 서버를 개발하고, 이를 SK텔레콤 AI 데이터센터에서 검증할 계획이다.
AI 추론은 학습을 마친 모델이 실제 서비스에서 이용자 요청에 응답하는 단계다. 개별 연산은 학습보다 가벼울 수 있지만, 이용자 요청이 상시 반복되기 때문에 누적 사용량이 커질수록 전력 효율, 지연시간, 안정성, 운영비용이 핵심 경쟁력이 된다.
이 부사장은 "AI 데이터센터는 서버만 단순히 제공하는 사업자가 아니다"라며 "AI 모델과 서비스를 24시간 끊김 없이 안정적으로 구동해야 하는 핵심 인프라"라고 말했다.
◇ 모델·서비스·데이터센터 묶는 풀스택 AI
SK텔레콤은 AI 사업을 모델, 서비스, 인프라가 결합된 구조로 보고 있다. 독자 파운데이션 모델 A.X K1, AI 개인비서 서비스 에이닷, GPU 기반 AI 클러스터 '해인', AI 데이터센터를 하나로 묶는 방식이다.
이 부사장은 "어떤 회사는 인프라만 할 수 있고, 어떤 회사는 서비스만 할 수 있다"며 "우리는 둘 다 가지고 있고 이를 연결할 수 있다는 점이 차별점"이라고 했다. 그는 "전 세계 통신사 중 서비스와 인프라, 모델까지 풀스택을 모두 가진 회사는 거의 없다"고 말했다.
통신사로서 쌓아온 운영 경험도 AI 인프라 경쟁력으로 보고 있다. AI 서비스는 장애 없이 상시 작동해야 하고, 대규모 트래픽을 안정적으로 처리해야 한다. 통신망 운영에서 축적한 장애 대응, 품질 관리, 트래픽 제어 역량이 AI 데이터센터 운영에도 적용될 수 있다는 설명이다.
퍼플렉시티 투자는 풀스택 전략의 서비스 측면을 보여준다. SK텔레콤은 퍼플렉시티의 AI 검색 역량을 에이닷에 접목할 수 있다고 판단했다. 이 부사장은 "퍼플렉시티가 검색에서 강점이 있었고, 에이닷 서비스에 이 기능을 넣어 협력해보자는 부분에 처음부터 설득됐다"고 말했다.
◇ 울산 AI 데이터센터로 글로벌 수요 대응
SK텔레콤이 아마존웹서비스(AWS)와 울산에 짓고 있는 하이퍼스케일급 AI 데이터센터도 추론 인프라 전략의 핵심 축이다. 글로벌 빅테크와 국내 통신사가 한국에 대규모 AI 데이터센터를 조성한다는 점에서 국내 AI 인프라 시장의 상징적 사업으로 꼽힌다.
이 부사장은 "글로벌 빅테크가 한국에 데이터센터를 만든다는 점에서 큰 의미가 있다"며 "국내 수요뿐 아니라 해외 수요에 대응한다는 점에서도 의미가 있다"고 말했다. 그는 "AWS와 데이터센터를 짓고 끝나는 것이 아니라, 빅테크가 요구하는 조건을 맞추면서 운영 노하우를 축적할 수 있다"고 했다.
울산이 선택된 배경에는 전력, 부지, 네트워크 입지가 있다. AI 데이터센터는 일반 데이터센터보다 전력 수요가 크다. 수도권은 부지와 전력망 부담이 크지만, 울산은 대규모 부지 확보가 가능하고 부산의 국제 해저 케이블 육양국과도 가깝다. SK그룹 계열사가 운영하는 LNG 발전소가 인근에 있어 전력 확보 측면에서도 유리하다는 설명이다.
이 부사장은 "울산은 데이터센터를 짓기 위한 땅도 중요하고, 해저 케이블이나 네트워크 연결성 측면에서도 적합한 위치"라며 "작은 데이터센터를 여러 곳에 짓는 것보다 나중에 확장할 수 있는지, 땅과 전력이 확보됐는지가 중요했다"고 말했다.
AI 데이터센터 투자는 주주 입장에서는 대규모 비용으로 보일 수 있다. 그러나 SK텔레콤은 이를 통신 본업 이후의 장기 성장 인프라로 보고 있다. AI 서비스가 늘어날수록 학습과 추론을 위한 컴퓨팅 수요가 구조적으로 커지고, 이를 안정적이고 효율적으로 운영하는 사업자의 가치도 높아질 것이라는 판단이다.
이 부사장은 "주주 관점에서 중요한 질문은 이 투자가 단순 비용이냐, 미래 성장을 위한 기반이냐일 것"이라며 "SK텔레콤은 AI 데이터센터 투자를 통신 본업 이후의 장기 성장 인프라로 보고 있다"고 말했다.
◇ 소버린 AI 수요 겨냥… 다음 투자도 인프라
SK텔레콤은 공공기관, 금융, 통신, 연구 영역에서 국내 통제가 가능한 소버린 AI 인프라 수요가 커질 것으로 보고 있다. 데이터가 어디에 저장되고, 누가 운영하며, 보안과 통제가 가능한지가 AI 인프라 선택의 중요한 기준이 될 것이라는 판단이다.
이 부사장은 "데이터 주권, 데이터센터 위치, 보안, 국내 운영 여부에 대한 신뢰가 중요하다"며 "공공기관이나 금융, 통신, 연구 영역에서는 국내에서 통제 가능한 AI 인프라 수요가 많아질 것"이라고 말했다.
향후 투자 방향도 인프라 쪽에 무게가 실린다. 이 부사장은 "지금은 인프라 쪽에 조금 더 집중해야 한다"며 "데이터센터를 더 효율적으로 운영할 수 있는 기술과 소프트웨어를 가진 회사를 살펴보고 있다"고 했다.
다만 당장 특정 국가를 정해 AI 수출에 나서기보다는 국내에서 모델과 서비스, 인프라의 완성도를 높이는 데 우선순위를 두고 있다. 이 부사장은 "어떤 나라를 제일 먼저 뚫었다는 식의 수출 성과보다 AI 모델을 더 정교하게 만들고 다양한 서비스를 넣는 것이 중요하다"며 "글로벌 진출은 이 부분을 더 정교하게 한 뒤 나가는 것이 좋다고 본다"고 말했다.