SK텔레콤이 글로벌 반도체 설계 기업 Arm, 국내 AI 반도체 스타트업 리벨리온과 손잡고 인공지능 데이터센터(AI DC)용 차세대 추론 서버 개발에 나선다. 대규모 언어모델 경쟁의 무게중심이 학습에서 추론으로 빠르게 이동하는 가운데, 고전력 그래픽처리장치(GPU) 일변도 구조에서 벗어나 저전력·고효율 인프라를 선점하겠다는 포석으로 풀이된다.
SK텔레콤은 10일 Arm, 리벨리온과 전략적 업무협약(MOU)을 맺고 Arm의 데이터센터용 'Arm AGI CPU'와 리벨리온의 추론형 NPU '리벨카드'를 결합한 서버 솔루션을 공동 개발한다고 밝혔다. 완성된 서버는 SK텔레콤 AI 데이터센터에 실제 탑재돼 성능과 안정성을 검증받을 예정이다. Arm AGI CPU는 Arm이 창사 35년 만에 처음으로 직접 선보인 데이터센터용 CPU이고, 리벨카드는 올해 3분기 출시가 예정돼 있다.
이번 협업의 핵심은 CPU와 NPU를 한 서버 안에서 역할 분담시키는 이종 컴퓨팅 구조다. CPU가 데이터 입출력, 메모리 관리, 네트워크 처리, 작업 스케줄링 같은 범용 업무를 맡고, NPU가 AI 추론 연산을 전담하는 방식이다. 업계에서는 생성형 AI 서비스가 24시간 상시 구동되는 추론 단계로 확대될수록, 전력 효율과 총소유비용(TCO)을 함께 낮출 수 있는 이런 구조의 중요성이 더 커질 것으로 보고 있다.
Arm과 리벨리온은 이미 지난 3월 'Arm Everywhere' 행사에서 두 칩을 결합해 GPT OSS 120B 기반 에이전틱 AI 서비스를 실시간 시연한 바 있다. 이번에는 이를 실증 단계에서 한 걸음 더 밀어 올려 통신사 AI 데이터센터 환경에서 상용성을 검증하겠다는 것이다.
SK텔레콤은 자사 AI 파운데이션 모델 'A.X K1'을 해당 서버에서 구동하는 방안도 검토 중이다. 단순한 칩 협력을 넘어, 추론 인프라와 자체 모델을 묶은 '풀패키지' 사업으로 AI DC 경쟁력을 키우려는 전략으로 읽힌다.