SK텔레콤이 기업·공공용 생성형 인공지능(AI) 시장을 공략하기 위한 멀티 LLM(Large Language Model) 전략을 23일 발표했다. 자체 LLM과 타사 LLM을 결합한 멀티 LLM으로 생성형 AI 시장을 공략하겠다는 전략이다.
SK텔레콤은 기업 및 공공기관 등의 요구에 맞춰 대화 및 고객센터 등 통신사 기반 서비스를 중심으로 자체 개발해온 에이닷 LLM, 윤리적 답변 및 대용량 텍스트 입력에 강점이 있는 엔트로픽의 LLM, 한국어 데이터가 풍부한 코난 LLM 등을 조합한 멀티 LLM 사업을 준비 중이다. 국내 LLM 시장은 오픈AI를 시작으로 다양한 업체들이 자사 LLM 기반의 사업을 내놓고 있다. SK텔레콤은 자체 LLM과 타사의 LLM까지 포함한 멀티 LLM 사업을 추진한는 계획이다.
먼저 한국어 기반 SK텔레콤 에이닷 LLM은 이달부터 엔터프라이즈용 기본 모델을 출시한다. 고객사 대상 모델을 학습하고 최적화 작업을 진행한다. LLM 기본 모델은 문서 요약, 문서 생성 등을 수행할 수 있는 기본 기능을 갖춘 AI 소프트웨어다. 기본 기능이 제대로 나타나려면 고객사의 실제 데이터(문서형태)를 학습시키고 고객이 원하는 방향으로 조율해야 한다.
SK텔레콤은 지분투자 이후 다양한 분야에서 협력하고 있는 코난의 LLM을 적극 활용한다. 또 지난 13일 지분 투자를 발표한 엔트로픽의 LLM을 SK텔레콤의 주요 B2B(기업 간 거래) 서비스에 결합해 판매하는 방식도 검토 중이다. 기능 통합이 끝나는 올해 4분기부터 실제 서비스가 제공될 수 있을 것으로 SK텔레콤은 보고 있다.
SK텔레콤은 국내 최고 수준의 슈퍼컴 등 대규모 그래픽처리장치(GPU) 시스템을 갖춘 만큼 안정적인 사전 학습이 가능할 것으로 자신하고 있다. 동시에 전국 단위의 정보통신(IT) 인프라를 운용한 경험과 대규모 AI 개발자 기반을 갖춘 만큼 풀 스택 서비스가 가능하다고 판단하고 있다. 풀 스택 서비스는 하드웨어 인프라에서 LLM 소프트웨어까지 모든 서비스를 제공하는 걸 말한다.
SK텔레콤이 제공할 계획인 엔터프라이즈 분야 LLM 서비스는 각각의 LLM이 가진 특장점을 가장 잘 발휘할 수 있는 분야에 매칭해 서비스하는 걸 지향한다. 에이닷 LLM의 경우 학습한 데이터나 서비스 성격상 주로 대화나 챗봇 등 통신 업체 서비스에 장점이 있다. 엔트로픽 LLM은 AI가 따라야 할 윤리원칙을 미리 학습시켜 두었기 때문에 사람이 정한 윤리원칙에 맞는 답변을 얻을 수 있다는 장점이 있다.
SK텔레콤은 LLM 서비스가 정부 부처, 공기업, 금융기업 등에서 먼저 활용될 것으로 기대하고 있다. 국내 대형 제조사 등을 중심으로 한 제조업 AI 수요도 발생 중이다. SK텔레콤은 먼저 행안부, 과기부 등 정부에서 추진 중인 LLM 기반 시범 사업 등에 참여할 계획이다. 금융권을 중심으로 한 LLM 기반 서비스 구축 프로젝트도 개별 업체와 함께 추진 중이다. SK그룹 내 대형 제조 계열사와도 LLM 기반 AI 기술의 제조 영역 적용을 위한 협의를 진행한다.
김경덕 SK텔레콤 CIC장(부사장)은 "다양한 멀티 LLM 조합을 기반으로 고객들이 실제 필요로 하는 서비스를 신속하게 제공하는 것이 중요하다"라고 했다.