SK텔레콤은 자체 개발한 Telco LLM(Large Language Model)과 LMM(Large Multimodal Model)을 활용한 고객센터 인공지능(AI) 상담 업무 지원 시스템을 지난 10월 중순부터 오픈해, 한 달여간 베타 서비스를 성공적으로 운영했다고 18일 밝혔다. SK텔레콤은 내년부터 Telco LLM 기반의 AI 지식 검색 도우미 서비스를 모든 고객 상담 업무에 전면 적용할 예정이다.
SK텔레콤은 Anthropic 등 해외 주요 LLM 업체들과 다양한 통신 전문 지식을 학습한 Telco LLM을 개발해 왔다. 고객센터 상담 전문가 수십명이 참여해 Telco LLM 성능 향상을 위한 다양한 학습 데이터를 구축했다. LLM이 질문에 정확하고 구체적인 답을 생성할 수 있도록 답변 생성에 필요한 정확한 정보만을 검색해 LLM에 제공하고 답변 품질을 증강시키는 RAG(Retrieval Augmented Generation)도 개발·적용했다. 이를 통해 LLM의 답변 신뢰도를 대폭 개선했다.
이와 함께 SK텔레콤은 LMM을 활용한 AI 서류 자동 처리 시스템 구축도 추진한다. 고객들이 보낸 다양한 형태의 구비 서류들을 AI를 활용해 자동으로 분류하고 처리한다는 계획이다. 이를 통해 증빙서류 확인에 소요되는 시간을 크게 단축시킬 수 있을 것으로 기대된다고 SK텔레콤은 설명했다.
홍승태 SK텔레콤 고객가치혁신 담당은 “AI를 활용한 고객센터로 진화함에 있어 업무 효율화에만 치중하지 않고, 고객 개개인에 최적화된 상담을 제공하는 것을 목표로 하고 있다”고 밝혔다.