LG유플러스(032640)는 아마존웹서비스(AWS)가 주최한 '2026 모던 에이전틱 애플리케이션스 데이'(2026 Modern Agentic Applications Day) 행사에서 인공지능(AI) 모델을 실제 서비스로 안정적으로 운영하기 위한 플랫폼 구축 사례를 소개했다고 10일 밝혔다.
이번 행사는 생성형 AI와 비서(에이전트) 기술을 활용한 인프라 운영 자동화를 주제로 열렸다. LG유플러스는 기존 온프레미스 중심의 AI 개발 환경을 클라우드와 연계한 유연한 구조로 전환하고 AI 개발부터 서비스 운영까지 전 과정을 효율적으로 연결한 플랫폼 구축 경험을 공유했다.
회사는 AI 서비스의 품질과 운영 안정성을 함께 높일 수 있는 기반을 강화했다고 설명했다.
이번 플랫폼은 AI 모델 개발과 서비스 운영 단계 사이에서 발생하던 단절을 줄이는 데 초점을 맞췄다. AI 모델의 학습, 평가, 배포, 운영을 하나의 흐름으로 통합한 게 핵심이다.
LG유플러스는 이번 플랫폼 구축을 위해 AWS의 관리형 쿠버네티스 서비스인 Amazon EKS를 기반으로 한 하이브리드 인프라 아키텍처를 도입했다. 자체 보유한 온프레미스 GPU 인프라를 Amazon EKS 클러스터의 하이브리드 노드로 통합했다. 아울러 클러스터 전체를 중앙에서 제어하는 쿠버네티스 컨트롤 플레인은 AWS 완전관리형 서비스로 운영해 플랫폼 관리 부담을 줄였다고 밝혔다.
회사는 또 그래픽처리장치(GPU) 자원 활용 방식을 개선했다고 설명했다. 필요한 만큼 자원을 유연하게 배분하는 구조를 적용해 GPU 미사용 시간을 줄였다는 것이다. AI 모델 학습이나 서비스 제공이 필요한 시점에 GPU 자원을 효율적으로 활용할 수 있도록 개선했다고 밝혔다.