중국 빅테크 바이트댄스의 인공지능(AI) 대형언어모델(LLM) '더우바오'와 알리바바의 '큐원'이 이달 중 개인화 인공지능(AI) 에이전트 서비스를 중단한다.
6일 중국 관영 영문 매체 글로벌타임스 등에 따르면 더우바오와 큐원은 이달 15일부터 개인화 AI 에이전트 기능을 종료한다고 최근 발표했다. 개인화 AI 에이전트란 단발성 답변으로 끝내는 일반적인 AI 챗봇과 달리, 사용자가 누구인지를 기억하면서 사용자를 대신해 복잡한 일을 해결해주는 AI 모델을 가리킨다.
더우바오 측은 서비스 종료 이후에도 일정 기간 데이터가 보존되고, 사용자는 이 기간 에이전트 정보 및 대화 내용을 열람하고 외부로 내보낼 수 있다고 했다. 중국 매체 증권시보는 3개월 뒤에는 보존 데이터가 삭제될 것이라고 전했다.
더우바오와 큐원의 개인화 AI 에이전트 서비스 중단 발표는 웨이보 등 중국 소셜미디어에서 논란이 됐다. 일부 사용자는 오랫동안 활용해 온 서비스의 중단에 반대하기도 했다고 매체는 전했다.
글로벌타임스는 두 업체가 개인화 AI 에이전트 서비스를 중단한 배경으로 중국 정부의 AI 안전성 강화 정책 준수와 상업성이 낮은 사업에 대한 투자 축소 등을 꼽았다. 중국 정부는 지난 4월 'AI 의인화 상호작용 서비스(개인화 AI 에이전트) 관리 잠정 시행 방법'을 발표했으며, 해당 규정은 이달 15일부터 시행된다. 이 규정은 개인화 AI 에이전트에 대한 관리·감독을 대폭 강화한 것으로, 플랫폼 사업자에게 중독 방지 시스템 구축, 미성년자 신원 확인, 콘텐츠 사전 심사 등의 의무를 부과했다.
중국 정부가 5월 발표한 AI 에이전트의 응용·개발 촉진을 위한 지침에선 AI 에이전트와 사용자 간 의사결정 권한의 경계를 처음으로 정의했다. 사용자는 AI 에이전트가 내린 결정에 대한 최종적인 알권리와 거부권을 갖고 있어야 한다는 점이 명시됐다.
글로벌타임스는 현재 중국의 AI 에이전트 산업이 빠른 확산 단계에 접어들었지만, 일부 플랫폼에선 공식 기관을 사칭하는 가짜 에이전트, 저속하거나 극단적인 역할극 대화를 제공하는 경계선상의 서비스, 사용자 개인정보를 무단으로 수집하는 보안 위험 등 다양한 규정 위반 사례가 나타나고 있다고 강조했다.
당국도 대응에 나서고 있다. 상하이 인터넷정보판공실은 지난달 1만4000개 이상 규정 위반 AI 에이전트를 삭제하기도 했다.