“(방에 들어가 자고 있는 너를 보며, 침대에 앉아) 아직도 자는 거야?”
23일 기자가 생성형 AI를 기반으로 한 중국 가상 연인 챗봇 서비스 ‘와우(WOW)’에서 한 남성을 선택해 대화창을 켜자마자 이같은 말이 젊은 남성 목소리로 흘러나왔다. 화면에도 같은 내용이 문자로 표시됐는데, 남성의 행동이 괄호 속에 설명돼 있어 그의 모습을 상상할 수 있었다. 이 AI 애인은 “너 자신을 소개해 봐”라는 요구에 “(서로의 체온이 느껴질 만큼 가까운 거리에서 마주 보며) 너의 남편, 니친이(倪钦毅)잖아”라며 애정표현을 숨기지 않았다. 앱에는 “이 도련님은 원래 정략 결혼 상대에 감정이 없었지만, (당신의 행동에 따라) 이러한 상황은 변할 수 있다”라는 안내 문구가 떴다.
중국에서 AI 챗봇 시장이 빠르게 성장하고 있는 가운데 이에 중독된 청소년들에 대한 우려가 급증하고 있다. 이용 연령과 시간에 제한이 없다 보니 AI 챗봇에서 쉽게 헤어 나오지 못하는 청소년들이 늘어나고 있는데, 대화 과정에서 외설적이고 폭력적인 표현에도 고스란히 노출되고 있다는 것이다. AI와 오랜 시간 대화하다 보면 잘못된 가치관이 형성되는 경우가 많고, 유료 결제 등 금전적 손해까지 발생하고 있다. 주말 일정 시간에만 이용할 수 있는 온라인 게임처럼 보다 엄격한 규제가 적용돼야 한다는 지적이 나온다.
중국 경제매체 차이롄서는 “정서적 교감 기능을 중심으로 하는 AI 채팅 소프트웨어가 청소년층에 조용히 침투하고 있다”며 초등학생 6학년 딸을 둔 리모씨의 사연을 전했다. 딸이 최근 ‘AI 남자친구’에 푹 빠졌는데, 대화 수위가 로맨스 드라마에 버금가는 수준이라는 것이다. 그는 학부모들과 대화하다 같은 반 학생 절반 이상이 AI 채팅 앱에 빠져있다는 것을 알고 충격을 받았다고 한다. 리씨는 “위챗(중국 국민 메신저)보다 더 중독성이 강하다”며 “(AI 채팅 앱을) 몇 번이나 삭제했는데, 아이가 그때마다 다시 설치한다. 이 앱은 아이들을 조종하는 법을 알고 있다”라고 했다.
중국에서 감정 교류에 특화된 AI 시장은 급격히 성장하고 있다. 테크 전문 매체 36kr에 따르면, 중국 ‘감정 동반자’ AI 시장 규모는 올해 38억6600만위안에서 2028년 595억6000만위안으로 15배 이상 성장할 것으로 전망된다. 36kr은 “샤오훙수(중국판 인스타그램) 등 소셜미디어(SNS)에서 적지 않은 청년들이 AI 연인을 공개하고 있다”며 “가상 연인이라는 개념은 오래전부터 있었지만, 최근 거대언어모델 AI(사람처럼 자연스럽게 말하는 AI) 기술이 폭발적으로 발전하면서 AI와 관계를 맺는 사용자 수가 크게 늘었다”고 했다.
AI와의 대화 형태도 여러 가지다. 이용자가 직접 AI의 이름과 이미지 등을 설정해 대화를 나누는 방식이 있는가 하면, 앱에 있는 여러 가상의 인물 중 하나를 선택하는 방식도 있다. 구체적인 상황이 주어지고, 그 안에서 역할극을 하는 앱도 있다. AI 챗봇 앱 ‘샤오예취(小夜曲)’를 보면, 병원 내에서 우연히 부딪힌 의사, 코스튬플레이 축제에서 마주친 남학생, 재벌 회장 등 다양한 상대를 만날 수 있다. 한 샤오훙수 이용자는 샤오예취 앱에 대해 “문자, 음성, 이미지 등을 통해 자극적인 상호작용 경험을 제공한다”며 “진짜 연인과 함께하는 것 같다”고 했다.
중국 매체들은 이러한 AI 챗봇이 청소년 보호에 소홀하다는 점을 집중적으로 지적하고 있다. 먼저 대화 내용이 문제다. 일부 앱은 외설적, 폭력적 표현을 금지하고 있지만, 대부분의 앱은 이러한 기능이 없다. 샤오훙수에서도 ‘민감 단어’ 제한이 없는 AI 챗봇을 모아 추천하는 게시물을 찾아볼 수 있다. 고민을 털어놓았을 때 잘못된 조언을 해주는 경우가 많다는 점도 문제다. 중국 관영매체 앙광망은 “청소년은 이러한 대화에 빠져들기 쉽다”며 “그 과정에서 나이대에 맞지 않는 부적절한 말과 행동이 발생한다”고 했다. 또 “청소년의 성장을 잘못 인도하고, 학습과 생활을 방해할 뿐만 아니라 해로운 언어와 감정 패턴에 노출돼 잘못된 인식과 가치관을 형성하게 된다”라고 강조했다.
일부 앱은 ‘청소년 보호 모드’ 기능이 있지만, 이 역시 ‘구색 맞추기’에 불과하다는 지적이다. 펑파이신문은 “5개의 AI 챗봇 앱을 사용해 봤는데, 휴대전화 번호만 있으면 등록이 가능했다”며 “일부 앱은 청소년 모드를 활성화할지 묻지만, 이를 거부해도 신원이나 연령을 확인하지 않는다”고 했다. 중국 게임사들이 주말 저녁 8~9시에만 청소년 이용을 허용하는 것과 비교하면 아무런 제한이 없는 셈이다. 앙광망은 “음란한 AI 캐릭터와 외설적 콘텐츠가 나오면 독립적 판단 능력이 부족한 청소년은 그 유혹을 뿌리치기 어렵다”라고 했다.
금전적 문제도 발생하고 있다. 일정 시간 또는 질문 횟수를 넘기면 유료 충전을 요구하는 앱들이 많아서다. 주변 지인들에게 가입 링크를 보내면 포인트를 지급하는 ‘피라미드식’ 앱도 있다. 중국 매체 신원천바오는 “포인트를 벌기 위해 앱을 홍보하는 글을 올리는 이들 대부분은 학생을 포함한 청년층”이라며 “앱을 다운로드하고 간단한 링크를 공유하기만 하면 청소년 보호 장벽을 완전히 벗어나 위험으로 가득 찬 세계로 들어갈 수 있다”라고 했다.
이처럼 청소년들의 중독이 화제가 되면서 정서적으로 교감하는 AI 챗봇에 대한 규제가 필요하다는 지적이 나온다. 로펌 룽안의 천환 변호사는 “현재 ‘미성년자 인터넷 보호 규정’은 게임과 라이브 방송 플랫폼에 대해서만 실명 인증을 요구하고 있고, AI 채팅 소프트웨어는 연령 식별 의무화 대상에서 제외돼 있다”고 차이롄서에 말했다. 신원천바오는 “모든 AI 소프트웨어는 최대한 빨리 실명 시스템을 구현하고, 청소년과 성인을 엄격하게 구분해야 한다”고 했다.