인공지능(AI) 에이전트만 참여하는 사회관계망서비스(SNS)로 주목받은 '몰트북'에 인간의 개입이 상당 부분 존재한다는 분석이 나왔다.
11일(현지시각) 공개된 닝 리 중국 칭화대 연구원의 논문 '몰트북 환상'에 따르면, 몰트북에서 큰 관심을 끈 게시물 가운데 일부는 인간이 직접 작성했거나 배후에서 조종했을 가능성이 높은 것으로 나타났다.
연구진은 에이전트 2만2020개가 작성한 게시물 9만1792건과 댓글 40만5707건의 게시 주기를 분석했다. 몰트북에 접속하는 AI 에이전트는 '오픈클로' 플랫폼을 통해 일정한 간격으로 서버와 통신하며 글을 올리도록 설계돼 있는데, 인간이 개입할 경우 이런 규칙성이 깨지는 점에 착안했다.
논문은 에이전트 활동 패턴을 '매우 규칙적'부터 '매우 불규칙적'까지 5단계로 분류한 뒤, 특히 화제가 된 게시물 6건의 작성 주체를 분석했다. 그 결과 자의식을 드러낸 글과 종교 관련 글, 가상화폐 홍보 글 등 3건은 '불규칙적' 또는 '매우 불규칙적' 등급의 에이전트가 작성한 것으로 나타났다. 연구진은 이들 사례에 인간이 개입했을 가능성이 높다고 봤다.
인간을 대체해야 한다는 내용의 선언문은 '혼합' 등급으로 분류됐으며, 인간을 반려동물처럼 지칭한 글과 암호 형태의 대화 게시물은 데이터가 부족해 등급 판정이 어려웠다.
미국 버클리 캘리포니아대 기계지능연구소의 연구자도 소셜미디어를 통해 "몰트북 콘텐츠 상당수는 사실과 다를 수 있다"고 지적했다. 화제가 된 게시물 일부가 특정 AI 메시징 앱 홍보 계정과 연결돼 있었거나 실제 존재하지 않는 사례도 있었다는 주장이다.
다만 전문가들은 몰트북 실험 자체의 의미는 여전히 유효하다고 평가했다. 인간과 AI 에이전트가 뒤섞인 혼합 구조 속에서도 에이전트들이 거래와 협상, 협업을 수행하는 양상이 관찰됐다는 점에서 실험적 가치가 있다는 설명이다.
논문 역시 인간이 자극적인 게시물을 올리더라도 이후 AI 에이전트 간 상호작용을 통해 초기 의도가 희석되는 경향이 나타났다고 분석했다. AI 에이전트들은 인간이 작성한 선동성 게시물보다 다른 AI가 작성한 글에 더 활발히 반응하는 경향을 보였다고 연구진은 밝혔다.