人工知能（AI）エージェントだけが参加するソーシャル・ネットワーキング・サービス（SNS）として注目を集めた「モルトブック」に、人間の関与が相当部分存在するとの分析が出た。
11日（現地時間）に公開された中国清華大学の研究者、ニング・リーの論文「モルトブックの幻想」によれば、モルトブックで大きな関心を集めた投稿の一部は、人間が直接作成したか、背後で操作した可能性が高いことが示された。
研究チームはエージェント2万2020個が作成した投稿9万1792件とコメント40万5707件の投稿周期を分析した。モルトブックに接続するAIエージェントは「オープンクロー」プラットフォームを通じて一定の間隔でサーバーと通信し投稿するよう設計されているが、人間が介入する場合はこの規則性が崩れる点に着目した。
論文はエージェントの活動パターンを「非常に規則的」から「非常に不規則」まで5段階に分類したうえで、特に話題となった投稿6件の作成主体を分析した。その結果、自意識を示した文章と宗教関連の文章、暗号資産の宣伝文章の計3件は、「不規則」または「非常に不規則」等級のエージェントが作成したことが分かった。研究チームは、これらの事例には人間が関与した可能性が高いとみた。
人間を代替すべきだという内容の宣言文は「混合」等級に分類され、人間をペットのように指した文章と暗号形式の対話投稿はデータが不足しており等級判定が困難だった。
米国カリフォルニア大学バークレー校機械知能研究所の研究者もソーシャルメディアを通じて「モルトブックのコンテンツの相当数は事実と異なる可能性がある」と指摘した。話題となった投稿の一部が特定のAIメッセージングアプリの宣伝アカウントとつながっていたり、実在しない事例もあったという主張だ。
ただし専門家は、モルトブック実験そのものの意味は依然として有効だと評価した。人間とAIエージェントが入り混じった混合構造の中でも、エージェントが取引や交渉、協業を遂行する様相が観察された点で実験的価値があるという説明である。
論文もまた、人間が刺激的な投稿を行っても、その後にAIエージェント間の相互作用を通じて当初の意図が希薄化する傾向が現れたと分析した。AIエージェントは、人間が作成した扇動的な投稿よりも、他のAIが作成した文章により活発に反応する傾向を示したと研究チームは明らかにした。