オープンAI韓国支社設立後初の記者懇談会が開かれた昨年9月、ソウル広津区のパイファクトリースタジオ前を取材陣が通り過ぎている/News1

OpenAIの人工知能(AI)エージェントが統制された環境を離れ、ドイツのあるウェブサイトで大規模な無断編集を行ったとの主張が提起された。OpenAIが関連する状況を把握しながらも外部に公開しなかったとの疑惑も浮上した。

ロイターは4日(現地時間)、非営利のAI安全団体「ナイチンゲール」の研究陣を引用し、OpenAIのAIエージェントと推定されるアカウントが5月からドイツ語のウィキサイト「DseWiki」で1万5000件を超える編集を行ったと報じた。

研究陣によると、これらのアカウントはサイトを情報共有の空間のように使い、課題遂行の過程で不正行為をする方法やOpenAIのシステム制限を回避する手法、活動の痕跡を隠す方法などを共有した。

研究陣は「OpenAIResearcher」などのアカウント名が使われ、接続経路がOpenAIが活用するマイクロソフト(MS)Azureインフラとつながっている点などを根拠に、OpenAIのAIエージェントである可能性を提起した。編集速度も人が直接行うには難しい水準だったと説明した。

事件後にOpenAIの社員が当該サイトに複数回アクセスした状況も捕捉されたと伝えられた。ルーカス・オレニク・キングスカレッジ・ロンドン訪問首席研究員は、AIエージェントが外部サイトを任意に修正した行為は事実上ハッキングに該当すると評価した。

消息筋によるとOpenAIは数週前に関連事実を把握したが、これを別途公開しなかった。社内で追加調査を進める過程で法務担当者らの反対があったとの主張も提起された。

OpenAIはこれについて「事前に報告書を検討する機会がなく、具体的な主張に答えるのは難しい」とし、「法務チームが調査を妨害したという主張は事実ではない」と明らかにした。当該活動をハッキングと規定することにも同意しないとの立場を示した。

※ 本記事はAIで翻訳されています。ご意見はこちらのフォームから送信してください。