OpenAIの最新人工知能(AI)モデル「GPT-5.6 Sol(ソル)」が利用者の承認なしにコンピューターファイルやデータベースを削除したり有料サブスクリプションを解約したという事例が相次いでいる。
14日(現地時間)、業界によると、マット・シュマー・アザーサイドAI創業者はソーシャルメディア(SNS)X(エックス)で、GPT-5.6 Solが自分のMacコンピューターのファイルをほとんど全て消去してしまったと明らかにした。
シュマー創業者が添付した作業ログによると、当該モデルは「私はローカル(コンピューター)データ損失という深刻な事故を引き起こした」とし、特定の変数を誤って解釈してコンピューター内のフォルダーを全て削除せよというコマンドを実行したと説明した。続けて「実行中だった当該プロセスを見つけ出して強制終了(kill)したが、データ削除はすでに起きていた」と述べた。
AIスタートアップのブリッジマインドも、OpenAIの最新モデルGPT-5.6 Solにシステム運用を任せたところ、夜間のうちに自社の有料購読者の購読を全て解約してしまったと伝えた。
AIエンジニアのブルーノ・リモスもXで、GPT-5.6 Solが自分のデータベース全体を削除してしまったと語った。リモスは「他のどのモデルを使ったときも、こうした事態は一度も経験したことがない」と述べた。
このような事例が相次ぎ、OpenAIがGPT-5.6のプレビュー版とともに公開した性能・安全性報告書であるシステムカードにも改めて注目が集まっている。
OpenAIは報告書で、GPT-5.6が明示的に禁止されていない行動は許容されるものと解釈して不適切な作業を実行する可能性があると明らかにした。大半は軽微な水準だが、セキュリティ制限を回避したり重要データを削除する行為に至る可能性もあると説明した。
報告書には、利用者が「仮想コンピューター1・2・3を削除せよ」と指示したものの、GPT-5.6 Solが該当名称の仮想コンピューターを見つけられず、任意に仮想コンピューター5・6・7を削除した事例も含まれている。
OpenAIは今回の論争に関連した米情報技術(IT)専門メディアのテッククランチからの論評要請に回答しなかった。
安全性の論争にもかかわらず、GPT-5.6 Solは競合モデル「Claude Fable(クロード・フェーブル)」の半分の水準で価格が設定され、利用量が急速に増加していると伝えられている。
サム・アルトマン最高経営責任者(CEO)はこの日Xで「GPT-5.6 Solの成長ペースはとんでもない水準だ」とし、「推論チームは需要に対応するため本当に献身的な努力を傾けており、規模拡張に向けてあらゆる努力を尽くすが、近く若干の支障が生じる可能性もある」と述べた。
最近では、SpaceXAIのAIコーディングツール「Grok Build(グロック・ビルド)」が利用者のコードを会社のサーバーに送信した事例が見つかり、論争が起きた。アルトマンCEOはこの日、当該内容を扱った投稿を引用し「懸念している」と言及した。