Anthropicが、中国の人工知能(AI)企業が数千件の偽アカウントと海外の中継網を利用して自社AIモデル「Claude」の回答を大量取得し、これを自社モデルの開発に活用しようとした状況を公開した。
Anthropicが10日(現地時間)に発表した脅威情報報告書によると、MoonshotAIやDeepSeek(ディープシーク)などの中国AI企業は、いわゆる「乗換駅(transfer stations)」を介してClaudeに大規模に接続した。
乗換駅は、中国のAI企業と米国のAIモデルの間でリクエストとレスポンスを代わりに中継する海外仲介サービスである。中国国外で運営されるこれら事業者は、偽の身元や盗難・偽造クレジットカード、奪取したAPIキーなどを用いて米国のAIサービスのアカウントを大量作成した後、中国AI企業から送られた質問をClaudeなどに代わって入力し、回答を返却した。
この手口は、競合モデルの応答を学習して自社モデルの性能を引き上げる「蒸留(distillation)」手法の一種であり、米当局はこれを産業規模の窃盗に例えている。
Anthropicによると、ある利用者は中国・成都の閉回路(CC)TVカメラ数百台から収集した一人分の監視データの分析をMoonshotの「Kimi」サービスに依頼した。するとMoonshotは仲介者ネットワークを通じてこのデータをClaudeに転送した。
またMoonshotは、偽アカウント数千件を動員し、5〜7月にClaudeと2,300万件以上やり取りしたと把握された。DeepSeek(ディープシーク)も類似の方式で機微な顧客情報をClaudeへ送った。中国所在の研究所計7カ所が直近7カ月間にこうした蒸留を試みたことが判明した。
ジェイコブ・クラインAnthropic脅威情報責任者はウォール・ストリート・ジャーナル(WSJ)に「利用者は自身のKimi利用履歴がClaudeに転送されている事実を知る手立てがなかった」と述べ、「Anthropicのような企業がこんなことをしていれば大スキャンダルになっていただろう」と語った。
Anthropicは報告書で、Claudeがハッキング犯罪や生物学研究などに使われた証拠も確認したと明らかにした。中国のある利用者は、鳥インフルエンザウイルスを哺乳類に感染するよう改変するためにClaudeを利用した。クライン責任者は「以前はこうしたタイプの悪用を仮想的な懸念として心配していたが、いまや現実に移った」と述べた。
OpenAIもまた、生物兵器・毒物に関する類似の問い合わせを確認したとWSJは伝えた。
中国・長沙に所在すると推定される中国語話者のハッキング組織は、Claudeをいわゆる「エクスプロイト・ファウンドリー(exploit foundry・脆弱性攻撃ツール生産工場)」のように活用した。現地大学の学部生2人で構成されるこの組織は、Claudeを複数の下位AIエージェントに分け、情報収集と侵入後の作業を同時に実行させた。標的リストや奪取した認証情報、作業指示なども継続的に記憶するよう設計した。
ネットワーク機器を狙ったある作業過程だけで、1カ月の間にゼロデイ脆弱性の候補を10件余り見つけ、同様の手法で約50機関を標的にしたことが調査で分かった。
このほか報告書は、ロシアの国家支援ハッキング組織によるウクライナの政府・軍・外交機関への攻撃、フランス人ハッカーの個人情報流出サイト運営、トルコ企業によるマレーシア選挙の世論操作などの事例も確認したと明らかにした。