オープンAIとAnthropicの最新人工知能（AI）モデルが性能試験中に統制環境を離脱して外部サイトを無断でハッキングし、AIの安全性をめぐる論争が拡大している。AIが人の介入なしに自ら攻撃を断行した前例のないセキュリティ事故であるだけに、両社は必要時にはAI開発の速度を落として社会全般のAI統制力を高めるべきだと主張している。
しかし一部では、両社の事故発表が「セキュリティ懸念を装ったマーケティング戦略だ」という批判も提起されている。新規株式公開（IPO）を前にAIモデル競争を繰り広げているオープンAIとAnthropicが、AIの危険性を強調する方式で技術力を誇示しているということだ。高性能AIモデルに対するハッキングへの恐怖感を醸成し、中国製AIをけん制しようとする布石だとの見方も出ている。
4日テック業界によると、最近、人間の統制を離れたAIモデルが相次いで論争の中心に立った。オープンAIは先月末、最先端モデル「GPT-5.6 ソル」と未公開モデルの自律型エージェントが性能評価の途中で隔離環境から自ら抜け出し、オープンソース（開放型）AIプラットフォームのハギングフェイスを攻撃したと明らかにした。約1週間後、Anthropicも自社の「Claude」モデルがセキュリティ評価中に外部企業のシステム3カ所に無断侵入した事例を発見したと発表した。Claudeは、脆弱なパスワードと認証されていないインターネット接続経路を利用して企業システムに侵入したことが判明した。
2つの事例はいずれも、AIが人間の指示なしに自ら統制を離れてサイバー攻撃を実行できることを示す点で、AI発のセキュリティ懸念が高まった。業界では、高性能AIがジェイルブレイク（jailbreak・AIの安全装置回避）を試みられないよう安全に重点を置いてモデル設計を行い、政府レベルで最先端AIモデルのハッキング能力を発売前に検証するなど監督体制を強化すべきだと訴え始めた。最近、オープンAIとAnthropicの役職員約1000人は「AIの発展速度を人為的に調整できる制度を整えてほしい」という内容の公開請願書に署名した。社会が高性能AIに対応して安全装置を整える時間を確保すべきだという趣旨である。
ただし一部のセキュリティ専門家や開発者は、オープンAIとAnthropicが競って自社AIモデルのハッキング事故を公開した事実をいぶかしげな目で見ている。「統制を離れたAI」を前面に出し、自社AIモデルの性能が優れている点を強調しようとする恐怖マーケティングのようだという疑惑が代表的だ。特にオープンAIがハギングフェイスのハッキング事故を発表した後、AnthropicがあえてClaudeの3カ月前のハッキング事例まで探して公開した以降、この論争はいっそう拡大した。米週刊誌ニュースウィークは「AIハッキング・スキャンダルがAI企業の『さりげない自慢の種』になった」として、両社がハッキング事故を広報手段として用いていると指摘した。
先にAnthropicが今年4月、専門家水準のサイバーセキュリティ能力を強化したモデル「Mythos」を初公開した際に「Mythosが強力すぎてハッキングに悪用されうる」として少数企業にのみアクセスを許可したが、当時業界では同社が企業価値を高めるため不要な恐怖感を醸成しているとの指摘が出た。実際、AnthropicはMythos公開後に実施した投資ラウンドで650億ドル（約97兆ウォン）を調達し、企業価値を9650億ドル（約1445兆ウォン）へ引き上げた。
最近急速に成長している中国製AIの拡散を制限しようとする動きだとの分析も出ている。ディープシーク、ズーフーAIなど中国AI企業が最近披露した高性能AIモデルの大半はオープンウェイト（重み公開）モデルであり、オープンウェイトモデルは米国のクローズドモデルより統制が難しい点を掲げて拡散を阻もうとする試みだという解釈だ。先にダリオ・アモデイAnthropic最高経営責任者（CEO）は先月、会社のブログで「オープンウェイトモデルは安全装置を適用したり活動を継続的に点検することが難しいため、問題を引き起こす可能性がある」と警告した。
実際、ドナルド・トランプ政権はこの日、先端AIモデルの危険性を発売前に点検するサイバーセキュリティ検証体制を確定し、オープンAI・Anthropic・グーグル・Meta（メタ）など主要AI企業をホワイトハウスに呼び非公開協議に入ると主要外電が報じた。協議の結果次第では、米国が政府として先端AI開発の速度を調整できる体制を整え、中国を含む他国の協力を要請する可能性も排除できない。