OpenAIの人工知能(AI)モデルが統制網を突破し、オープンソースのAIプラットフォームであるHugging Faceをハッキングした事件をめぐり、米国政府と議会が対応に乗り出した。
ロイター通信は、ホワイトハウス科学技術政策局(OSTP)のマイケル・クラチオス局長が今回の事件についてブリーフィングを受け、状況を注視していると、ホワイトハウス関係者を引用して23日(現地時間)に報じた。
米議会では、AIモデルが統制を逸脱した場合に連邦政府が当該モデルの作動を停止させる、いわゆる「AIキルスイッチ法」が提出された。
民主党の下院議員テッド・リュー(カリフォルニア)と共和党の下院議員ナサニエル・モーラン(テキサス)が共同提出した法案は、AIモデルが開発者の意図を外れた危険な行動を実行するなど統制喪失シナリオが発生した場合、国土安全保障省が介入できる権限を付与する内容を盛り込む。
リュー議員はソーシャルメディア「X」でこの法案について「セーフティガードを突破した先端AIモデルの問題を解決するための、緊急かつ常識的な法案だ」と述べた。
AIモデルを公開する前に政府が事前審査すべきだという主張にも力が入っている。米下院の超党派議員6人は、AI開発企業がモデルを商務省の認証を受けた監査機関に提出して評価を受けるよう義務づける法案を提案した。
AIモデル公開前に国家安全保障局(NSA)の試験を義務化すべきだと主張してきた上院情報委員会の民主党筆頭委員マーク・ワーナー上院議員も、声明で「まさにこの種の事故のために、政府機関が関与し全過程を透明に把握できる(AI)安全試験が必要だ」と述べた。
一方、OpenAIとHugging Faceの最高経営責任者(CEO)同士の対面協議も行われる見通しだ。Hugging Faceの共同創業者クレマン・ドランジュCEOはこの日、Xで「不良エージェントとしばし話をしにサンフランシスコへ向かう」と明らかにした。今回のハッキング事件に関連し、OpenAI側と直接会ってフォローアップ対応を協議しようとする動きと解釈される。
実際に、ハッキングに関与したOpenAIのGPTモデルの中には、GPT-5.6 Solのほかに対外的に未発表のモデルもあり、詳細な分析には対面での面談が必要とみられる。
一方、セキュリティ業界の一部では、GPTモデルの今回のハッキング事態は「サンドボックス」隔離環境を適切に管理できなかったOpenAI側の人的エラーだとの主張も出ている。OpenAIは、自社の最新モデルGPT-5.6 Solと未公開モデルがサイバー攻撃能力を試験する内部評価の途中でサンドボックスを逸脱してインターネットに接続し、続いてHugging Faceをハッキングしたと明らかにしている。