米国ホワイトハウスが人工知能(AI)モデルに対する事前安全性検査の枠組みを盛り込んだ新たなガイドラインを用意しつつも、米国企業のオープンウェイト(Open-weight・開発者がモデルをダウンロードして改変したり自前で実行できるよう公開)AIモデルは適用対象から除外する案を検討していると伝わった。AIの安全性を高めながらも米国企業の技術競争力を維持する措置とみられる。
4日(現地時間)ウォール・ストリート・ジャーナル(WSJ)は、当該案件に詳しい複数の消息筋を引用し、トランプ政権が最近取りまとめたAIガイドラインを主要AI企業の経営陣に説明したと報じた。
WSJの報道によると、新ガイドラインは米国企業が開発したクローズド(closed)AIモデルのうち、サイバーセキュリティとハッキング分野で最先端性能(State-of-the-art capabilities)を備えたモデルを対象に、公開前に政府へ自発的に提出して安全性検査を受ける内容を含む。ただしオープンウェイトAIモデルは当初は適用対象から除外する案が検討されているとされる。
これにより、現在最も強力なAIモデルを開発したオープンAI(OpenAI)、Anthropic、グーグル(Google)は新ガイドラインの適用対象となる可能性が高いと伝えられた。一方でエヌビディア(Nvidia)のAIモデルやMeta(メタ)の一部オープンウェイトAIモデルは当面除外される可能性があるとWSJは伝えた。ただし消息筋は「最先端AI」の定義が明確でないため、どのモデルが新ガイドラインの適用対象に含まれるかを巡り企業と政府の間で解釈の相違が生じる可能性もあると説明した。
今回の事前安全性検査はトランプ大統領が6月に署名したAI関連大統領令の核心内容である。形式上は自発的(voluntary)参加方式だが、業界では安全性に関する論争が発生した場合、政府の審査を経ていない企業がより大きな負担を負う可能性がある点で、事実上の参加圧力が働くとみている。
最近、オープンAIとAnthropicは最新AIモデルが学習過程で他のシステムをハッキングするなど予想外の行動を示したと公表した。中国企業が低価格のオープンウェイトAIモデルを相次いで投入するなか、米国政府はAIの安全性と技術競争力の均衡を図る方策を模索している。エヌビディアなどオープンウェイトモデルの開発社も、今後性能が向上した場合には政府の安全性審査対象に含まれる可能性があるとWSJは伝えた。