米国政府が中国の人工知能（AI）スタートアップであるムーンショットAIのモデル「キミK3」に蒸留の疑惑を提起し、オープンウェイトモデル全般への制裁が拡大しかねないとの懸念が強まるなか、主要AI企業が包括的規制に反対の立場を示した。これを受け、共同書簡に参加しなかったAnthropicもオープンウェイトモデルを禁止してはならないとの見解を示した。あわせて公開の有無にかかわらず、一定水準以上の性能を備えたモデルに対し、発売前の安全性評価を義務化すべきだと主張した。
ただし事前評価の結果に強制力を持たせるかどうかをめぐっては、企業間で見解が分かれている。Anthropicは先に、重大なリスクが確認されたモデルの追加配布や既存モデルの利用を制限する案を示した。一方でOpenAIは、評価機関の役割をリスク診断と緩和策の勧告に限定すべきだと主張してきた。今後、米国が事前評価制度を整備する場合、法的強制力の範囲が争点になる見通しだ。
ダリオ・アモデイAnthropic最高経営責任者（CEO）は27日（現地時間）に公表した声明で「Anthropicはオープンウェイトモデルの禁止を擁護したことはない」と明らかにした。オープンウェイトモデルは、AIの性能と動作を決定する数値である重みを外部に公開したモデルで、利用者が自前のサーバーで実行したり用途に合わせて修正できる。ただしモデルのコードや学習方式、データ情報まで全てを公開するオープンソースAIとは区別される。
◇ キミK3登場で高まるオープンウェイト規制への懸念
今回の論争はムーンショットAIがオープンウェイトモデルのキミK3を公開し本格化した。キミK3が一部の性能評価で米国の最上位モデルに近い結果を示すと、米国政府はムーンショットAIがAnthropicモデルの出力を大規模に活用する「蒸留」手法でモデルを開発したとの疑惑を提起した。
マイケル・クラチオス米ホワイトハウス科学技術政策局（OSTP）局長とスコット・ベサント米財務長官は、中国企業が米国のAIモデルを無断で蒸留したとして制裁の可能性を示唆した。これを機に、中国企業の無断蒸留行為に対する制裁がオープンウェイトモデル全般の規制へと拡大しかねないとの懸念も高まった。
これに対し、エヌビディアを主導にOpenAIやグーグルを含む50余の企業・機関は24日、共同の書簡を発表し、オープンウェイトモデルを包括的に制限してはならないと主張した。ブルームバーグ通信によると、ジェンスン・フアンエヌビディアCEOも28日にワシントンを訪れ、「米国産業界はセキュリティと安全のためにオープンウェイトモデルを必要としている」と述べ、「これは産業全体の活力のために極めて重要だ」と語った。
マーク・ザッカーバーグMeta CEOも同日、フィナンシャル・タイムズ（FT）のインタビューで、米国政府が知的財産権侵害を理由に中国企業を狙って規制を強化するのは「効果的な解決策」にはならないと述べた。
アモデイCEOが別途声明を出したのは、Anthropicが共同の書簡から外れ、自社のクローズドモデル事業を守るためにオープンウェイト規制を支持しているのではないかとの批判が提起されたためだとみられる。
◇ アモデイCEO「公開方式ではなく実際のリスクを評価すべきだ」
アモデイCEOは声明で、オープンウェイトモデルを包括的に禁止するよりも、公開の有無に関係なく一定水準以上の性能を備えたモデルに対して発売前の安全性評価を義務化すべきだと主張した。声明は事前評価の必要性を強調したが、評価過程で重大なリスクが確認されたモデルをどのように扱うかについては具体的に言及しなかった。ただしAnthropicが6月に発表した「先端AIフレームワーク」報告書には、評価結果に応じて法的執行に繋がり得る方策が盛り込まれた。
当時、Anthropicは重大な壊滅的リスクのあるモデルの配布を遮断または抑制する制度が必要だと提案した。政府機関がリスクリポートと独立評価の結果を検討して違反の有無を確認し、裁判所に罰金や配布制限など必要な措置を請求する案などを示した。極端な場合には、既に配布されたモデルの利用とアクセスを制限する方策も提示した。
Anthropicが強力な政府権限を求める理由は、自主規制の限界にある。一部企業がリスクを抑えるため発売を遅らせても、競合が安全装置なしに高性能モデルを先行投入し得るため、共通ルールの適用が不可欠だという論理だ。
◇ OpenAI「評価はするが発売の承認・遮断は不可」
OpenAIも6月に発表した「フロンティアAIの民主的ガバナンス：連邦体制のための青写真」報告書で、高性能モデルの発売前安全性評価を義務化する案を提案した。
OpenAIは、フロンティアモデルを公開する前に米商務省傘下のAI標準・イノベーションセンター（CAISI）の評価を受けるようにすべきだと主張した。ただし、必要に応じてモデル発売を阻むことができるというAnthropicの主張とは異なり、CAISIの役割はモデルのリスクを診断し必要な緩和策を勧告することにとどめ、モデル発売を承認または遮断する許認可機関になってはならないと一線を画した。
開発企業に評価結果と対応策の公開責任を課す一方、最終的な発売の可否は開発企業が決定すべきだという立場だ。
一方でAIモデルの性能が高度化するなか、独立した安全性評価の枠組みを整備すべきだという主張も広がっている。デミス・ハサビスGoogleディープマインドCEOは14日、高度化するAIの脅威に対応するための新たな評価機構の導入を提案した。
ハサビスCEOは、米国証券業界の自主規制機関である金融産業規制局（FINRA）のように、企業が運営費を負担しつつ政府の監督を受ける方式を主張した。AI企業が新モデルを公開する最大30日前に自主的に提出すれば、独立した技術専門家がサイバー攻撃や生物安全保障上の脅威、欺瞞能力などを評価しようというものだ。
ハサビスCEOは「汎用人工知能（AGI）が到来する前にこの機会を生かし、人類全体の利益のために技術を発展させるべきだ」と述べた。