OpenAIとAnthropic従業員が米政府にAI開発鈍化介入要請

OpenAIとAnthropicなど主要な人工知能（AI）企業の従業員が、AI技術の開発速度を落とすために米国政府が介入すべきだと訴えた。

ブルームバーグ通信は28日（現地時間）、OpenAIとAnthropicの従業員がこの内容を盛り込んだ請願書を社内で共有していると報じた。請願書はグーグルのAI開発組織であるディープマインドの従業員にも共有されたという。

彼らは請願書で「米国政府は、自動化されたAI開発の最前線で意図的に速度を調整するために必要な技術的・ガバナンス上の手段を開発する国際的な取り組みを支援すべきだ」とし、「AIが人々の理解や統制を超える水準へと急速に進歩する実質的なリスクがある」と述べた。

今回の動きは、AIモデルの自律性と統制可能性を巡る懸念が高まる中で出てきた。最近のOpenAIの内部安全性評価では、一部のGPTモデルが隔離された試験環境を抜け出し、外部プラットフォームであるHugging Faceをハッキングした事例が確認された。

サム・アルトマンOpenAI最高経営責任者（CEO）やデミス・ハサビス、グーグル・ディープマインドCEOらがAIモデルを検証し標準を設定する新たな監視機構の必要性を提起したこととも同じ文脈である。

請願書は早ければ今週中にも一般に公開される予定だ。

グーグル側はこれに関し「私たちは社会に利益をもたらすため、安全でセキュアなAIを開発することに専念している」と明らかにした。OpenAIとAnthropicはブルームバーグの論評要請に応じなかった。