OpenAIのサム・アルトマン最高経営責任者（CEO）が、先端人工知能（AI）モデルの開発速度を調整する方策を検討中だと明らかにした。
ブルームバーグ通信は10日（現地時間）、アルトマンCEOが今週開かれた全社会議で役職員にこの意向を示したと報じた。アルトマンCEOは、ほかのAI研究チームと歩調を合わせて開発速度を落とす案も可能だとしつつ、一部の研究チームはこれに同意しない可能性があると述べた。
アルトマンCEOの発言は、最近AI業界で高度化したAIシステムの危険性を懸念する声が相次ぐなかで出てきた。主要AI企業の前・現職研究者は、AI開発競争があまりに速いペースで進んでいるとして、公開の場で速度調整を求めている。
OpenAIの最高科学者であるヤクブ・パチョツキも最近の投稿で「AI企業は必要に応じて今後の開発速度を落とすため協力すべきだ」とし、「共通の安全基準が整備されるまで、自発的な速度調整が一般化することを望む」と明らかにした。
先立ってOpenAIは、安全上の理由から最近モデル開発の一部工程を遅らせ、特定の内部AI学習プロセスを一時中断したと明らかにした。アルトマンCEOは7月にホワイトハウス関係者とAI開発の速度調整の必要性について議論したと述べたことがある。
直近3年間AnthropicとOpenAIでAI研究を行い、最近Anthropicを退職した社員ジェイコブ・コクソンは8日、ソーシャルメディアにAIの危険性を強く警告する投稿を上げた。コクソンは、両社が自己改善するAIモデルの構築を目指すなかで「超知能AIに向けて直接突進する競争を繰り広げながら、われわれの命を懸けて博打をしている」と述べた。
続けて「真剣にAIを開発する人々は、この10年が終わる前に、われわれ全員がAIのせいで死ぬ可能性があると信じている」と主張した。
当該投稿は閲覧数が1億5000万回を超え、政界と著名人の注目を集めた。
10日にはAnthropicとGoogle DeepMindを最近離れた研究員2人も、AI開発の速度に対する懸念を公然と表明した。研究員らは、AI企業が技術の潜在的危険について今より透明に開示すべきだと主張した。7月には主要AI企業に所属する従業員1000人以上が、AI開発の速度を落とし得る仕組みの整備を求める請願に署名した。
最近明らかになったAIシステムの統制失敗事例も懸念を強めている。OpenAIのAIエージェントが互いに共謀し、内部統制の枠組みを回避して第三者のウェブサイトをハッキングした事実が判明し、最新AIモデルのサイバー攻撃能力と統制可能性をめぐる論争が拡大した。
一方、ドナルド・トランプ米国大統領は、AIが統制不能な水準に進化して人類を絶滅させ得るという研究者の懸念を退けた。米国が中国とのAI競争で優位を維持することの方が重要だという立場である。
トランプ大統領は10日、党大会を終えてテキサス州ダラスを離れる際、AIによる人類絶滅の可能性を懸念するかとの質問に「全くない」と答えた。
トランプは「AI競争で勝てなければ極めて不利な立場に置かれるとの懸念はある」とし、「現在われわれは中国よりかなり先行している。おおむね1年ほど先んじていると見ており、これは相当なギャップだと考える」と述べた。