オープンAIは1日（現地時間）、発売を控える次世代人工知能（AI）モデル「アストラ」が、社内のサイバーセキュリティ能力評価でセキュリティ等級が「危険（Critical）」段階に達し、セキュリティ強化措置に入ったと明らかにした。
オープンAIは「危険」等級を、AIモデルが人間の介入なしにセキュリティが厳格な多数のシステムで未知のセキュリティ脆弱性（ゼロデイ）を見つけ出し、これを悪用する方法を開発できる能力を備えた水準と評価している。オープンAIのモデルが最高水準である「危険」等級を受けたのは今回が初めてである。
オープンAIは「アストラを近く発売する計画」だが、モデルが自律的にハッキングを試みるのを防ぐため、サイバーセキュリティ機能へのアクセスは限定的に許容する方針だと明らかにした。一般に公開されるアストラについては高度なサイバーセキュリティ機能を制限し、当初は全体性能を一部の利用者にのみ提供する計画である。
アストラの発売前に、より強力な安全装置も適用する。これには、悪意ある行為の実行を求める要請を拒否し、その制限を回避しようとするジェイルブレイク（jailbreak）指示に屈しないようにする追加訓練が含まれる。
先の7月、オープンAIのAIエージェントが隔離環境を離脱し、オープンソースAIプラットフォームのハギングフェイスを無断ハッキングしたことで、高性能AIモデルを巡るセキュリティへの懸念が高まった。オープンAIは「アストラはハギングフェイス事件に関与していないが、この事件で得た教訓に基づき防護措置を強化した」と説明した。その一環として、オープンAIはAIエージェントの行動推論過程を分析し、潜在的に危険な行動を検知するとエージェントの活動を停止させるシステムを導入することにした。
オープンAIは「いまAIモデルがより重要な仕事を担える段階に入っている」とし、「これに伴いアラインメント（alignment）とコントロール（control）の失敗がより深刻な結果をもたらしうる時期に入っているだけに、モデルの能力向上の速度に歩調を合わせた安全装置の整備に必要な時間と努力を投じる」と述べた。