ChatGPT開発社オープンAIの最高科学者が人工知能（AI）の開発速度を落とすべきだと主張した。最先端モデル「GPT-6 アストラ」を公開してから数日でAI技術の危険性を警告し、速度調整を促したかたちだ。
ヤクブ・パホツキ（Jakub Pachocki）オープンAI最高科学者は6日（現地時間）、オープンAIのホームページに掲載した「外界の知性（An Alien Mind）」という寄稿文を通じて、「機械知能が引き続き急速に発展する場合にもたらされる結果に、誰も備えていない」と述べ、このように明らかにした。
パホツキ最高科学者はAIが人間の知能を超え始める出発点に立っているとし、「AIは設計される（designed）というより成長する（grown）もので、AIシステムの作動方式はわれわれが完全に理解することは難しい」と評価した。AIも人間が精密に描いた設計図に合わせて作られるのではなく、生物のように育ち変化するため、人間がAIを完全に統制するのは難しいという説明だ。
オープンAIがAIを監視するために適用した連鎖推論（CoT・chain-of-thought reasoning）機能も、AIモデルが高度化するにつれて次第に低下すると見通した。いまはAIエージェントが「この試験で不正行為をしよう」と考えれば、オープンAIが推論過程を確認できるが、今後はモデルの加工されていない実際の思考をのぞき見るのが難しくなるという説明だ。パホツキ最高科学者は「一部の最新モデルでは推論過程をそもそも言語で表現しないこともある」と付け加えた。
AI開発を継続してこそ防御体制を構築できるというAI業界の主張については、「（防御体制の構築が）無謀な行動を正当化する口実になってはならない」と反駁した。さらに、AIが人間に脅威となる行動を拒否するようにする「整合（アラインメント）」の問題を十分に解決した研究所はまだ一つもないとし、「共同の安全装置が整うまで自主的な速度調整が一般化することを期待し、望む」と述べた。続けて「AI開発に関する国際的協力が世界各国政府の最優先課題であるべきだ」とも付け加えた。
サム・アルトマン最高経営責任者（CEO）も、パホツキ最高科学者のこの文章をソーシャルメディア（SNS）X（旧ツイッター）で共有し、「重要な文章だ」と明らかにした。