人工知能（AI）モデル「Claude」を開発したAnthropicが、AI技術の進展に伴うリスクに対応するため、政府による規制と労働市場対策の整備を促した。
10日（現地時間）ロイター通信によると、Anthropicは声明を出し、AIリスクを扱う厳格な連邦法が議会で可決されない限り、州政府によるAI規制を妨げてはならないと主張した。また、議会はAI企業が作る最上位モデルに対して独立した安全性テストを受けることを求め、AIが引き起こす失業などの問題について対策を講じるべきだと強調した。
ダリオ・アモデイ最高経営責任者（CEO）はこの日、個人ブログで公開した「幾何級数的AI発展に対する政策」エッセイで、この立場を具体的に説明した。
アモデイCEOは、AIの発展速度が幾何級数的に速まっており、これまで議論されてきた透明性中心の規制だけでは不十分だと指摘した。アモデイCEOは「透明性を超えてAIにより厳格で拘束力のある規制を導入すべき時だ」とし、航空機に対して技術的テストと監査を行う連邦航空局（FAA）をモデルとしてAIを規制する機関を設立すべきだと述べた。
AIが引き起こし得る大規模な失業問題への懸念も示した。アモデイCEOは「長期的な雇用の代替現象は望ましくないだけでなく危険でもある」とし、雇用促進のためのインセンティブやベーシックインカムのような所得支援が必要になると主張した。
続けて、完全自律型兵器システムについて信頼できる責任規定を整備し、米国内での使用を禁止すべきだとも強調した。
アモデイCEOはこの日公開されたブルームバーグとのインタビューでも、AIを軍事目的で使用する際には人間の関与が必要だと述べた。アモデイCEOは、2月に子ども約120人が死亡したイランの小学校ミサイル空爆にClaudeが使われたかどうかは知らないとしつつも、「Anthropicが確立した原則は、人間が最終決定を下すことだ」と語った。続けて、当該空爆事例はAIの支援があっても人間が統制権を維持すべき理由を示すと説明した。
ただしアモデイCEOは、ドナルド・トランプ政権の移民取り締まり過程やパレスチナ・ガザ地区でClaudeが使用されているという主張については否定した。その一方で、米国防総省（戦争省）の軍事作戦にClaudeが使用されること自体については問題ないと述べた。
アモデイCEOはまた、テクノロジー企業が特定の軍事作戦を許可または禁止する権限を持つわけではないとし、「軍事政策は結局、軍の意思決定権者の手に委ねるべきだ」と明らかにした。
専門家レベルのセキュリティ脆弱性検出能力を備えた最上位AIモデル「ミトス」の公開を延期した理由も説明した。アモデイCEOは「モデルが脆弱性を見つける能力は着実に向上してきたが、今回はとりわけ飛躍の幅が大きかった」とし、「モデルを初期に利用した企業の中には『これは超強力な武器だ。これを使うには銃器の許可証が必要なほどだ。どうか公開しないでほしい』と反応したところもあった」と述べた。
AIモデルを開発しながらもAIの危険性を継続して警告してきた歩みがロバート・オッペンハイマーに似ているとの評価について、アモデイCEOは「オッペンハイマーは失敗事例、あってはならない事例だと見る」とし、「良い結末を迎えるにはあらゆる場所に抑制と均衡が必要だ」と語った。