オープンAIが米国防総省と人工知能(AI)契約を結んでから約1週間で、ロボティクス部門責任者のケイトリン・カリノフスキーが会社を去ると明らかにした。
7日(現地時間)、ロイターなどによると、カリノフスキーはソーシャルメディアのエックス(X、旧ツイッター)を通じて辞任の意向を示し、米国人に対する司法的監督なき監視と、人間の承認がない自律的な殺傷の問題は、より十分な議論が必要だったと指摘した。カリノフスキーは、契約の発表が安全装置と意思決定構造が十分に整う前に拙速に行われたという趣旨の問題意識も併せて示した。
論争の出発点は、オープンAIが先月27日に米国防総省と結んだ契約である。オープンAIは自社のAIモデルを米国防総省の機密クラウドネットワークに配備することにしたとし、その後、契約には追加的な保護装置が含まれていると説明した。会社側は、自社技術が米国内の大規模監視、自律兵器システムの制御、重大な自動化意思決定には使えないという、いわゆる「禁止事項」を設けていると明らかにした。
しかし批判は容易に収まらなかった。サム・アルトマン、オープンAI最高経営責任者(CEO)は、契約の公開があまりに拙速だったと認め、その後、米国人に対する国内監視の懸念をより明確に遮断する方向で契約文言を手直しする方針を示した。ただし外部からは、実際に統制が可能なのかという疑問が続いた。
利用者の反発も表れた。市場調査会社センサータワーの集計を引用したテッククランチの報道によると、契約発表直後、米国内のChatGPTアプリの削除件数は1日で295%急増し、星1の評価は775%増えた。同期間、Anthropicのクロードアプリは米国のApp Store無料アプリで1位となった。
今回の事案は、競合のAnthropicと米国防総省の対立とも絡んでいる。Anthropicは自社モデル「クロード」の活用範囲をめぐって国防総省と衝突し、その後、国防総省からサプライチェーンリスク指定の通知を受けた。Anthropicはこれに不服として法的対応の方針を明らかにしている。