ロシアが人間の操縦なしに人工知能（AI）が攻撃対象を自ら選定する自律型ドローンをウクライナの戦場に投入したことが明らかになった。AIが標的を定めたロシアのドローンで民間人が死亡した事実が確認されたのは初めてである。人間の判断を経ない殺傷兵器が現実化し、誤認攻撃や責任の所在、国際法違反を巡る懸念も高まっている。
24日（現地時間）のニューヨーク・タイムズ（NYT）によると、先月6日ウクライナ南東部ザポリージャのあるガソリンスタンド付近にロシアの小型ドローンが墜落し爆発した。この攻撃でザポリージャ国立大学で会計学を学んでいた民間人3人が死亡したことが分かった。
ドローン専門家とウクライナ軍指揮官、残骸を調査した鑑識チームは、当該ドローンが人間の操縦者ではなく実験用AIシステムの誘導を受けたと判断した。人間の運用者が特定のガソリンスタンドまで移動するよう経路を入力したが、現場に接近した後はドローンがプロパンガスタンクと推定される攻撃対象を自ら選んだという。
ウクライナ当局がドローンの残骸を分析した結果、内部からエヌビディアの「ジェットソン・オリン」ミニコンピューターが発見された。ドローンには外部と通信するためのアンテナもなかった。エヌビディアのチップには暗号化が施されておらず、調査官はドローンに入力された地形画像とプログラムコードも確認した。コードにはプロパンガスタンクのようにドローンが認識し攻撃するよう学習された標的の種類が含まれていた。
ワシントンの戦略国際問題研究所（CSIS）傘下ワドワニAIセンターのカテリナ・ボンダル上級研究員は、今回の事件が自前の標的設定AIを搭載したロシアのドローンで民間人の死者が発生した最初の文書化された事例だと明らかにした。カテリナ・ボンダルは、エヌビディアのモジュールがロシアが自律型AIを実験していたことを示す「最も確実な証拠」だと述べた。
従来のAIドローンは人間の操縦者が標的を定めた後、攻撃直前の最後の段階でのみAIを活用した。これに対し今回使用されたと推定される完全自律型ドローンは最終標的を選定する過程でも人間を排除した。数千枚の画像を学習したAIがドローンカメラに捉えられた物体を分析し、攻撃の可否を決定する方式である。
ウクライナのハルキウ航空研究所のドローン専門家バディム・クシニコウは、民間人3人を死亡させたドローンについて「仮想現実で特定の物体を追跡するよう訓練された事前プログラミング装置」だと説明した。
自律型ドローンは電波を用いた遠隔操縦を必要としないため電波妨害を受けず、あらかじめ入力された座標を攻撃する兵器より精度が高い。ドローン操縦者を別途配置する必要もない。一部の専門家は、AIが攻撃直前に周辺状況を判断できるため、無誘導爆弾や通常の砲弾よりかえって民間人被害を減らせると主張する。
しかしAIが民間人と戦闘員、民間施設と軍事施設を適切に区別できなければ誤認攻撃につながり得ると専門家は指摘する。AIは膨大なデータからパターンを見つけ自律的に判断基準を作るため、開発者でさえ具体的な決定過程を完全に予測しにくい。誤認攻撃が発生した際に法的責任を誰に問うべきかも不明確である。
国際赤十字委員会（ICRC）と人権団体は、人間が意思決定過程に関与しないAI兵器の使用に反対している。どの対象が国際法上適法な軍事標的かの判断を事実上機械に委ねることになるためである。
ザポリージャ防空部隊の指揮官セルヒー・ミナエウ大佐は「これは全世界に危険な事態だ」とし、「数年後、われわれは映画『ターミネーター』の中で生きることになる。機械が攻撃の可否を決定している」と述べた。