一部の科学者が生物兵器に悪用され得るウイルス研究にAnthropicの人工知能（AI）モデル「Claude」を活用したことが判明した。銃器やミサイル、武装ドローンの開発や反体制派の監視など軍事・安保分野でClaudeを悪用しようとした事例も確認された。
ニューヨーク・タイムズ（NYT）は10日（現地時間）、Anthropicが最近公開したAI悪用事例報告書を通じ、このような事例を明らかにしたと報じた。
報告書によると、5月、一人の科学者が軍事研究機関で進めるチクングニヤウイルスの変異研究にClaudeを活用した。チクングニヤウイルスに感染すると、深刻な関節痛などが数カ月間持続することがある。
この科学者は生きている動物にウイルスを反復的に感染させ、有害性を一層高める研究を推進したと伝えられた。こうした研究はワクチン開発などに活用できる一方で、生物兵器の開発にも悪用される危険がある。
Anthropicの情報分野責任者であるジェイコブ・クラインは「当該研究の目的が兵器開発かどうかは分からない」としつつも、「軍事機関がこのような研究を行うという事実自体が懸念されることだ」と述べた。
また、Claudeの使用が制限される地域に居住するある研究者は鳥インフルエンザ関連の実験を推進した。Anthropicは国家安全保障上の懸念を理由に、中国とロシア、イラン、北朝鮮、キューバなどに対してはClaudeの使用を制限している。
Anthropicは使用制限地域からの迂回接続や研究目的を隠した科学者のアカウントを遮断した。軍事用に転用される可能性がある生物学研究についても安全装置を強化したと明らかにした。
生物学分野以外にも、銃器やミサイル、武装ドローンなど在来式兵器の設計・開発や反体制派の監視にAIが利用された事例も公開された。中国で3件、ロシアで2件、イエメンで1件の在来式兵器に関する悪用事例が確認された。
中国とイラン政府と連携していると疑われる勢力は、反体制派と海外居住者を監視するためにAIを活用しようとしたと伝えられた。ロシアの国営メディアはClaudeを利用し、モルドバの選挙に関する偽ニュースを独立系メディアの報道に偽装しようとした。
ワシントンのシンクタンクである戦略リスク評議会（CSR）の上級研究員アンドリュー・ウェバーは、こうした事例について「国家の支援を受ける生物兵器開発者が急速に進歩するAIの能力を利用しようとしている事実を示すぞっとする事例だ」とし、「中国とロシア、北朝鮮が禁止された生物兵器を引き続き開発している点を踏まえれば、これらの国家の研究者が強力なAIモデルにアクセスできないよう徹底的に遮断すべきだ」と述べた。