グーグルが人工知能（AI）を活用し、大規模なサイバー攻撃を準備していたハッカーの試みを事前に遮断したと明らかにした。
グーグル脅威インテリジェンスグループ（GTIG）は11日（現地時間）に発刊した「AIリスク追跡報告書」で「ハッカー集団がAIの助けを得て開発したと推定されるゼロデイ脆弱性攻撃コードを発見した」とし、「これは脅威行為者がAIを使用してゼロデイ開発に成功した初の事例だ」と述べた。ゼロデイ攻撃とは、未知の脆弱性を悪用するサイバー攻撃であり、セキュリティパッチが適用される前に行われる。
GTIGは「当該組織はこれを大規模攻撃に活用する計画だったが、グーグルの先制対応が実際の使用を阻んだ可能性がある」とした。攻撃を試みようとしたハッカーらはソフトウエアの脆弱性を利用し「2段階認証」を迂回しようとしたことが判明した。ただしグーグルは自社AIモデルのGeminiが今回の攻撃に使用されたわけではないと見ている。
近年、AIを活用した脆弱性検知能力が高度化し、ゼロデイ攻撃に悪用され得るとの懸念が提起されていたが、実際に類似の試みが現実化した格好だ。
またグーグルは、北朝鮮と中国の支援を受けるハッキング集団がすでにAIを積極的に活用していると分析した。GTIGは「北朝鮮の脅威グループAPT45はAIを活用し、数千件の攻撃コードを検証し、攻撃アセット（arsenal）を大規模に構築した」と説明した。
攻撃者らはオープンクロのようなAIエージェントツールも活用していると診断した。例えば、ある中国連係の脅威行為者は、日本の技術企業の脆弱性を突き止めるためにエージェントツールを用い、自律的かつ持続的な探索攻撃を敢行したことが明らかになった。
中国連係のサイバースパイ組織であるUNC5673をはじめとする複数の脅威グループが、精緻な技術的手法を用いて最新の大規模言語モデル（LLM）の権限確保も試みていることが判明した。GTIGは「これらは専門ミドルウエア（身元洗浄ツール）とアカウント登録自動化プログラムを活用して高性能AIモデルサービスに匿名でアクセスする」とし、「これによりモデルの使用量制限を迂回し、運用コストを賄い、大規模AIサービスを攻撃活動に悪用している」と述べた。
ジョン・ハルトクィストGTIG主席アナリストは「AIによる脆弱性戦争はすでに始まっている」とし、「脅威行為者は多方面でAIを活用し、攻撃の速度と規模、精緻さを高めているため、国家支援勢力はもちろん、サイバー犯罪集団のAI活用の脅威を決して過小評価してはならない」と強調した。