今後、個人情報侵害の大半は住民登録番号や金融情報などの個人識別情報（PII）の直接的な流出ではなく、人工知能（AI）が個人について生成した推論に由来するとする見方が示された。
ガートナーは3日発刊した「個人情報保護の展望：AI・監視技術の拡散に伴う混乱への対応と個人保護戦略」レポートで、2029年までAIの推論に基づく個人情報保護リスクが拡大するとして、このように明らかにした。
ガートナーは、企業が規制とコスト負担を理由に個人データの保有量を減らしているものの、生成AIと機械学習の進展により、攻撃者は匿名・集計データだけでも個人の健康状態や行動パターンといった機微情報を推論できるようになったと説明した。
バート・ウィレムセン（Bart Willemsen）ガートナー主任アナリストは「個人情報侵害の様相がデータ流出からインサイト流出へと変わっている」と述べ、「個人情報保護リスクは、データの露出よりもAIアルゴリズムが個人について行う推論の内容からより多く発生している」と語った。
推論攻撃は既存の検知体制に捉えられない場合が多く、より危険だとガートナーは警告した。実際の情報が流出しなくても、AIが導いた結論を通じて個人の機微情報が明らかになる可能性があるためだ。ウィレムセンアナリストは「これはデータの完全性を損ない、検知・説明・緩和が難しい個人情報侵害リスクを招く」と述べた。
これにより、企業の個人情報保護戦略を再点検する動きが見込まれる。セキュリティ担当者は個人情報を保護するだけでなく、AIシステムが個人に関するインサイトをどのように生成・活用し、これに基づいてどのように行動するのかまで管理すべきだというのがガートナーの説明である。
ガートナーは、企業がAIプロファイルの誤りやバイアス、無断生成リスクへの対応を強化するにつれ、2028年までにデータ完全性の保護支出が機密性保護への投資と同程度に達すると見通した。
ウィレムセンアナリストは「個人情報をデータ保護の問題としてのみ認識する企業は、AI生成の推論による個人情報侵害事故に一層脆弱になる」とし、「今後の個人情報保護リスクは、企業のデータ保存方式よりもAIのデータ解釈方式により大きく左右される」と述べた。