人工知能（AI）が学習した個人情報や著作権侵害資料だけを選別して削除しつつ、類似する正常データの認識性能は保護し、消去した情報が再び復活する現象まで遮断する技術が開発された。
ウルサン科学技術院（UNIST）はユン・ソンファン人工知能大学院教授とパク・セロム産業工学科教授の共同研究チームがマシン・アンラーニング技術「スポッター（Spotter）」を開発したと21日明らかにした。マシン・アンラーニングは学習が終了したAIモデルから特定のデータやカテゴリが及ぼした影響だけを選択的に除去する技術である。顔認識サービスの個人情報削除要求や有害・違法コンテンツの整理などに活用できる。
研究チームは既存技術が削除対象と似た正常情報まで一緒に消してしまう「過剰削除」の問題を抱えていると分析した。モデル内部に削除対象の特徴が残っており、少量のデータを再学習させると消去した機能が復旧する脆弱性も確認した。猫の情報を削除する際に虎や豹の認識率まで下がり、猫の写真を数枚再入力するだけでも判別能力がよみがえるという具合だ。
スポッターは削除対象と似た正常情報を区別する能力は維持しつつ、削除データから共通特徴を見つけて束ねる能力は除去するよう設計した。小規模画像データセットの実験で削除対象の認識率は0%まで低下し、再学習攻撃後も0.24%にとどまった。既存技術は写真5枚だけを再学習しても認識率が71.10%から最大99.98%まで回復した。スポッターは削除しなかった残りのカテゴリの認識精度を99.96%で維持した。
研究チームはスポッターを既存のアンラーニング手法に容易に結合できるプラグイン形態で実装した。今後、顔認識と個人情報保護、有害コンテンツ削除など、機微情報の管理が重要なAIサービスに幅広く適用できると期待した。
今回の研究は今月6〜11日にソウルで開かれた国際機械学習学会（ICML）に採択され、発表された。科学技術情報通信部と韓国研究財団、情報通信企画評価院の支援を受けて遂行された。