KAISTがMSのAI安全性研究支援で唯一選定

KAISTの研究チームがマイクロソフト（MS）のグローバル人工知能（AI）安全性研究プログラムに韓国の機関として唯一選定された。

ソン・スエルKAIST電算学部教授の研究チームは、MSのAIレッドチームが運営する「外部レッドチーム連合（EXTRA）」の研究支援対象に含まれたと28日明らかにした。

EXTRAは、大学と研究機関が外部の観点からAIシステムのセキュリティ脆弱性と安全性を点検することを支援するプログラムである。サイバーセキュリティや多言語環境、文化的文脈、AIアラインメント、技術悪用の可能性など、企業の内部組織だけでは検証が難しいリスクを幅広く扱うために設けられた。

今回のプログラムには6大陸の10余りの大学が参加する。韓国ではKAISTが唯一である。ソン教授の研究チームは、研究期間に別途の制限がないギフトアワード方式で2万5000ドル（約3650万ウォン）の支援を受ける。

研究チームは生成型AIと大規模言語モデル（LLM）のセキュリティおよび個人情報保護技術を研究している。モデル窃取や個人情報抽出、プロンプトインジェクション、メンバーシップ推論などAIシステムを狙う攻撃手法を分析し、防御技術を開発することが主要課題だ。

ウェブエージェントやエージェンティックブラウザーのように実サービスで活用されるAIエージェントの安全性も研究する計画である。外部入力や悪性の命令によってAIが意図しない作業を実行する問題を減らすシステム水準の防御技術を扱う。

ソン・スエル教授は「AIが実サービスに迅速に適用される中で、性能だけでなく安全性と信頼性を確保することが重要になった」と述べ、「現場で発生しうるセキュリティ脅威を分析し、対応技術を開発する」と語った。