国家情報院は5日、米国家安全保障局（NSA）、カナダサイバーセキュリティセンター（CCCS）、シンガポールサイバーセキュリティ庁（CSA）、ニュージーランドサイバーセキュリティセンター（NCSC-NZ）、日本国家サイバー総括室（NCO）、英国サイバーセキュリティセンター（NCSC）、オーストラリア信号情報局（ASD）など7カ国のサイバー安保機関とともに「AIサプライチェーンのリスク・緩和策」を共同発表した。
国家情報院は、今回の勧告文がAIサプライチェーンの複雑性に起因するセキュリティ脅威に対応するために用意されたものだと説明した。モデル・データ・インフラなど多様な供給者が関与する構造では「バックドアの潜伏」などのリスク要因が増加し得る点を反映した。
勧告文は、AIを配布後の管理対象ではなく設計段階からセキュリティを内在化すべきシステムと規定した。データ、機械学習モデル、ソフトウェア、インフラ・ハードウェア、第三者サービスの5項目別にリスク要素と緩和策を提示した。
勧告文によれば、品質が低いまたは偏ったデータは判断エラーを招く可能性があるため、信頼できる出所のデータを使用すべきであり、機械学習モデルについてはマルウェアの潜伏やバックドア挿入の可能性を考慮し、安全なファイル形式と透明性の高いモデルを適用することを勧告した。
またAIインフラには悪性ファームウェア注入など新たなセキュリティ脅威が存在するため、ネットワーク分離や自社認証など既存の情報セキュリティ原則を適用して管理すべきだと明らかにした。
国家情報院は2023年11月に「安全なAI開発ガイドライン」を米国・英国などと共同発表し、2024年12月には「AIセキュリティガイドブック」を配布したことがある。
国家情報院の関係者は「今回の勧告文はAIに特化したリスクをサプライチェーンの観点から整理し、事前予防中心のセキュリティ管理の方向性を示した」と述べ、「主要国と協力し、韓国でAIを安全に活用できるよう積極的に支援する」と明らかにした。