NAVERがAI安全枠組みASF 2.0公開 利用者保護拡大

NAVERがAIモデル中心の安全性管理体制を実際のサービス利用過程まで拡大した新基準を打ち出した。

NAVER㈜は8日、ソウル江南区で開かれた「人工知能安全ソウルフォーラム（SFASS）」でAI安全性体制「ASF（AI Safety Framework）2.0」を公開したと明らかにした。

ASF 2.0はNAVERが2024年AIソウルサミットで披露した既存のASFを高度化したもので、AIモデルの性能とリスク水準を点検するにとどまらず、利用者がAIサービスを使用する全過程で発生し得る安全問題を管理することに焦点を当てた。

ソン・デソプNAVER AI Safety Policyリーダーはこの日の発表で「AI安全性の議論が個別モデルを安全にする段階を越え、複数のモデルが結合したサービスを数千万人の利用者にどう安全に提供するかという問題へと拡張している」と説明した。

ASF 2.0にはNAVERの「オンサービスAI」戦略とマルチモデル環境の拡大、AI基本法の制定など変化した技術・政策環境が反映された。NAVERはAIサービスの文脈、活用事例、利用者への影響などを基準にリスクを分類し、影響評価を実施する。また、ユーザーフィードバックと継続的な安全性点検を通じて、リリース後の運用段階まで管理する。

NAVERは全社実行体制「CHEC 2.0」もあわせて整備した。6月に公開した「AIタブ」はCHEC 2.0を通じて企画からリリースまで安全性の審査を経ており、今後AI基盤サービス全般にも同じ体制を適用する計画だ。