네이버가 AI 모델 중심의 안전성 관리 체계를 실제 서비스 이용 과정까지 확대한 새 기준을 내놨다.
네이버㈜는 8일 서울 강남구에서 열린 '인공지능안전 서울 포럼(SFASS)'에서 AI 안전성 체계 'ASF(AI Safety Framework) 2.0'을 공개했다고 밝혔다.
ASF 2.0은 네이버가 2024년 AI 서울 서밋에서 선보인 기존 ASF를 고도화한 것으로, AI 모델의 성능과 위험 수준을 점검하는 데 그치지 않고 이용자가 AI 서비스를 사용하는 전 과정에서 발생할 수 있는 안전 문제를 관리하는 데 초점을 맞췄다.
송대섭 네이버 AI Safety Policy 리더는 이날 발표에서 "AI 안전성 논의가 개별 모델을 안전하게 만드는 단계를 넘어, 여러 모델이 결합된 서비스를 수천만 이용자에게 어떻게 안전하게 제공할 것인지의 문제로 확장되고 있다"고 설명했다.
ASF 2.0에는 네이버의 '온서비스 AI' 전략과 멀티 모델 환경 확산, AI기본법 제정 등 변화한 기술·정책 환경이 반영됐다. 네이버는 AI 서비스의 맥락, 활용 사례, 이용자 영향 등을 기준으로 위험을 분류하고 영향 평가를 진행한다. 또 사용자 피드백과 지속적인 안전성 점검을 통해 출시 이후 운영 단계까지 관리한다.
네이버는 전사 실행 체계인 'CHEC 2.0'도 함께 마련했다. 지난 6월 공개한 'AI탭'은 CHEC 2.0을 통해 기획부터 출시까지 안전성 검토를 거쳤으며, 향후 AI 기반 서비스 전반에도 같은 체계를 적용할 계획이다.