정부가 6월 지방선거를 앞두고 딥페이크 영상·음성 조작 범죄에 강력히 대응하기 위해 최첨단 인공지능(AI) 탐지 기술을 본격적으로 활용한다.
윤호중 행정안전부 장관은 10일 정부서울청사에서 'AI 딥페이크 탐지 모델' 시연식을 갖고 이같이 밝혔다.
선관위에 따르면 선거기간 딥페이크 영상 삭제 요청이 2024년 제22대 총선 당시 388건에서 2025년 지난 대선에선 1만 510건으로 크게 늘었다.
이번에 도입되는 탐지 모델은 지난 2025년 12월 열린 '딥페이크 범죄 대응을 위한 AI 탐지 모델 경진대회'의 성과를 바탕으로 만들어졌다. 당시 대회에는 총 268개 팀(1077명)이 참여했다. 행안부와 국립과학수사연구원은 최종 선정된 5개 우수 모델을 중앙선거관리위원회에 제공하고, 선거 기간에 의심되는 콘텐츠를 신속하게 감정하는 지원 체계를 운영할 방침이다.
행안부 관계자는 "이번 모델은 영상의 전체적인 흐름을 분석하는 '전역 분석'과 얼굴 등 특정 부위의 조작 흔적을 정밀하게 판별하는 '국소 분석'을 동시에 진행하여 탐지의 정확도를 높였다"면서 "실제 검증 결과 약 92% 수준의 높은 탐지 정확도를 기록했다"고 설명했다.
행안부와 국과수는 앞으로 AI 딥페이크 분석 모델의 활용 범위를 단계적으로 확대할 계획이다. 성평등가족부, 방송통신위원회, 경찰청 등 관계 부처와 긴밀히 협력해 범정부 차원의 촘촘한 디지털 범죄 대응 체계를 구축할 예정이다.
윤호중 행안부 장관은 "고도의 기술로 만들어진 AI·딥페이크를 활용한 가짜뉴스가 선거 민주주의를 심각하게 위협하고 있다"면서 "정부는 국민의 소중한 권리가 침해받지 않도록 선거 과정에서 허위·조작 정보에 대한 대응 역량을 꾸준히 높여 유능하고 신뢰받는 'AI 민주정부'를 만들어 나가겠다"고 말했다.