“저 윤석열, 국민을 괴롭히는 법을 집행해온 사람입니다.” ‘가짜’ 윤석열 대통령이 등장해 이런 말을 하는 딥페이크(Deep fake·AI로 만든 영상·이미지 합성 조작물) 영상이 작년 말부터 틱톡, 페이스북, 인스타그램 등 소셜미디어(SNS)에서 유포되고 있는 것으로 나타났다.
22일 경찰에 따르면 서울경찰청은 최근 방송통신심의위원회에 이 같은 윤 대통령 딥페이크 영상 삭제와 차단을 요청했다. 경찰은 “같은 URL 주소를 통해 틱톡, 인스타, 페이스북 사이트 계정을 사용하는 회원이 ‘가상으로 꾸며본 윤 대통령 양심고백연설’이란 제목의 영상 등을 게시한 것으로 확인돼 삭제·차단을 요청한다”고 했다.
46초 길이의 이 영상에서 가짜 윤 대통령은 “무능하고 부패한 윤석열 정부는 특권과 반칙, 부정과 부패를 일삼았다” “저 윤석열, 상식에서 벗어난 이념에 매달려 대한민국을 망치고 국민을 고통에 빠뜨렸다” “저 윤석열의 사전에 정치 보복은 있어도 민생은 없다” 등의 발언을 한다. 틱톡에서 ‘윤석열 양심’을 검색하면 지금도 이 영상을 볼 수 있다.
4·10 총선을 앞두고 국민들에게 혼란을 줄 수 있는 영상이 올라온 셈이다. 방심위는 오는 23일 긴급 통신심의소위원회를 열어 해당 안건을 심의, 바로 삭제 및 차단 조치를 할 것으로 전해졌다.
지난 대선 당시 윤 대통령과 이재명 더불어민주당 대표 등 양당 대선 후보들은 딥페이크 기술을 이용한 ‘AI 윤석열’ ‘AI 이재명’을 만들어 선거운동을 벌였다. 당시에도 딥페이크 기술은 논란이 됐다. 같은 해 지방선거를 앞두고 윤 대통령이 당시 국민의힘 박영일 남해군수 후보를 지지하는 가짜 영상이 소셜미디어에서 확산됐다.
이후 여야는 딥페이크로 허위 정보가 확산되지 않도록 법을 개정했다. 지난해 12월 개정된 공직선거법에 따르면 선거일 전 90일 동안 딥페이크 영상을 이용한 선거운동이 금지된다. 그러나 법 위반 사례가 속출하고 있다. 중앙선거관리위원회에 따르면 지난달 29일부터 지난 16일까지 19일간 유권자를 상대로 딥페이크를 이용한 선거 운동 행위로 공직선거법을 위반한 게시물은 129건이다.
해외에서도 정치권에서 딥페이크 기술이 논란이 되고 있다. 지난달 미국 뉴햄프셔 유권자들은 조 바이든 대통령과 똑같은 목소리로 걸려온 전화를 받았다. 전화 속 남성은 ‘말도 안 되는 소리’라는 바이든 대통령의 표현을 따라 하며 민주당 대선 후보 경선에 참여할 필요가 없다는 허위 정보를 전달했다. 지난해에는 도널드 트럼프 전 미국 대통령이 수갑을 차고 경찰에 연행되는 허위 이미지가 퍼지기도 했다.