‘딥페이크’ 사진·영상을 누구든지 스마트폰만 있으면 10초 만에 만들 수 있는 것으로 29일 나타났다. 음란물에 해당하는 사진·영상도 별다른 제재 없이 소셜미디어(SNS) 등을 통해 무차별적으로 유포할 수 있다.
사진·영상에 워터마크를 넣어 딥페이크라는 사실을 알 수 있게 하려는 대응 법안이 지난 국회에서 논의됐지만, 회기 만료로 폐기됐다. 최근 딥페이크 사진·영상을 만들어 퍼뜨리는 범죄가 심각한 수준에 이르고 있다.
이날 정부와 여당은 딥페이크 사진·영상에 대한 처벌을 강화하는 법안을 추진하겠다고 밝혔다. 시민들은 “디지털 기술 발달에 따른 부작용으로 딥페이크 사진·영상 관련 범죄가 확산하고 있는데 당국의 대응이 한발 늦은 것 아니냐”고 말하고 있다.
◇스마트폰 앱 다운받아, 10초면 사진·영상 제작
이날 조선비즈 기자는 구글 플레이스토어에서 1억회 이상 다운로드된 딥페이크 앱으로 직접 딥페이크 영상을 만들어봤다. 딥페이크는 인공지능(AI) 심층학습을 의미하는 ‘딥러닝(deep learning)’과 가짜를 뜻하는 영단어 ‘페이크(fake)’를 합친 단어다. 특정 인물의 얼굴을 AI에 학습시킨 다음, 그 얼굴을 다른 사람이 나온 사진이나 영상에 교묘하게 합성시켜 만든 콘텐츠를 뜻한다.
영상 제작 방법은 어렵지 않았다. 앱에서 제공하는 여러 영상 중 하나를 뽑은 뒤, 기자의 얼굴이 담긴 사진 1장을 골랐다. 그러자 앱이 기자 얼굴만 따로 추출해냈다. 얼굴 추출이 끝나자 화면 하단에 ‘페이스 스왑(Face Swap·얼굴 바꾸기)’ 버튼이 생겼다.
이 버튼을 누르면 AI가 딥페이크 영상을 만들기 시작한다. 10초도 안 돼 결과물이 나왔다. 앱을 설치하고 영상과 사진을 고르는 시간까지 합쳐 총 3분이 걸리지 않았다. 프로그래밍이나 코딩 지식이 전혀 없어도 누구나 손쉽게 접근할 수 있었다.
◇ 광고 보면 워터마크 없어져… 영상파일 소장·유포 가능
영상 왼쪽 상단에 워터마크가 있긴 했지만 광고 한 편을 보면 없앨 수 있었다. 앱을 통해 만든 딥페이크 영상은 mp4 파일 형태로 소장할 수도 있다. 이 파일을 카카오톡과 같은 메신저를 통해 공유하면 다른 사람들도 볼 수 있다. 딥페이크 영상을 만드는 과정에서 ‘본인 사진만 쓰는 것을 권장한다’, ‘무분별한 영상 제작 및 공유는 범죄 행위로 처벌받을 수 있다’ 등의 경고 문구는 전혀 뜨지 않았다.
다만 앱에서 합성에 쓰도록 제공하는 영상들 중 음란물은 없었다. 앱 제작사 측에서 제공하는 이용 약관에는 “각종 추행, 괴롭힘 등 안전하지 못하다 판단되는 콘텐츠는 제작사 측 재량으로 언제든 예고 없이 삭제할 수 있다”고 쓰여있었다. 구글과 애플 모두 현재 자사 마켓에서 상대방 동의 없이 성적 콘텐츠를 배포하는 데 쓰일 수 있는 앱은 허용하지 않고 있다.
반면 이런 제약이 없는 경우도 있었다. 온라인에서 관련 사이트에 접속하니 합성에 쓰일 영상이 제한돼 있지 않았다. 만들고 싶은 영상 파일과 해당 영상에 넣고 싶은 얼굴이 찍힌 사진 파일만 올려 ‘제작’ 버튼을 누르면 AI가 알아서 영상을 만들어주는 식이다. 성인 영화 등 영상 파일과 누군가의 얼굴이 나온 사진 파일을 갖고 있다면 누구든지 딥페이크 음란물을 만들 수 있는 것이다.
◇ 딥페이크 범죄 대응 법안, 폐기 후 뒤늦게 재논의
딥페이크 관련 범죄에 대응하기 위한 법안은 아직 국회를 통과하지 못했다. 앞서 21대 국회 시절인 지난 2023년 김승수 국민의힘 의원이 대표로 발의한 정보통신망법 일부 개정안에 딥페이크 영상, 음성 등 AI로 만든 거짓 정보를 온라인에 게재할 때 워터마크(식별표시)를 의무화하는 등 내용이 담겨 있었다. 그러나 이 개정안은 국회에서 결론을 내리지 못한 채 임기 만료로 폐기됐다.
지난 5월 말 22대 국회가 개원한 뒤인 6월 해당 법안은 다시 발의됐다. 이 법안도 최근 딥페이크 범죄가 큰 문제가 되고 나서야 지난 26일 국회 과학기술정보방송통신위원회 전체 회의에서 법안소위로 넘어가는 등 뒤늦게 논의가 시작됐다.
한편 정부와 여당은 딥페이크를 비롯한 허위 영상물 유포 행위에 대한 형사 처벌을 대폭 강화하기로 했다. 김상훈 국민의힘 정책위의장은 이날 오전 국회에서 열린 ‘딥페이크 성범죄 관련 부처 긴급 현안 보고’ 종료 후 기자들과 만나 “현행 성폭력처벌법상 허위 영상물의 편집 또는 반포 행위는 5년 이하의 징역 또는 5000만 원 이하의 벌금에 처해지는데, 상한을 7년으로 강화하는 입법이 필요하다는 판단”이라고 말했다.
다만 입법에는 시간이 걸릴 수 있기 때문에 양형기준을 강화하는 작업도 함께 진행해야 한다는 지적이 나온다. 한국 인공지능법학회 회장인 최경진 가천대 법학과 교수는 “딥페이크 반포, 다운로드, 소유 등을 불법으로 규정해 수요를 원천 차단하는 방향에는 동의한다”라면서도 “다만 하루이틀 걸릴 문제가 아니기 때문에 입법 준비를 하면서 디지털 성범죄 양형기준을 강화하는 작업도 필요하다”고 말했다.
대법원 양형위원회에 따르면 허위영상물을 반포하면 가중 처벌까지 받았을 때 최대 형량이 징역 2년 6개월이다. 영리 목적으로 허위영상물을 반포하면 징역 4년이 최대다.