AI가 만드는 가짜 동영상… 이젠 AI가 속속 걸러낸다

조선일보
  • 최인준 기자
    입력 2019.12.02 03:12

    [글로벌 테크 기업들, 딥페이크와 전쟁]
    저커버그 가짜 인터뷰·트럼프 욕하는 오바마… 美대선 좌우할 변수로 떠올라
    구글, 발언 인증기술 개발 나서고… 페이스북, 스타 영상 10만개 수집… 아마존은 딥페이크 적발 경진대회
    눈동자 못 깜빡이던 딥페이크들… 허점 드러나 손쉽게 발각되자 최근엔 깜빡이는 수준까지 진화

    페이스북이 온라인 공간에서 영향력이 큰 스타, 정치인과 관련된 진본 영상·이미지 10만개를 수집하고 있다. 구글은 문자를 음성으로 바꾸는 자사 기술을 거꾸로 활용해 음성 조작 색출 기술 개발에 들어갔다. 모두 딥페이크(deepfake·가짜 동영상)와 본격적 전쟁을 위한 준비 차원이다.

    영국의 디지털 예술가로 알려진 빌 포스터가 자신의 인스타그램에 올린 딥페이크 영상 모음.
    영국의 디지털 예술가로 알려진 빌 포스터가 자신의 인스타그램에 올린 딥페이크 영상 모음. (왼쪽 사진부터) 도널드 트럼프 미국 대통령, 페이스북 CEO인 마크 저커버그, 모델 겸 영화배우 킴 카다시안, 행위 예술가 마리나 아브라모비치, 영화배우 모건 프리먼 등 유명 인사들의 얼굴을 합성해 하지 않은 말을 실제 한 것처럼 만들었다. /빌 포스터 인스타그램
    글로벌 IT(정보기술) 기업들이 딥페이크와 전쟁에 돌입했다. 딥페이크는 인공지능(AI)의 심층 학습 기능을 뜻하는 '딥러닝(deep learning)'과 가짜를 뜻하는 '페이크(fake)'를 합친 말이다. AI를 이용해 음성이나 영상을 짜깁기하는 기술이다. 특히 유명 정치인이나 기업인의 얼굴을 합성한 딥페이크 영상들이 가짜 뉴스를 퍼뜨리는 데 악용되고 있다. 네덜란드의 사이버보안 연구업체 딥트레이스에 따르면, 전 세계 딥페이크 영상은 지난해 12월 7964개에서 올해 9월 1만4798개로 2배 수준으로 늘어났다. IT 업계 관계자는 "만약 대기업 CEO가 실적 발표 전날 범죄를 저지르는 딥페이크 영상이 유포된다면 나중에 가짜 영상임이 밝혀져도 기업 주가는 폭락하고 손실은 걷잡을 수 없다"며 "특히 내년 미국 대선을 앞두고 딥페이크가 가짜뉴스 확산에 악용되면 선거 결과에도 엄청난 영향을 줄 수 있는 만큼 IT 업계가 손 놓고 있을 수 없는 상황"이라고 말했다.

    ◇안면 매핑으로 점점 정교해져

    지난 6월 마크 저커버그 페이스북 CEO(최고경영자)가 "수십억 명의 은밀한 사생활이 담긴 데이터를 통제할 사람이 누구인지 떠올려 보라"고 말하는 인터뷰 영상이 온라인에 공개돼 파문이 일었다. 지난해에는 버락 오바마 전 미 대통령이 트럼프를 가리켜 '멍청이'라고 비난하는 영상도 퍼졌다. 모두 딥페이크 기술이 이용된 가짜 영상이었다.

    딥페이크 영상 제작 원리 외
    딥페이크는 '안면 매핑(face mapping)'을 동영상에 적용해 만든다. AI가 얼굴을 3D(입체) 형태로 인식하는 기술이다. 얼굴을 여러 개 점으로 나누고 각 점을 영상에 하나씩 입혀 얼굴을 합성하는 것이다. 이런 점들이 수천 개에서 수백만 개로 늘어나거나, 많은 프레임에 적용될수록 딥페이크 영상은 정교해진다. 화소가 높은 TV가 더 선명하게 보이는 것과 같은 원리다.

    과거에 이런 가짜 영상은 영상 속 배경을 합성하는 수준이었다. 이젠 사람의 표정, 입 모양까지 조작해서 하지도 않은 말을 한 것처럼 보이게 할 정도로 기술이 정교해졌다. 표정, 음성 등의 수많은 데이터를 빠르게 학습할 수 있는 AI 기술이 등장하면서 가능해진 일이다. 미국에서는 딥페이크 제작 전문 사이트까지 등장했다. 일반인도 돈을 내면 어렵지 않게 가짜 영상을 만들 수 있다. 미국 월스트리트저널(WSJ)은 "2.99달러만 내면 이틀 안에 딥페이크 비디오를 만들 수 있는 수준"이라고 전했다.

    ◇탐지 기술 개발에 1000만달러 투자도

    딥페이크 영상이 갈수록 정교해지면서 당장 내년 미 대선을 좌우할 큰 변수로 떠올랐다. 후보 정치인이나 정당과 관련한 가짜 뉴스에 악용될 수 있기 때문이다. 특히 이 가짜 영상들이 주로 퍼져 나갈 수 있는 소셜미디어 운영 기업들은 비상이 걸렸다.

    페이스북은 최근 1000만달러(약 120억원)를 투자해 딥페이크 영상 탐지 기술 개발을 시작했다. 1차로 유명 배우와 정치인 등 인플루언서와 관련된 영상·이미지 10만개를 수집하고 있다. 유포된 영상이 딥페이크인지 가리기 위한 데이터 확보 차원이다. 구글은 문자를 음성으로 바꾸는 자사 기술을 거꾸로 활용해 영상 속 발언자가 직접 자신이 한 말인지 인증하는 기술을 개발하고 있다. 구글은 온라인에 퍼져 있는 딥페이크 영상·이미지를 사용한 정치 광고를 앞으로 삭제하겠다는 방침도 밝혔다. 트위터도 조작된 영상, 이미지 등이 적발됐을 때 삭제하는 방안을 검토하고 있다.

    사진 편집 소프트웨어 기업 어도비는 유포된 콘텐츠에 대해 자신이 직접 제작에 참여했는지 인증하는 기술을 개발하고 있다. 누가, 어디서, 어떻게 만들었는지 정보를 사진과 영상에 미리 입력해 진위를 구분하자는 것이다. 이를 위해 뉴욕타임스(NYT)와 협력해 해당 기술을 개발 중이다. 이르면 내년쯤 해당 기술을 사진 편집 소프트웨어인 포토샵에 포함할 계획이다. 세계적 비영리 AI 연구단체인 'AI파운데이션'은 AI의 안전한 사용을 위해 내년 대선 기간 언론·정당 등에 문제 소지가 있는 영상, 이미지 등을 분석해 딥페이크 여부를 파악해주는 서비스를 제공하기로 했다. 아마존마이크로소프트(MS)는 딥페이크 영상·이미지 적발 기술을 공유하기 위해 이달 중 미국에서 열리는 '딥페이크 적발 경진대회'를 후원하기로 했다.

    ◇결국 '창과 방패의 싸움'

    업계에선 "딥페이크와 전쟁은 컴퓨터 바이러스와 이를 잡기 위한 백신처럼 쉽게 끝나지 않는 '창과 방패'의 싸움이 될 것"이란 전망도 나온다. 작년만 해도 온라인에 유통되던 딥페이크 영상들은 AI가 정지 화면을 학습해 영상을 만든 것이었다. 눈을 깜빡이는 장면이 거의 없었다. 미 국방부 산하 방위고등연구계획국(DARPA)은 이 허점을 토대로 딥페이크 영상을 잡아내는 AI 프로그램을 개발했다. 하지만 최근에는 눈동자를 깜빡이는 장면이 등장하는 딥페이크가 등장했다. 백신이 나오자 바이러스가 진화한 격이다.

    각국 정부도 나서고 있다. 미국 연방정부는 1년 6개월마다 딥페이크 영상 현황을 조사해 발표하기로 했다. 중국 정부는 지난달 30일 "딥페이크와 같은 영상에는 AI로 제작됐다는 사실을 밝혀야 하고, 이를 어길 경우 영상 제작자뿐 아니라 유통한 동영상 서비스업체까지 형사 처벌을 받게 될 것"이라고 밝혔다. 다만 한국에선 아직 딥페이크 영상에 대한 별다른 규제 움직임이 없다. IT 업계 관계자는 "딥페이크는 기존의 허위 정보와는 차원이 다른 위험성을 내포하고 있다"며 "우리 정부도 입법 검토를 하면서 딥페이크 차단 기술을 개발해야 할 것"이라고 말했다.



    내가 본 뉴스 맨 위로

    내가 본 뉴스 닫기