생성형 인공지능(AI) 기술로 고품질 딥페이크 콘텐츠를 만들수 있는 소프트웨어(SW) 시장 규모가 커지고 있다. 딥페이크란 딥러닝(Deep learning)과 가짜(Fake)의 합성어로, AI 기술을 기반으로 만들어낸 가짜 이미지·음성·동영상 등을 의미한다.
26일 미국 시장조사업체 앱솔루트 리포트에 따르면, 지난해 전 세계 딥페이크 생성 앱 및 SW 시장 규모는 7241만달러(약 963억원)로 집계됐다. 딥페이크 시장 규모는 오는 2032년까지 연평균 약 36% 성장해 12억달러(1조5000억원)에 달할 것으로 전망된다. 대중적으로 사용되는 딥페이크 서비스로는 페이스앱(FaceApp), 딥스왑(DeepSwap), 딥노스탤지어(Deep Nostalgia), 페이스매직(FaceMagic), 리페이스(Reface) 등이 있다.
딥페이크 기술은 교육, 영화 등 다양한 산업계에서 긍정적인 역할을 하고 있다. 앱솔루트는 “교사들은 딥페이크를 사용해 역사적 인물을 재연, 학습 과정을 더 효율적이고 효과적으로 만들고, 값비싼 VFX(시각효과) 기술에 대한 접근성을 더 높일 수 있다”고 설명했다.
또 “실제 배우를 촬영 현장에 데려오지 않고도 원하는 장면을 생성할 수 있고, 후반 작업에서는 배우의 개입 없이 재녹음과 대사 교체가 가능하다”고 했다.
실제 최근 인기를 끌고있는 넷플릭스 시리즈 ‘살인자ㅇ난감’에서도 딥페이크 기술이 활용됐다. 주인공 장난감(배우 손석구)의 회상 장면에서 손석구의 어린 시절 모습과 빼닮은 AI 아역 배우가 등장했다. 실제 아역 배우 얼굴에 딥페이크 기술을 더해서 몰입감을 높였다는 평가를 받았다.
하지만 앱솔루트는 딥페이크 기술의 위험성에 대해서도 경고했다. 올해 미국인 95%가 딥페이크의 피해자가 될 수 있다는 전망이다. 딥페이크 기술이 가장 널리 활용되는 분야로 포르노 산업을 꼽았다. 앱솔루트는 “딥페이크는 다른 어떤 곳보다 포르노 업계에서 더 자주 사용된다”면서 “2018년 12월부터 딥페이크 포르노 동영상을 추적한 결과 90%가 해당 여성이 동의하지 않은 음란물로 조사됐다”고 했다.
최근 팝스타 테일러 스위프트가 딥페이크 음란물의 피해를 입으면서 논란이 됐다. 바이든 미국 대통령, 젤렌스키 우크라이나 대통령, 기시다 후미오 일본 총리 등 전 세계 각국 지도자들이 허위정보 영상으로 피해를 입으면서 올해 선거가 있는 나라 곳곳에서 딥페이크로 몸살을 앓고있다.
국내에서도 최근 윤석열 대통령을 딥페이크로 합성한 영상물이 제작돼 각종 소셜미디어(SNS)채널에 게시됐다. 이에 방송통신위원회가 지난 23일 네이버, 카카오, 구글, 메타, 엑스(X), 바이트댄스(틱톡) 등과 딥페이크 허위 정보 대응 관련 자율규제 강화를 위한 민관협력 회의를 개최하기도 했다.
앱솔루트는 “딥페이크는 잠재적인 이점에도 불구하고 기술이 널리 보급됨에 따라 악용될 가능성도 높아졌다”며 “대중을 속이는 능력이 있고, 더 이상 어떤 정보 출처가 신뢰할 수 있는지 판단하기 어렵게 한다”고 했다.