올해 4월 10일 치러지는 총선부터는 ‘AI 윤석열’, ‘AI 이재명’ 등 딥페이크(Deepfake) 기술을 활용한 선거 운동을 하지 못하게 된다. 딥페이크 기술은 인공지능(AI)을 활용해 인물의 이미지를 실제처럼 합성하는 기술이다. 최근 AI 기술이 발전하며 딥페이크 영상인지 실제 사람의 영상인지 구분하기 어려운 만큼 유권자에 혼동을 줄 여지가 크다는 판단에 법이 개정됐기 때문이다.
13일 정치권에 따르면 지난해 12월 28일 개정된 공직선거법에 따라 선거일 전 90일부터 선거일까지, 선거운동을 위해 AI 기술 등을 이용해 만든 딥페이크 영상 등을 제작·편집·유포·상영 또는 게시하는 행위가 금지된다. 이를 위반하면 7년 이하의 징역 또는 1000만원 이상, 5000만원 이하의 벌금에 처한다. 해당 법은 부칙에 따라 오는 29일부터 시행된다.
‘AI 선거운동’은 지난 20대 대선 당시 활발하게 활용됐다. 국민의힘에서는 지난 대선 때 ‘AI 윤석열’을 선보였다. 딥페이크 기술을 활용해 당시 대선 후보였던 윤석열 대통령이 말하는 모습을 미리 촬영해 분석한 후 입력된 문구를 말하는 것처럼 보이게 만든 것이었다. 이어 당시 더불어민주당 측 대선 후보였던 이재명 후보 측도 ‘AI 이재명’을 내놓았다.
실제 두 대선 후보가 직접 말하는 것 같은 이 AI들은 국민들의 큰 관심을 받기도 했지만, 위험성을 보여주기도 했다. 지난해 대선이 끝난 뒤 지방선거를 앞두고, 국민의힘 지지자로 추정되는 인물이 ‘AI 윤석열’을 활용해 당시 국민의힘 남해군수 후보를 지지하는 영상을 제작해 정치적 논란이 일었다.
국회에서도 이번 공직선거법 개정 당시 ‘유권자의 혼동’을 가장 우려했다. 국회는 “딥페이크 영상의 경우 그 기술 수준으로 인해 실제 후보자의 영상과 구별이 어려워, 해당 영상이 딥페이크 기술을 활용한 것이라는 별도의 표기가 없을 경우 유권자들이 이를 실제 후보자의 영상으로 오인할 소지가 매우 높다”고 우려했다.
해외에서는 실제 AI로 제작한 딥페이크 영상으로 정치권이 혼란을 겪는 사례가 이미 빈번하다. 지난해 1월에는 조 바이든 미국 대통령이 백악관에서 성소수자를 폄훼하는 혐오 내용이 담긴 연설을 하는 딥페이크 영상이 소셜미디어(SNS)를 통해 유포됐다. 올해 대선을 앞두고 있는 바이든 정부로서는 지지층 이탈을 우려할 수 있는 악재였다.
3월에는 도널드 트럼프 전 미국 대통령이 ‘성추행 입막음’으로 기소된 후 경찰에 체포되는 가짜 사진이 SNS에서 급속도로 퍼지기도 했다. 이 사진 또한 AI로 만들어진 것으로 나타났다. 바이든 대통령은 지난해 AI 활용에 대한 규제 방안을 담은 행정명령을 발표했다.
실제 선거에 영향을 준 사례도 있다. 지난해 5월 치러진 튀르키예 대선 당시 쿠르드족 분리주의 무장단체 쿠르디스탄노동자당(PKK)이 야당연합의 케말 클르츠다로을루 후보를 지지하는 가짜 영상이 공개돼 파장이 컸다. 에르도안 대통령은 이 영상을 지지자들에게 공유하며 맹공격에 나섰고, 결국 상대 후보는 쿠르드족과의 밀착 관계를 의심받으며 대선에서 패했다.
이에 미국 일부 주에서는 딥페이크 선거운동과 관련된 규정을 두고 있다. 텍사스주의 선거법은 선거후보자에게 손해를 입히거나 선거결과에 영향을 줄 의도로 딥페이크 비디오를 제작하고 이를 공식 선거일 30일 내에 유포하는 행위를 위법으로 규정하고 있다. 캘리포니아주 선거법은 악의적인 이미지 편집을 통한 선거운동만을 금지하고 있었지만, 한시법으로 규제 대상을 오디오와 비디오물로 확대하기도 했다.
선관위 관계자는 “이번 공직선거법 개정은 딥페이크 영상 쪽에 방점이 찍혔다”면서 “딥페이크와 AI를 활용한 선거운동이 무분별하게 벌어질 수 있다는 우려가 있었다”고 설명했다. 선관위에 따르면 딥페이크 선거 운동 영상을 제작, 유포하는 주체가 법상에 ‘누구든지’로 명시된 만큼 영상에 얼굴이 나오는 당사자더라도 해당 기간 동안 영상을 제작하거나 유포하면 처벌받을 수 있다. 한편 선관위는 AI감별반을 지난 11일부터 조기 편성·운영하고, 시·도선관위는 AI모니터링 전담요원을 2~3명씩 확대해 운영한다.