AI(인공지능)가 만든 가짜 얼굴과 실제 사람의 얼굴을 구별할 수 있을까. 사람들은 진짜를 가려내는 데 어려움을 겪었을 뿐 아니라, AI 얼굴을 실제 얼굴보다 더 믿음직해 보인다고 평가했다는 연구 결과가 나왔다.
영국 랭커스터대와 미국 스탠퍼드대, UC버클리 공동 연구진은 AI가 생성한 얼굴의 현실감과 신뢰도를 분석한 연구 결과를 국제 학술지 '저널오브비전'에 최근 공개했다.
연구진은 우선 두 종류의 AI로 얼굴을 생성했다. 하나는 얼굴을 만드는 AI와 가짜를 가려내는 AI가 경쟁하며 성능을 높이는 '생성적 적대 신경망(GAN)'이고, 다른 하나는 무작위 노이즈에서 잡음을 단계적으로 제거해 이미지를 완성하는 '확산 모델'이다. 여기에 더해 실제 얼굴까지 총 세 종류의 얼굴을 각각 400장씩, 총 1200장 준비했다. 연구진은 인종과 성별, 연령이 한쪽에 치우치지 않도록 얼굴을 골랐고, 눈에 띄게 부자연스럽거나 합성 오류가 있는 이미지는 제외했다.
첫 실험에서는 참가자 169명에게 얼굴 사진 96장을 무작위로 보여주고 실제 사람인지 AI가 만든 얼굴인지 판단하게 했다. 참가자들에게 제시된 사진의 3분의 2가 AI 얼굴이었지만, 대부분 얼굴을 실제 사람으로 착각하는 경향을 보였다. 평균 정답률은 58.4%에 그쳤다. 특히 GAN으로 생성한 얼굴이 실제 얼굴로 가장 많이 오인됐다.
두 번째 실험에서는 다른 참가자 87명에게 얼굴 사진 96장을 보여주고 얼마나 믿음직해 보이는지 1점부터 7점까지 평가하게 했다. 실제 얼굴이 평균 4.03점으로 가장 낮았다. GAN 얼굴은 4.36점, 확산 모델 얼굴은 4.7점이었다. AI가 만든 얼굴이 실제 얼굴보다 더 신뢰할 만한 인상을 준 것이다.
흥미로운 점은 GAN 얼굴이 확산 모델 얼굴보다 실제 얼굴로 더 자주 오인됐을 정도로 진짜처럼 보였지만, 신뢰도 점수는 더 낮았다는 것이다. 연구진은 얼굴이 실제처럼 보이는 정도와 믿음직해 보이는 정도를 판단하는 심리적 과정이 서로 다를 가능성이 있다고 분석했다.
특히 얼굴의 현실성이 조금 떨어지더라도, 더 친숙해 보이는 얼굴을 더 쉽게 믿을 가능성이 있다고 해석했다. 확산 모델이 만든 얼굴이 실제 얼굴보다 더 평균적인 인상에 가까워 친숙하게 느껴지고, 이 친숙함이 신뢰로 이어졌을 가능성이 있다는 것이다.
연구진은 가짜 계정, 금융·신분 사기, 온라인 연애 사기 등에 AI 얼굴이 악용될 수 있다고 경고했다. 누구나 생성형 AI로 그럴듯한 얼굴을 손쉽게 만들 수 있게 된 만큼, 육안만으로 진위를 판단하기 어려워졌다는 것이다.
연구진은 "이제 첨단 기술이 없어도 누구나 손쉽게 가짜 얼굴을 만들 수 있다"며 "AI 이미지에 속을 위험을 알리고 피해를 줄일 방법을 마련해야 한다"고 했다.