AI(인공지능)가 만든 얼굴이 실제 사람 얼굴보다 더 믿음직해 보인다는 연구 결과가 나왔다. 사람들은 AI 얼굴을 진짜인지 가짜인지 잘 구별하지 못했을 뿐 아니라, 진짜 얼굴보다 더 신뢰할 만하다고 평가했다. 온라인 사기와 허위 정보, 가짜 연애 사기에 악용될 수 있다는 경고가 나온다.
영국 랜커스터대, 미국 스탠퍼드대, 캘리포니아대 버클리 공동 연구진은 AI가 만든 얼굴 이미지의 현실감과 신뢰도를 분석한 연구 결과를 7일 국제 학술지 '저널 오브 비전'에 발표했다. 연구진은 실제 사람 얼굴, 이전 세대 AI 기술인 생성적 적대 신경망(GAN)이 만든 얼굴, 최신 이미지 생성 방식인 확산 모델이 만든 얼굴을 비교했다.
사람은 얼굴을 보면 순식간에 상대가 믿을 만한 사람인지, 낯선 사람인지, 위협적인지 판단한다. 연구진은 인간이 얼굴을 본 지 0.1초 만에 이런 첫인상을 형성한다고 설명했다. 문제는 생성 AI가 이런 직관을 파고들 만큼 그럴듯한 얼굴을 만들어낸다는 점이다.
연구진은 실제 얼굴 400장, GAN 얼굴 400장, 확산 모델 얼굴 400장 등 총 1200장의 얼굴 이미지를 준비했다. 얼굴은 인종과 성별이 균형을 이루도록 구성하고, 배경은 단순하게 맞췄다. 눈에 띄는 부자연스럽거나 합성 오류가 있는 이미지는 제외했다.
첫 실험에서는 참가자 169명에게 얼굴 사진 96장을 무작위로 보여주고, 실제 사람 얼굴인지 AI가 만든 얼굴인지 맞히게 했다. 평균 정답률은 58.4%였다. 무작위로 찍는 것보다 조금 나은 수준이다. 특히 참가자들은 전체 사진의 3분의 2가 AI 얼굴이었는데도, 얼굴을 실제 사람으로 보는 경향을 보였다. 참가자들은 실제 얼굴은 65.2%, 확산 모델 얼굴은 62.1%의 정확도로 구별에 성공했다. 반면 GAN 얼굴의 정답률은 48%에 그쳤다. GAN 얼굴을 실제 사람과 제일 구별하지 못했다는 뜻이다.
두 번째 실험에서 연구진은 다른 참가자 87명에게 같은 방식으로 얼굴 사진을 보여주고 얼마나 믿음직해 보이는지 1점부터 7점까지 평가하게 했다. 실제 사람 얼굴의 평균 신뢰도는 4.03점이었다. GAN 얼굴은 4.36점, 확산 모델 얼굴은 4.7점이었다. 가장 진짜처럼 보인 얼굴은 GAN 얼굴이었지만, 가장 믿음직하다고 평가된 얼굴은 확산 모델 얼굴이었다.
연구진은 얼굴이 조금 덜 현실적으로 보여도, 표정과 분위기가 평균적이고, 친숙해 보이면 사람들이 심리적으로 더 쉽게 믿을 가능성을 제기했다. AI가 만든 얼굴이 평균적인 이목구비에 가까워 더 익숙해 보일 수 있다는 것이다.
이런 결과는 온라인 공간에서 위험한 의미를 갖는다. 존재하지 않는 사람이 그럴듯한 프로필 사진을 걸고 접근해도 이용자가 이를 실제 인물로 받아들일 수 있기 때문이다. 가짜 계정, 신분 도용, 금융 사기, 온라인 연애 사기, 정치적 허위 정보 확산에 AI 얼굴이 쓰일 수 있다는 우려가 커진다. 연구진은 생성 AI가 누구나 쓸 수 있는 도구가 되면서 고품질 가짜 얼굴도 손쉽게 만들 수 있게 됐다고 경고했다. 연구진은 "이제 기술 지식이 없는 사람도 손쉽게 가짜 얼굴을 만들 수 있다"며 "AI 이미지에 속을 위험을 알리고 피해를 줄일 방법을 마련해야 한다"고 했다.