페이스북과 트위터가 인공지능(AI)을 활용해 만들어진 가짜 계정 1300여개를 찾아내 삭제했다고 20일(현지 시각) 밝혔다. 적발된 계정 상당수는 베트남·미국에 본부를 둔 업체에서 조직적으로 만들어졌다. 이 계정들은 5000만명이 넘는 구독자를 확보하고, 100억원 넘는 광고비까지 써가며 '가짜 뉴스'를 확산시켜 온 것으로 조사됐다.
외신에 따르면 가짜 계정은 '딥페이크'(딥러닝과 페이크의 합성어)라는 AI 기술로 만들어졌다. 딥페이크는 사람의 이미지·영상·음성 등을 교묘하게 합성하기 때문에 일반인이 봐선 가짜인지를 알아내긴 사실상 불가능하다. 딥페이크는 일반 사용자의 사진·음성 데이터를 꾸준히 모은 뒤 실존하지 않는 인물의 계정을 만들거나, 오랜 기간 사용하지 않는 계정을 활용해 가짜 뉴스를 유포했다. 가짜 계정에 올라온 사진은 확대해 목과 얼굴의 연결 부분, 머리카락과 배경의 이어짐 등이 어색한지를 상세히 살펴야 진위를 판단할 수 있다.
페이스북 측은 "이번에 삭제한 가짜 계정 수는 610개지만, 이 계정들은 5500만명의 팔로어(구독자)를 확보하고 지금까지 900만달러(약 105억원)의 광고까지 집행하며 영향력을 키워왔다"고 했다. 트위터가 삭제한 계정 수도 700여개다.
페이스북에 따르면 가짜 계정은 베트남과 미국에 있는 'BL'이라는 회사가 개발했다. 페이스북은 이 업체가 파룬궁 지지 성향의 미국 내 매체 '에포크 미디어'와 연계된 정황을 포착한 것으로 알려졌다. 파룬궁은 중국 정부로부터 사교(邪敎)로 규정된 후 혹독한 탄압을 받아온 단체다. 미 NBC뉴스는 "이들이 페이스북·트위터 등을 활용해 (중국 정부에 강성 입장을 보여온) 트럼프 대통령 재선에 유리한 여론을 만들려 한 것으로 보인다"고 분석했다.
페이스북·트위터 등은 그동안 AI를 활용해 만들어진 가짜 계정을 꾸준히 찾아 삭제해왔지만, 운영 주체까지 특정해 공개한 것은 이번이 처음이다. 너대니얼 글레이셔(Gleicher) 페이스북 사이버 보안 총괄은 "앞으로도 지속적인 조사를 통해 가짜 계정을 찾아내 적절한 조치를 취할 것"이라고 밝혔다.