일론 머스크 테슬라 최고경영자(CEO)가 이끄는 소셜미디어(SNS) 서비스 엑스(X·옛 트위터)가 전쟁 관련 인공지능(AI) 생성 영상을 출처 표기 없이 게시하는 이용자에게 수익 지급을 중단하겠다고 3일(현지시각) 밝혔다.
미국과 이스라엘의 이란 공습이 이어지는 가운데 AI로 생성한 가짜 전쟁 영상의 조회수가 급증해 진실을 오도하거나 혼란을 일으키는 사태를 방지하기 위한 조치다.
니키타 비어 X 최고제품책임자는 이날 X 게시물을 통해 "무력 충돌을 다룬 AI 생성 영상을 게시할 때 AI로 제작했다는 사실을 밝히지 않는 이용자는 광고 수익 공유 프로그램에서 90일 동안 퇴출하기로 했다"라며 "재차 위반할 경우 프로그램에서 영구 제명된다"고 공지했다.
X의 광고 수익 공유 프로그램은 게시물이 인기를 얻을 경우 광고 수익의 일부를 이용자에게 지급하는 제도다. X에서 흥미로운 콘텐츠 제작을 독려하기 위해 도입한 제도이지만, 클릭을 유도하는 선정적인 콘텐츠의 대량 생산을 유도한다는 비판도 받았다. 또 콘텐츠 관리 기준이 느슨하고, X 유료 구독자만 사용할 수 있다는 지적도 제기됐다.
비어 책임자는 "전쟁과 같은 상황에서는 사람들이 진실된 현장 정보에 접근할 수 있어야 한다"라며 "그러나 오늘날의 AI 기술로는 사람들을 오도할 수 있는 콘텐츠를 만들기 너무 쉽다"라며 정책을 도입한 배경을 설명했다.
X는 AI 도구와 집단지성 기반 사실확인 체계인 '커뮤니티 노트'를 통해 오해의 소지가 있는 전쟁 관련 AI 게시물을 식별한다는 계획이다.
다만 새 정책은 전쟁 관련 영상 등에만 적용되며, 정치적·경제적 허위 정보에는 적용되지 않는다. 머스크 CEO는 X를 인수한 이후 허위 정보를 검증하거나 제재하는 장치를 대부분 걷어내거나 완화했다.