중국 사법당국 관계자가 인공지능(AI) 챗봇 챗GPT를 이용해 일본 총리를 겨냥한 여론 공작을 시도한 정황이 드러났다. 다만 실제 파급력은 크지 않았던 것으로 분석됐다.
26일(현지시각) 공개된 오픈AI의 'AI 악성이용 차단' 보고서에 따르면 중국 법 집행기관 소속으로 추정되는 인물이 지난해 10월 중순 다카이치 사나에 일본 총리를 대상으로 한 조직적 음해 공작을 챗GPT로 기획·기록했다.
해당 인물은 이를 '사이버특수작전'으로 명명하고, 다카이치 총리에 대한 부정적 댓글 게시, 외국인으로 가장한 비판 이메일 발송, 미국의 대일 관세에 대한 반감을 자극하는 여론 조성 등을 시도하려 한 것으로 나타났다.
오픈AI는 챗GPT가 이 같은 공작에 대한 조언 요청을 거부했다고 밝혔다. 그러나 동일 이용자가 이후 유사한 내용의 문서를 편집해달라고 요청한 점을 근거로, 챗GPT 도움 없이 공작이 실행됐을 가능성이 있다고 설명했다.
실제로 엑스(X·옛 트위터) 등 사회관계망서비스(SNS)에는 문건에 등장한 '우익공생자' 해시태그를 단 다카이치 총리 비판 게시물과 유튜브 영상이 올라온 것으로 전해졌다.
다만 관련 유튜브 영상 조회 수는 한 자릿수에 그쳤고, SNS 게시물도 대부분 큰 반응을 얻지 못해 영향력은 제한적이었다고 오픈AI는 분석했다.
보고서는 또 중국 사법당국이 반체제 인사의 가짜 부고와 묘비 사진을 제작·유포하거나 인권 단체를 겨냥한 활동을 벌이는 등 100건이 넘는 전술을 동원해왔다고 지적했다. 이 과정에서 챗GPT뿐 아니라 딥시크 등 자국 AI 모델도 함께 활용된 것으로 보인다고 덧붙였다.