김민호 한국인터넷자율정책기구(KISO) 허위조작정보심의특별위원회 위원장은 2일 기자간담회를 열고 허위조작정보심의특별위원회 활동 및 심의 현황에 대해 발표하고 있다. /심민관 기자

"플랫폼마다 허위조작정보 판단 기준이 다르면 이용자에게 부담을 주고 사회적 혼란을 일으킬 수 있다. 네이버, 카카오 등 한국인터넷자율정책기구(KISO) 회원사들이 동일한 기준을 적용해 심의할 필요가 있다고 판단했다."

김민호 한국인터넷자율정책기구(KISO) 허위조작정보심의특별위원회 위원장은 2일 열린 기자간담회에서 네이버와 카카오 등 국내 주요 플랫폼이 허위조작정보에 공동 판단 기준을 적용하게 된 배경을 이같이 설명했다.

공동 기준을 적용한 첫 심의에서는 실제 허위조작정보로 인정된 게시물이 한 건도 나오지 않았다. 상품·서비스 관련 과장 정보와 이용 후기, 인공지능(AI)으로 생성한 것으로 의심되는 게시물 등 23건을 최종 심의했지만 모두 '해당 없음'으로 결정됐다.

지난 7월 7일 시행된 개정 정보통신망법은 허위조작정보 유통을 금지하고, 신고를 받은 대규모 플랫폼이 삭제·접근 차단·노출 제한 등의 조치를 할 수 있도록 했다. 정부가 직접 심의하는 불법정보와 달리 플랫폼이 판단하는 자율규제 영역이다. KISO는 플랫폼별 판단 차이를 줄이기 위해 전문가 특별위원회를 구성하고 지난 6월 공통 가이드라인을 마련했다. 김 위원장은 "허위정보나 조작정보라고 해서 곧바로 유통 금지 대상이 되는 것은 아니다"라며 "손해를 끼칠 의도나 부당한 이익을 얻으려는 목적, 타인의 권리 또는 공공의 이익 침해까지 모두 인정돼야 한다"고 말했다.

◇ 첫 심의 23건 모두 '해당 없음'… 신고 70%가 후기·홍보형 게시물

개정법 시행 후 첫 허위조작정보 인정 사례가 나올 것으로 예상됐으나 삭제나 접근 차단 등의 조치가 결정된 게시물은 없었다. 당초 KISO는 정치적으로 민감한 게시물이 주로 신고될 것으로 예상했다. 실제로는 상품·서비스 정보와 이용 후기, 홍보성 게시물이 19건으로 전체 신고의 70%를 차지했다. 숙박시설을 소개하면서 실제와 다른 사진을 사용하거나 특정 물질의 효능을 검증 없이 과장한 사례 등이 포함됐다.

김 위원장은 "회원사들이 신고받은 사안 가운데 판단하기 애매한 사례를 위원회에 올린 것"이라며 "현재까지 국내 플랫폼이 이용자의 표현의 자유를 침해할 정도로 게시물을 무분별하게 삭제하거나 차단한 사례는 없다"고 말했다.

특별위원회의 결정은 법적 강제력이 아니라 KISO와 회원사 간 협약에 따른 구속력을 갖는다. 위원회가 허위조작정보에 해당하는지를 판단하면 삭제나 노출 제한, 경고 문구 표시 등 구체적인 조치 수위는 각 플랫폼이 결정한다.

◇ 가장 어려운 판단은 게시자의 '의도와 목적'

가이드라인에 따르면 허위조작정보로 판단하려면 ▲허위 또는 조작된 정보 ▲허위·조작임을 알면서 손해를 끼치거나 부당한 이익을 얻으려는 목적 ▲타인의 인격권·재산권 또는 공공의 이익 침해라는 세 가지 요건을 모두 충족해야 한다.

김 위원장은 이 가운데 게시자의 의도와 목적을 가장 판단하기 어려운 요건으로 꼽았다. 그는 "구체적인 침해가 발생했는지 또는 침해 가능성이 있는지는 판단할 수 있지만, 게시자의 내심에 있는 주관적인 의사를 확인하기는 어렵다"며 "게시 동기와 피해자와의 관계, 반복성, 유포 방식 등 객관적인 사실을 통해 목적을 추론한다"고 말했다.

특정 피해자를 반복적으로 겨냥했는지, 출처 확인을 위한 워터마크 등을 고의로 삭제했는지, 봇이나 매크로를 이용해 조직적인 확산을 시도했는지 등이 판단 기준이다. 경제적 수익뿐 아니라 영향력 확대나 팔로워 증가와 같은 사회적·정치적 이익도 '부당한 이익'에 포함될 수 있다. 정보 일부가 사실과 다르다는 이유만으로 허위성이 인정되는 것도 아니다. 핵심 메시지와 전체 맥락, 일반 이용자의 사실 인식에 실질적인 영향을 미쳤는지를 따진다. 주관적인 의견이나 가치 판단, 예측과 추정, 진실이 확정되지 않은 학술·과학·종교적 논쟁은 원칙적으로 판단 대상에서 제외한다.

◇ AI 콘텐츠도 맥락 따져… 글로벌 빅테크도 참여 논의

AI로 생성하거나 편집한 콘텐츠 역시 자동으로 조작정보가 되는 것은 아니다. 일반 이용자가 객관적 사실로 오인할 만한 '기망적 외관'을 갖췄는지가 핵심이다. AI 생성물임을 표시했더라도 창작성이 없고 이용자를 속여 특정한 이익이나 피해를 발생시켰다면 전체 맥락을 종합해 판단한다.

김 위원장은 "법 시행 전에는 허위조작정보 유통 금지 규정이 표현의 자유를 크게 위축시킬 수 있다는 우려가 컸다"면서도 "실제 사안에 법의 요건을 하나씩 대입해 보니 막연히 우려했던 것처럼 표현의 자유를 심각하게 침해하는 것은 아닐 수 있다고 조심스럽게 판단하고 있다"고 말했다.

KISO는 해외 플랫폼으로도 공동 자율규제 체계를 확대할 계획이다. 김 위원장은 "국내외 구분 없이 KISO 가입은 열려 있다"며 "현재 글로벌 빅테크 기업 두 곳 이상과 회원 가입을 전제로 논의하고 있으며, 확정되면 공개하겠다"고 밝혔다.

현재 KISO에는 네이버·카카오·다음·네이트커뮤니케이션즈 등 총 17개사가 회원사로 참여하고 있다.