「プラットフォームごとに偽・操作情報の判断基準が異なれば、利用者に負担を与え、社会的混乱を引き起こすおそれがある。NAVER、カカオなど韓国インターネット自律政策機構（KISO）の会員社が同一の基準を適用して審議する必要があると判断した」
キム・ミンホ韓国インターネット自律政策機構（KISO）偽・操作情報審議特別委員会委員長は2日に開かれた記者懇談会で、NAVERとカカオなど韓国の主要プラットフォームが偽・操作情報に共同の判断基準を適用することになった背景をこのように説明した。
共同基準を適用した初の審議では、実際に偽・操作情報と認定された投稿は一件も出なかった。商品・サービス関連の誇張情報や利用レビュー、人工知能（AI）で生成したと疑われる投稿など23件を最終審議したが、いずれも「該当なし」と決定した。
7月7日に施行された改正情報通信網法は、偽・操作情報の流通を禁じ、通報を受けた大規模プラットフォームが削除・アクセス遮断・露出制限などの措置を講じられるようにした。政府が直接審議する違法情報と異なり、プラットフォームが判断する自律規制の領域である。KISOはプラットフォームごとの判断の差を縮めるため専門家特別委員会を構成し、6月に共通ガイドラインを策定した。キム委員長は「偽情報や操作情報だからといって直ちに流通禁止の対象になるわけではない」とし、「損害を与える意図や不当な利益を得ようとする目的、他人の権利または公共の利益の侵害まで、すべてが認められなければならない」と述べた。
◇ 初審議23件すべて『該当なし』…通報の70%がレビュー・プロモーション型投稿
改正法施行後、初の偽・操作情報認定事例が出ると予想されたが、削除やアクセス遮断などの措置が決定された投稿はなかった。KISOは当初、政治的に敏感な投稿が主に通報されると予想した。実際には、商品・サービス情報と利用レビュー、プロモーション性の投稿が19件で、通報全体の70%を占めた。宿泊施設を紹介する際に実際と異なる写真を使用したり、特定物質の効能を検証なしに誇張した事例などが含まれた。
キム委員長は「会員社が通報を受けた事案のうち、判断があいまいな事例を委員会に上げた」とし、「現在まで韓国のプラットフォームが利用者の表現の自由を侵害するほど投稿を無分別に削除したり遮断した事例はない」と述べた。
特別委員会の決定は法的強制力ではなく、KISOと会員社間の協約に基づく拘束力を持つ。委員会が偽・操作情報に該当するかどうかを判断すれば、削除や露出制限、警告文言の表示など具体的な措置の水準は各プラットフォームが決定する。
◇ 最も難しい判断は投稿者の『意図と目的』
ガイドラインによれば、偽・操作情報と判断するには、▲虚偽または操作された情報 ▲虚偽・操作であると知りつつ損害を与える、または不当な利益を得ようとする目的 ▲他人の人格権・財産権または公共の利益侵害という三つの要件をすべて満たさなければならない。
キム委員長は、このうち投稿者の意図と目的を最も判断しにくい要件に挙げた。キム委員長は「具体的な侵害が発生したか、または侵害の可能性があるかは判断できるが、投稿者の内心にある主観的意思を確認するのは難しい」とし、「投稿動機と被害者との関係、反復性、拡散の方式など客観的事実を通じて目的を推論する」と述べた。
特定の被害者を反復的に狙ったか、出所確認のためのウォーターマークなどを故意に削除したか、ボットやマクロを用いて組織的拡散を試みたかなどが判断基準である。経済的収益だけでなく、影響力拡大やフォロワー増加といった社会的・政治的利益も「不当な利益」に含まれ得る。情報の一部が事実と異なるという理由だけで虚偽性が認められるわけではない。核心メッセージと全体の文脈、一般利用者の事実認識に実質的な影響を与えたかを検討する。主観的意見や価値判断、予測と推定、真実が確定していない学術・科学・宗教的論争は、原則として判断対象から除外する。
◇ AIコンテンツも文脈を精査…グローバルビッグテックの参加も協議
AIで生成または編集したコンテンツも、自動的に操作情報になるわけではない。一般利用者が客観的事実と誤認し得る「欺罔的外観」を備えているかが核心だ。AI生成物である旨を表示していても、創作性がなく、利用者を欺いて特定の利益や被害を発生させたなら、全体の文脈を総合して判断する。
キム委員長は「法施行前には偽・操作情報流通禁止の規定が表現の自由を大きく萎縮させるとの懸念が大きかった」としつつも、「実際の事案に法の要件を一つずつ当てはめてみると、漠然と懸念したほど表現の自由を深刻に侵害するものではない可能性があると慎重に判断している」と述べた。
KISOは海外プラットフォームにも共同自律規制体制を拡大する計画だ。キム委員長は「国内外を問わずKISOへの加入は開かれている」とし、「現在、グローバルビッグテック企業2社以上と会員加入を前提に協議しており、確定次第公表する」と明らかにした。
現在KISOにはNAVER・カカオ・Daum・Nateコミュニケーションズなど計17社が会員社として参加している。