韓国政府がディープフェイクなど人工知能（AI）を前面に出した偽の医師・専門家広告への対応に乗り出した。食品・医薬品などでの虚偽・誇大広告が高齢層を中心に被害を拡大させ、SNSを通じて瞬時に拡散し市場秩序を乱しているとの判断からだ。
韓国政府は12月10日、キム・ミンソク国務総理主宰で開かれた第7回国家政策調整会議で「AIなどを活用した市場秩序撹乱の虚偽・誇大広告への対応方策」を確定した。
◇ AI生成物の表示を義務化
まず放送メディア通信委員会（放メ通委）はプラットフォーム全般に「AI生成物表示制」を導入することを決めた。今後、写真・動画などをAIで制作・編集して掲載する「直接情報提供者」は、当該コンテンツがAIで生成された事実を義務的に表示しなければならない。他の利用者がこの表示を削除または毀損する行為も禁じられる。プラットフォーム事業者は表示方法を提供し、表示義務を利用者に告知するなど管理責任を負う。
科学技術情報通信部は2026年1月施行予定の「AI基本法」に基づきAI事業者に課される生成物表示義務が現場で適切に機能するよう、詳細ガイドラインを策定する。韓国政府はこれにより、消費者が実在の人物・発言と合成・操作されたコンテンツを明確に区別できるようにする構想だ。
◇ 24時間以内に審議・緊急遮断…懲罰的損害賠償・課徴金引き上げ
流通段階では「スピード勝負」に焦点を当てた。放メ通委と放送メディア通信審議委員会（放メ審委）は、AIの虚偽・誇大広告が頻発する食品・医薬品、化粧品、医薬部外品、医療機器などを書面審議の対象に含める法改正を推進する。この場合、審議要請後24時間以内に審議が行われるファストトラックを適用し、問題となった広告を迅速にふるい落とせると韓国政府はみている。食品医薬品安全処専用の放メ審委審議申請システムも、麻薬類から関連品目全般へと拡大される。
国民の生命・財産被害の懸念が大きい事案については、放メ通委がプラットフォーム事業者に「緊急是正要請」を行える手続きも新設する。関係部処が放メ通委に要請すれば、放メ通委がプラットフォームに暫定是正を求め、その後に放メ審委の審議結果に基づき最終遮断の可否を確定するか原状回復する方式だ。
公正取引委員会と食薬処は、AIが製品を推薦する広告の違法性判断基準も具体化する。一般商品広告でAIが製品を推薦しながら、推薦主体が「仮想人間」であることを明示しない場合は不当表示・広告に該当する。食品・医薬品分野では、AIが生成した「医師」など専門家が登場して効能を推薦・保証する広告を消費者欺罔広告とみなす基準を明示する。
放メ通委と公正取引委は、情報通信網で悪意をもって虚偽・操作情報を流通させる行為に対し、損害額の最大5倍まで懲罰的損害賠償を科す案を推進し、表示・広告法上の虚偽・誇大広告に対する課徴金水準も大幅に引き上げることにした。食薬処と韓国消費者院は常時の監視・摘発機能を強化し、韓国政府はプラットフォーム業界の自主規制高度化も促す計画だ。
キム・ミンソク総理は「今回の対策を通じて新技術の副作用を最小化し、AI時代にふさわしい市場秩序を確立していく」と述べ、「法令・制度の改善を速やかに推進する一方で、プラットフォーム業界、消費者団体などとも緊密に疎通する」と語った。