欧州連合（EU）が今月から、人工知能（AI）が生成したテキストや画像などにAI生成物であることを識別できる表示を義務化したことに伴い、AnthropicはClaudeの生成物にウォーターマークと出所情報を適用することを決めた。グーグルとOpenAIもAIが作ったコンテンツを識別するための技術を運用しているが、適用範囲と方式は企業ごとに異なる状況だ。EU規制を機に関連技術の導入は拡大するとみられるが、翻訳や書き換え、ファイル変換などを経ると表示が弱まったり消える可能性があるという限界も残る。
◇ Anthropic、テキストはウォーターマーク・メディアはC2PA
12日、業界によるとAnthropicは2日以降、EUで新たにリリースするClaudeモデルの生成物に機械可読な出所表示を適用することにした。生成されたテキストにはウォーターマークを埋め込み、画像とオーディオなどにはコンテンツの出所と変更履歴を確認できる国際公開標準「C2PA」ベースのメタデータ情報を適用する。
両方式はいずれも人が直接識別しにくく、生成物の意味や品質などに影響を与えないよう設計されている。テキストのウォーターマークはコピーして他所に貼り付けても共に移動し、一部編集を経た後でも信号が残り得るというのがAnthropicの説明だ。AnthropicはウォーターマークとC2PA情報を確認できる検知機能も開発中だと明らかにした。
Anthropicがウォーターマーク導入を急いだ直接の背景はEU AI法の施行である。2日から適用されたAI法第50条第2項は、テキスト・画像・映像・オーディオを生成するAIモデルの提供者が、生成・変形コンテンツに機械可読な表示を適用し、AIが作ったコンテンツかを検知できるよう規定している。以前にリリースされたモデルには4カ月の猶予期間が与えられ、12月2日から規制が適用されるが、Anthropicは既存のClaudeモデルにも表示機能を追加する作業を進めており、EUを除く他地域でも同じ機能を提供する予定だ。
◇ 企業ごとに技術・範囲はまちまち
Anthropicに先立ち、主要AI企業も生成物の出所を識別するための技術を導入してきた。もっとも、どのコンテンツにどの方式を適用するかは会社ごとに差があった。グーグル・ディープマインドは2023年、AI生成画像に見えないウォーターマークを入れる「シンスID（SynthID）」を初めて披露した後、テキストと映像、オーディオにまで適用してきた。画像・映像のピクセルやオーディオ信号に微細な信号を挿入し、トリミング、フィルター適用、ロッシー圧縮などの変形が加わっても出所を判別できるようにした。
とりわけテキストには、AIが次の単語（トークン）を決定する過程でウォーターマークを入れる。大規模言語モデル（LLM）は直前の文を基に、次に現れる複数の単語それぞれに確率を付与してから一つを選ぶが、シンスIDはこの確率分布を微調整して一定のパターンを残す方式だ。その後、このパターンを分析すればシンスIDが適用されたテキストかを判別できる。
OpenAIはコンテンツの種類に応じて異なる方式を用いる。画像にはC2PAメタデータとシンスIDを併用し、オーディオにはシンスIDを適用する。OpenAIが画像に二つの方式を併用するのは、それぞれの長所と短所を補完するためだ。
C2PAは、コンテンツをどのツールで作ったか、生成時点、編集履歴など比較的多くの出所情報を盛り込める。しかし、プラットフォームへのアップロードやファイル変換、サイズ変更などの過程でメタデータが消える可能性がある。逆にシンスIDのようなウォーターマークはコンテンツ自体に信号が含まれるため、一部の変形を経た後でも残り得るが、盛り込める情報量は限定的だ。
◇ 翻訳・書き換えで回避も…完全な識別には限界
企業は、ウォーターマークやC2PAがAI生成物を識別する有効な道具ではあるが、完璧な手段ではないと口をそろえる。Anthropicも、テキストを大幅に修正・意訳・翻訳したり他の文章と混ぜるとウォーターマークが検出されない場合があり、過度に短い文も信頼度の高い検知が難しいと認めた。
Meta（メタ）も2024年にAI生成画像の識別方式を説明しながら、「いまだすべてのAI生成コンテンツを識別できるわけではなく、見えないウォーターマークを除去する方法も存在する」と述べた。
ウォーターマーク適用に伴う副作用への懸念もある。OpenAIはテキストのウォーターマーク技術を検討する中で、AI生成テキストを他言語に翻訳したり、別の生成型AIで書き直すとウォーターマーク検知を回避できると説明した。また、英語を母語としない利用者がAIを執筆ツールとして活用する場合、否定的な烙印が押されるなど、特定の集団に否定的な影響を及ぼす可能性もあると付け加えた。
こうした限界にもかかわらず、EU AI法の施行によりビッグテック企業の透明性標準への参加は一段と拡大する見通しだ。Anthropicをはじめ、グーグル、OpenAI、Meta（メタ）など主要企業はEUの「AI生成コンテンツ透明性行動規範」に同調している。
ヘナ・ビルクネンEU欧州委員会の技術主権・安全保障・民主主義担当上級副委員長は「欧州の人々は自分が見聞きし読んでいるものがAIによって作られたり変更されたのかを知る権利がある」とし、「透明性は信頼を守る手段だ」と述べた。