Claudeの電子透かしは翻訳や要約にも残る、EU法の範囲を超えている可能性

EU AI法への対応として電子透かしを全世界に適用

AnthropicがClaudeのテキスト出力にAI電子透かし（ウォーターマーク）を埋め込む機能を導入した。同社はEU AI法への準拠を理由に挙げており、地域ごとに適用を分ける手段がないため全世界で展開したと説明している。

この電子透かしはコピー＆ペーストしても検出できるように設計されている。仕組みはこうだ。Claudeは文中で「どちらの単語でも意味が変わらない」場面に出くわすと、あらかじめ用意された鍵をもとに単語を選ぶ。読者には普通の文章に見えるが、鍵を知っている側はあとから「Claudeが関与した可能性が高い」と判定できる。

翻訳や要約にも残る仕組みにユーザーが反発

EU AI法第50条第2項はマーキング義務に例外を置いている。標準的な編集目的で使った場合と、原文の意味を実質的に変えない場合だ。しかしAnthropicの電子透かしは翻訳や要約にも残る可能性があり、大幅に手を加えたテキストでも検出されうる。

リスボン・カウンシルの上級研究員キャロライン・デコック氏は「第50条はディープフェイクや大量の合成コンテンツを捕捉する『メス』を想定していた。アンソロピックが使っているのは単純な校正や翻訳にまで影響を及ぼす『ハンマー』だ」と評した。生成AI導入支援企業ディープセットのCEOミロス・ルシッチ氏も、Anthropicは同法を「やや広めに解釈している」と述べている。

ユーザーの反発も出ている。サブスクリプションを解約した利用者がおり、開発者が電子透かしを除去するツールを公開する動きもある。「単に校正に使っただけでもClaudeが丸ごと書いたと解釈されかねない」という懸念が繰り返し指摘されている。Anthropic側は軽微な編集では透かしが機能する可能性は低いとしているが、線引きは曖昧だ。

条文が求めているのはどこまでか

議論の軸になっているEU AI法 第50条第2項を実際に読むと、求めているのは2つだ。合成の音声・画像・動画・テキストを作るAIの提供者は、出力を機械が読める形でマークすること。そして人工的に作られた、または加工されたものとして検出できるようにすること。技術的な手段は、有効で、相互に使えて、堅牢で、信頼できるものにするよう求めている。

そのうえで条文は義務から外れる場合を並べている。AIが標準的な編集を助ける働きにとどまるとき。運用者が入れたデータやその意味を実質的に変えないとき。犯罪の検知や捜査のために法律で認められているとき。今回の指摘はここを突いている。校正や翻訳はこの除外に当たるのではないか、という問いだ。

Anthropicの透かしは、この線引きに関係なくClaudeの出力すべてに入る。条文が想定した範囲より広く網をかけている、という見方が出るのはそのためだ。ただし条文の解釈が定まっているわけではなく、どこまでが標準的な編集なのかを決める基準もまだない。

日本の現場ではどう効いてくるか

Claudeを翻訳や文章の校正に使っている企業は少なくない。出力テキストをそのまま社外資料に使っている場合、電子透かしがあると「AI生成」と判定されるリスクがある。特に提案書や報告書のように人が書いたことが前提になる文書では、取引先や社内の受け止め方が変わりうる。

影響はAnthropicだけの話にとどまらない。Googleは自社モデルの出力にSynthID技術で電子透かしを付与しており、OpenAIもテキストへの拡大を計画している。MetaはAI生成コンテンツの識別ツール整備を進めている。EU AI法の適用が本格化する今後数か月で、主要AIモデルのすべてに何らかの電子透かしが入る可能性が高い。

いま確認しておくこと

自社でClaudeやその他のAIモデルをどの業務に使っているかを洗い出し、出力テキストの用途を整理しておきたい。とくに対外的に出す文書でAIを使う場合は、電子透かしの存在を関係者と共有しておくのが無難だ。各社の対応が出そろえばAI利用ポリシーの見直しも必要になる。AI生成テキストの扱い方は、すべての企業が向き合う課題になりつつある。