ChatGPTの透かしは消えないはずが2方式とも1回で消えた

EUのAI法が8月に義務にした透かしは2方式ある

EUのAI法は2024年5月に成立し2026年8月2日に施行された。EU域内で事業を行うLLMプロバイダーにはAI生成テキストの検出を可能にする義務が課された。ChatGPTのOpenAIやClaudeのAnthropicも対象になる。

主な透かし方式は2つある。1つ目はGoogleが開発したSynthIDで、生成時にトークンへ確率的な重み付けを行い人間には見えない数学的パターンを埋め込む。AnthropicもClaudeにSynthIDを採用したことを公表している。

2つ目はUnicodeのホモグリフを使う方式だ。通常の文字を見た目がまったく同じ別のUnicode文字へ置き換えて検出パターンにする。クライアント側だけでも実装できるため導入はSynthIDより手軽だ。

SynthIDは言い換えで消える　ホモグリフも置換1回で同じだ

エンジニアのショーン・グーデッケ氏がブログで実証した結果は明快だ。SynthIDの透かしはテキストを別の言葉で言い換えるだけで消える。トークンの並びが変わるとSynthIDの重み付けパターンが壊れるためだ。

ホモグリフ方式も同じだ。置き換えられたUnicode文字を元の文字へ一括置換すれば1回の操作で除去できる。どちらも高度な技術は不要で無料のテキストエディタや置換ツールで十分だ。

画像の透かしがピクセル単位の微細な変更で成り立つのに対しテキストは情報が高度に圧縮されたメディアだ。人に気づかれない変更を加える余地が少なくわずかな手直しで透かしが壊れてしまう構造的な弱さがある。

EU法の「相互運用性」要件がSynthIDの安全性を削る

EU AI法は透かし技術の「相互運用性」も求めている。プロセスを公開し標準化することで異なるプロバイダー間での検出共有を目指す内容だ。しかし仕組みを公開すれば除去方法を特定しやすくなり「隠蔽によるセキュリティ」に依存するテキスト透かしとは構造的に両立しない。

C2PAのデジタル署名つきメタデータも法律で言及されているが、これはファイル形式のコンテンツ向けの技術だ。ChatGPTのチャット画面で生まれるプレーンテキストには適用しにくい。透かしを「コンテンツから分離することが困難な方法で埋め込む」というAI法の要件は現時点で満たせていない。

ChatGPTの透かしの有無だけでAI製かは判定できない

透かしが簡単に消せる以上「透かしが無い＝人間が書いた」とは言えない。逆に透かしが検出されてもAI生成の確定証拠にはならない。どちらにも使えない以上透かしだけで判定する仕組みには限界がある。

グーデッケ氏は多くのプロバイダーがEU域内向けにSynthIDを導入しEUが検出用のページを用意する可能性もあると予測している。AI透かしを判定する無料ツールも出ているが透かしを消した文章には使えない。技術に詳しい利用者や専用ツールで容易に除去されるため実効性は限定的だとの見方だ。

企業がAI利用のルールを作る際は透かしの検出に頼るのではなく、どの業務でAIを使い生成物をどう確認するかのワークフローと履歴を管理する仕組みで対応するほうが確実だ。