OpenAI、ChatGPTの透かしはEUだけ 言い換え1割で66%に落ちる

OpenAIがtextGrainを発表　ChatGPTとCodexはEUだけ

OpenAIは10月5日にChatGPTとCodexが出す文章へ見えない透かしを入れると発表した。数週間かけてEU域内の対象ユーザーに全プランで広げる。世界共通の初期設定にはしないと明言している。

透かしの技術はtextGrainと呼ぶ。記号を足すのではなくモデルの単語の選び方に統計的な癖を混ぜる。人の目では分からないが検出器は拾える仕組みだ。

印が単語そのものに入るのでコピーして貼り付けても残る。OpenAIは透かしで利用者は特定されないと説明している。透かしを入れても性能に目立った差は出なかったという。

きっかけは8月2日に発効したEU AI法の透明性ルールだ。生成した文章を機械で見分けられる形にするよう求めている。OpenAIは画像と音声については判定ツールをすでに一般公開しており、そちらはこれまでどおり使える。

APIは世界で選べる　既定はオフで検出器は非公開

日本から使う人に直接関わるのはAPIのほうだ。10月5日から世界中のAPI利用者が一部のモデルで透かしを選んでオンにできる。初期設定はオフのままだ。

透かしがあるかを調べる検出器は一般には公開しない。見逃しと誤検出のおそれがあるためだ。検出器が返すのはOpenAIの透かしがあるかどうかだけで、利用者や会話の中身は明かさないとしている。

技術はオープンソースで公開する予定だ。クラウドの提携先を通したOpenAIのモデルにも数週間で広げる。

言い換え1割で検出は66%　翻訳や数式も見つけにくい

OpenAIは自社の技術報告書で弱点も数字で出している。400トークンの文章で語の10%を同じ意味の別の語に置き換えると、検出率は約92%から66%に落ちた。

短い文章ほど見つけにくい。誤検出を1%に抑えた条件で、心理学のような文章なら400トークンで約95%を見つけたが200トークンでは約80%だった。数学の答えは語の選び方の幅が狭く検出率がかなり下がる。

翻訳した文章も見つけにくいと書いている。日本語で使う人にとってはここが大きい。英語で書かせて日本語に訳した文章は、印が薄まる側に入る。

OpenAIは「透かしが無いことは人が書いた証明にならない」とも断っている。短すぎる文や手を入れた文、他社のAIの文は検出されないからだ。透かしがあっても人がどれだけ手を加えたかまでは分からない。

Claudeは世界で透かし　日本の会社が確かめておく所

同じ動きを先にしたのはAnthropicだ。2か月前にClaudeの文章へ透かしを入れると発表し、こちらは世界全体に適用している。範囲で比べるとClaudeのほうが広く、日本で使う分も対象になる。

Anthropicの発表には一部の利用者が反発した。指示や文脈や判断を出したのは自分でClaudeは道具にすぎない、という声だ。OpenAIは2024年に透かしを作りながら公開を見送ったとWSJが報じており、利用者が他社へ移ることを気にしたと伝えられている。

日本の会社が先に確かめておきたいのは2点だ。1つはEUの拠点や社員がChatGPTやCodexで作った文書に透かしが入ること。もう1つはAPIで顧客向けに文章を出しているなら、透かしを選ぶかどうかを決めておくことだ。ChatGPT側で利用者が切り替えられるとは書かれておらず、学習させない設定のように自分で外せるものとして説明されていない。

透かしは見分けるための材料の1つで、AIが書いたかどうかの判定には使えない。社内のルールで「透かしの有無で判断する」と決めるのはまだ早い。