Google、SynthIDに追跡の批判 透かしの記録は保存し直すと0件だ

SynthIDに「スパイマーク」の批判　画像に64ビット入る

AIの画像に入る見えない透かしは、利用者を追う道具にもなりうる。ArtCraft創業者のブランドン・トーマス氏がこう主張し、GIGAZINEが11月8日に伝えた。例に挙げたのはGoogleのSynthIDだ。

SynthIDは画像・音声・テキスト・動画に、人には分からない信号を埋め込む仕組みだ。トーマス氏によると、画像用のSynthID-Oは512×512ピクセルの画像に64ビットの識別子を入れられる。誤りを直すための72ビットも別に持つ。

この識別子を身元の台帳とつなげば、誰が作った画像かを追えるという。トーマス氏はこうした印をスパイマークと呼ぶべきだとしている。OpenAIなど多くの会社も、AI生成コンテンツの識別を目的にした仕組みを作っているという。

• EXIFやID3のようなふつうのメタデータは、中身を見て消せる
• スパイマークは画像の深い所に入り、利用者からは見えない
• メタデータを消しても、一部を編集しても残る可能性がある

Geminiの画像にSynthIDの記録　OpenAIには無かった

AInformationが11月8日にAPIで画像を作り、ファイルの中身を読んだ。Geminiの画像には、SynthIDを付けたという記録が入っていた。指示は両社とも「白い机の上のノートパソコンと観葉植物の写真」にした。

記録の中身はGeminiのほうが詳しく、見えない透かしを付けたことまで書いてあった。OpenAIの記録には、使ったモデル名と作った時刻が入っていた。どちらも画像ごとの番号はあったが、利用者名やメールの文字は無かった。

ただしSynthIDそのものが入っているかどうかは、手元の道具では確かめることができなかった。見えない信号は読む道具が無いと分からないからだ。今回見えたのは、ファイルの外側に付く記録だけである。

保存し直すと記録は0件　見えない透かしは残る作り

画像を別のソフトで保存し直すと、両社の画像からC2PAの記録は消えた。手元のPythonで開いて保存しただけで、Geminiの画像は605,371バイトから177,119バイトになった。

トーマス氏の指摘どおり、外側の記録は簡単に外れる。一方でSynthIDは、編集しても残ることを狙った仕組みだ。会社の画像の扱いでは、この2つを分けて考えることになる。

• AIで作ったと示したい画像は、C2PAの記録に頼ると加工で消える
• 記録を外しても、見えない透かしまで消えたとは言えない
• どの画像に何が残るかは、作ったサービスごとに違う

トーマス氏は、内部告発者や発言で迫害されたくない人にとって特に深刻だと述べている。投稿の出どころや広がった道筋を、後からたどれるようになるからだ。

あすからできる確認3つ　作った先と匿名の画像を分ける

まずは社内でAI画像を作るサービスと、その画像の行き先を整理しておきたい。Geminiのように記録で透かしを明かすサービスもあれば、記録に書かないサービスもある。

• 社外に出すAI画像は、どのサービスで作ったかを台帳に残す
• AIで作ったと伝える必要がある場面は、記録でなく説明文で書く
• 匿名で出したい画像は、AIの生成や編集に通さない

SynthIDの識別子に何が入っているかは、今回の記事にもGoogleの説明にも出てこない。画像の出どころを示す仕組みと追跡の仕組みは、同じ技術の表と裏になりつつある。

見方導入の現場から考える

※記事の事実とは分けて、筆者の考えを書いています。

藤井俊太AI導入コンサルタント

分析・考察会社でAI画像を使う側は、出どころを示す記録と見えない透かしを分けて扱う必要がありそうだ。広報やマーケの担当が画像を加工すると記録は外れるが、透かしまで外れたかは手元では分からない。

いちばん困るのは匿名で出したい画像を扱う人だ。記録を消して安心していても、SynthIDの識別子に何が入っているかは公開されていない。社内の決まりは、何が残るか分からない前提で作っておきたい。