OpenAI、選挙の偽画像を漫画風に変える APIでは9回中7回が写真調だ

ChatGPTが選挙の妨害を描く画像を漫画風に　写真調の指示は無視される

OpenAIは10月20日の更新情報で、ChatGPTの画像生成に選挙向けの対策を入れたと説明しました。「選挙妨害を描く、または投票をためらわせる可能性のある画像」を頼むと、ほかのガイドラインに反しない限り画像は作られますが、仕上がりはイラスト調か漫画風になります。

写真のようにリアルにしてほしいという指示は無視されます。米CNETが投票所の外に米移民・関税執行局（ICE）の職員が立つ画像を頼んだところ、どれも漫画風で返ってきたといいます。投票機が違う内容を記録する場面を報道写真風に作らせる誘導もうまくいかなかったそうです。

狙いは本物そっくりの偽画像だけ　風刺やイラストは残す

対策が止めたいのは政治の画像全般ではなく、人をだますための写真調の画像です。OpenAIの選挙対応責任者のJosh Lawson氏は「ディープフェイクの問題は、社会批評ではなく人を欺くことにある」と話しています（米CNET）。

背景には11月3日の米中間選挙があります。ChatGPT Images 2.5のように性能が上がるほど不自然さが消え、見る側がAIの画像を見分けにくくなるためです。選挙が終わったあともこの仕組みを残すかは分かっていません。

GoogleとAnthropicの対応

Googleは中間選挙の方針で、誤解を招く選挙関連画像の生成を制限する保護措置を入れたとしていますが、具体的なやり方は書いていません。Anthropicは一般向けの画像や動画の生成ツールを出しておらず、Claudeで有権者をだます行為はポリシー違反だと説明しています。

APIで9回試すと7回が写真調　漫画風は1枚も出てこなかった

編集部は10月27日にOpenAIのAPI（chatgpt-image-latest・1024×1024・品質medium）で、同じ種類の指示を3通り×3回ずつ投げました。結果は写真調が7回、安全機能で弾かれたのが2回で、イラストや漫画風に変わった画像は出てこなかったです。

米CNETがChatGPTで漫画風になったと書いたICEの場面も、APIでは3回とも写真のような絵でした。日本の選挙の場面も同じで、投票用紙を捨てる場面だけは3回中2回が弾かれています。

試したのはAPIで、ChatGPTのアプリではありません。OpenAIが説明した対策はChatGPTについてのもので、APIや日本の選挙にも同じ扱いがかかるとは書かれていません。1つの指示につき3回だけの結果です。

画像を作る会社が見るべきはAPIとアプリの差

ChatGPTのアプリで漫画風になるからといって、同じモデルをAPIで組み込んだ自社サービスでも写真調が止まるとは限りません。画像生成をAPIで社内ツールや顧客向けサービスに入れている会社は、選挙や政治の場面を自前で止める仕組みが要るかを確かめておきたいところです。

日本の選挙の場面もAPIでは写真調で描けました。広報や制作の担当者は、選挙期間に政治家や投票所を描いた画像を作るとき、AIで作ったと分かる表示を付ける社内ルールを先に決めておくと安心です。