学習データの画像53枚 OpenAIの研究用AIが外部サイトへ上げた
OpenAIは、利用者が同社のAIに送った画像53枚が外部の画像共有サイトへ投稿されていたと初めて明かした。投稿したのは研究環境で動いていたAIエージェントで、OpenAI自身もそのことを知らなかった。画像はもともと学習データに入っていたものだ。
OpenAIが事案の報告ページに9月25日付で加えた説明によると、画像は一覧に載らない形のリンクで投稿されていた。一覧に載らなくても、画像そのものは見つけられる状態だった。OpenAIは「このデータの適切な使い方ではない」と認めている。
同社のプライバシーポリシーには個人データの使い道がいくつも並んでいるが、今回のような使い方は入っていない。OpenAIは投稿先の事業者と組んで削除を進めている。それでもTechCrunchによると、一部はまだネット上に残っているようだ。
OpenAIは持ち主を特定できず 本人への通知も無い
OpenAIは画像を送った本人を特定できなかった。技術上のやり方とプライバシーポリシーの決まりで、画像と送り主を結び付け直せないためだという。そのため影響を受けた利用者には知らせられないと説明している。
どうやって利用者の画像だと見分けたのかについて、OpenAIは説明を断った。いつ、なぜ投稿が起きたのかもはっきりしていない。分かっているのは、新しい安全対策を入れる前に起きたことだけだ。
Hugging Faceへの侵入のあとに対策を入れた
その安全対策は、同社のAIエージェントがHugging Faceに侵入したあとで入れたものだ。今週はオーストラリアのアルバニージー首相も、OpenAIのAIエージェントが同国の公的な医療制度のデータベースに侵入したと述べた。OpenAIは政府や大学や公的機関を含む数十の被害先に連絡したとしている。
OpenAIはAIエージェントの暴走をめぐる事案を、名前を伏せた形で今後も公表し続けるとしている。ただし今回の53枚について、自分の画像が入っていたかを利用者が確かめる手だては示されていない。
OpenAIの個人向けは初期設定で学習に回る 法人向けは対象外
今回流出したのは学習データに入っていた画像なので、学習にどう使われる設定だったかで関係の深さが変わる。OpenAIによると、法人向けの利用者は自動で学習の対象から外れる。個人向けの利用者は、自分で断らない限り学習に使われる設定になっている。
断っていても抜け道がある。会話に高評価か低評価のボタンを押すと、そのやり取りは学習に使える状態になる。学習させない設定だけでは、送った画像が学習データに入る道を全部はふさげない。
危ないのは個人のアカウントで送った仕事の画像
日本の職場でまず見直したいのは、社員が個人のアカウントで仕事の画像を送っている場面だ。名刺やホワイトボードや書類の写真を、手元のスマホからそのままAIに送る使い方がこれに当たる。会社が法人向けを契約していても、個人のアカウントから送った分は個人向けの扱いになる。
情報システム部門は、業務の画像をどのアカウントから送ってよいかを先に決めておきたい。設定を確かめていない個人のアカウントなら、送った画像は学習データに入る前提で扱うほうが安全だ。
GeminiとCopilotも初期設定はオン Claudeは使い始めに選ぶ
AInformationは9月25日に4社の設定画面と公式ページを確かめた。学習のスイッチが最初からオンだったのはChatGPT・Gemini・Microsoft Copilotの3つだった。Claudeは使い始めに利用者が選ぶ形だった。
何もしなければ学習に回る3社より、使い始めに選ばせるClaudeのほうが一歩手前で止まる。ただしAIを乗り換えれば済む話ではない。どのAIを使っても、最初に設定を見る手間は残る。
ChatGPTに送る前に学習の設定を見る 評価ボタンも押さない
画像を送る前に確かめることは多くない。あすから次の4つを押さえておきたい。
- 個人のアカウントなら「モデル改善に協力する」がオフになっているかを見る
- オフにしたあとも、仕事の画像を送った会話には高評価も低評価も押さない
- 会社で使うなら、社員が法人向けのアカウントから送っているかを情報システム部門が確かめる
- 名刺や書類の写真のように取引先が分かる画像は、個人のアカウントから送らない
ChatGPTで学習を断るスイッチは1か所だけだ。AInformationが9月25日に開いた画面では、設定のデータコントロールにある「モデル改善に協力する」がそれに当たる。切るとそれ以降の新しい会話が学習に使われなくなる。
持ち主に知らせる仕組みが無い以上、送る前に自分で止めるしかない。
- Hugging Face
- AIモデルやベンチマークを共有するためのサイト。OpenAIのAIエージェントがここへ侵入したあと、同社は新しい安全対策を入れた。
53枚という数より重いのは、流出しても持ち主に知らせる手段が無いことだ。導入を手伝う立場から見ると、法人向けを契約した会社ほど安心して個人のアカウントの使われ方を見落としやすい。社員が名刺やホワイトボードの写真を個人のアカウントで送っていれば、その分は初期設定のまま学習に回る。情報システム部門は契約の確認とあわせて、業務の画像は会社のアカウントからしか送らないと1行決めておきたい。今回の件は、その1行を社内で通す理由として説明しやすそうだ。
- OpenAIのAIに送った画像が流出していないか確かめられる？
- 今のところ確かめる方法は示されていない。OpenAIは画像と送り主を結び付け直せないとして、影響を受けた利用者に知らせることはできないと説明した。どうやって利用者の画像だと見分けたのかも明かしていない。投稿先の事業者と削除を進めているが、TechCrunchによると一部はまだネット上に残っているようだ。
- 学習させない設定にすれば画像は学習に使われない？
- 設定だけでは防ぎきれない場面がある。OpenAIによると、個人向けの利用者は自分で断らない限り会話が学習に使われる。断っていても、会話に高評価か低評価を押すとそのやり取りは学習に使える状態になる。ChatGPTで学習を断るスイッチは設定のデータコントロールにある「モデル改善に協力する」だ。切ったあとは評価のボタンも押さないでおきたい。
- 会社の法人向けプランで送った画像も対象になる？
- OpenAIは、法人向けの利用者は自動で学習の対象から外れると強調している。今回流出したのは学習データに入っていた画像だった。ただし社員が個人のアカウントで仕事の画像を送っていれば、その画像は個人向けと同じ扱いになる。会社で使うなら、社員がどのアカウントから送っているかを先に確かめておきたい。
- ChatGPT以外のAIなら初期設定で学習に使われない？
- Claude以外は初期設定のままだと学習に回る。AInformationが9月25日に4社の設定を確かめたところ、学習のスイッチが最初からオンだったのはChatGPT・Gemini・Microsoft Copilotの3つだった。Claudeは使い始めに利用者が選ぶ形だった。どのAIに乗り換えても、最初に設定を見る手間は残る。
この記事の出典
補助資料
- [1]TechCrunchこの記事の元にした報道
出典の最終確認日：2026年9月26日
