消したはずの子ども写真1枚をMeta AIが掘り出し名前を聞いた

Meta AIが「この子は誰？」と表示し削除写真1枚も引き出した

Instagramユーザーの Kalie Robins さんが子どもと車内で歌う動画をFacebookにクロス投稿したところ、Meta AIが動画の下に「子どもの同乗者は誰？」というプロンプトを自動で表示しました。

Robinsさんがこのプロンプトを選ぶと、Meta AIは本人の過去の投稿だけでなく親族が別のアカウントから行った投稿まで横断して娘たちの情報をまとめた形です。表示された中には数年前に削除したはずの子どもの写真1枚も含まれています。

Meta AIはさらに子どもの年齢や家族が住んでいる場所を尋ねるプロンプトも追加で表示しています。Robinsさんがこの一連の動作をInstagramに動画で投稿したことで問題が広がりMetaが対応に動きました。

4アプリの利用者すべてが対象　親族の投稿までAIが探る

Meta AIはFacebook・Instagram・WhatsApp・Messengerの4つのアプリに組み込まれています。質問への回答や投稿の作成、画像の生成ができるツールです。

Metaの広報は「Meta AIはユーザーがすでにアクセスできるコンテンツだけを返します。そのユーザーが見られない投稿であればMeta AIも返しません」と説明しています。

ただし今回のケースでは普段の操作では一覧に出てこない過去の投稿や親族の投稿が集約されて表示されました。Metaの広報によるとRobinsさんが動画内で子どもの名前を呼んでいた可能性があり、AIがそこから情報をつなげたとみられます。

消した写真は消えていない　Instagramの投稿が持つリスク

今回の問題の核心は「削除した＝消えた」とは限らないという点です。SNSに一度上げた写真はユーザーの操作で見えなくなっていてもAIがアクセスできる形でプラットフォーム側に残っている場合があります。

親族が別のアカウントから同じ場面の写真や動画を投稿していればAIはそれらもつなぎ合わせます。投稿の内容だけでなく動画の中で誰かの名前を口にするだけでもAIがその人物と投稿をつなげる可能性があることを今回の事例は示しています。

子どもの写真をSNSに載せている人にとって削除しても残る情報がどこまで広がるかを知っておくことが大切です。仕事でSNSアカウントを運用している企業にとっても社員の写真やイベントの記録が同じ仕組みで引き出される可能性は残ります。

2か月で2度目のAI機能修正　残る疑問は「消える」の意味

Metaは問題を認め「基準を外した。この機能がこのような質問を表示すべきではなかった」と説明しました。個人的な話題に関するプロンプトの表示は修正したとしています。

ただしMetaは7月にも他のInstagramユーザーのAIディープフェイクを作れる機能を批判を受けて撤回しています。2か月で2度のAI機能修正に追われた形です。

ChatGPTも会話の記憶を広告に使い始めるなど、AIが個人データをどう扱うかは各サービスで大きく異なります。「ユーザーがアクセスできる情報だけ返す」というMetaの説明がどこまでを指すのか、削除した写真の扱いを含めて具体的な線引きはまだ示されていません。