設定を1つ変えないとChatGPTの会話は数百人に読まれ続ける

ChatGPTの会話を人間が読む　Project Lilyが判明した

OpenAIが社内プロジェクト「Project Lily」で実際のChatGPTの会話を人間に評価させていることが分かりました。海外メディアの404 MediaとThe Next Webが報じています。

数百人規模の契約スタッフがユーザーとChatGPTのやり取りを読み、回答の品質や問題点を確かめています。生成AIの改善には文章の学習だけでなく人間による評価も必要になります。レビュー画面ではユーザー名は匿名化されていますが会話の中身はそのまま表示されます。

ChatGPTは仕事の相談だけでなく家族関係や健康の悩みといった個人的な話題にも使われています。404 Mediaは実際のユーザーの会話が評価対象になることにプライバシー上の大きなリスクがあると指摘しました。

フィルターでは防げない　メモリーの要約まで届いた

OpenAIはレビューへ渡す前に「OpenAI Privacy Filter」で個人情報を取り除いています。氏名・住所・メールアドレス・電話番号がラベルに置き換えられます。

ただしOpenAI自身が「一般的ではない識別情報や文脈によって意味が変わる個人的な情報を見落とす場合がある」と認めています。404 Mediaは機密性の高い情報が残ったまま担当者へ届く可能性をOpenAIが認めたと報じました。

ChatGPTが保持しているメモリーの要約がレビュー画面に表示される場合もあります。過去の利用内容やおおまかな居住地域に関する情報が含まれるケースがあるとThe Next Webは伝えています。

止める設定は1か所　オフにした後の会話だけ対象外だ

個人向けChatGPTでは標準で会話がモデル改善に利用される設定です。止めるには「設定」を開き「データコントロール」から「モデル改善に協力する」をオフにします。オフにした後の新しい会話だけがトレーニングの対象外になります。

「一時チャット」で送った会話もモデル改善には使われません。一時チャットの会話は通常30日後に削除されます。個人的な情報を含むやり取りは一時チャットで行う方法もあります。

OpenAIはヘルプページで人間によるレビューの可能性について説明しています。404 Mediaが「どこでユーザーに知らせているのか」と問い合わせたところ、OpenAIはこのページを案内しました。

Business以上なら標準で対象外　個人プランは要確認だ

ChatGPT Business・Enterprise・Eduでは会話が標準でモデル改善に使われない設定になっています。法人向けプランを契約している企業はこの点で追加の対応は要りません。

一方で個人のFreeやPlusプランは初期設定がオンのままです。社員が個人アカウントで業務の相談をしていた場合、その会話がProject Lilyのレビュー対象になりえます。自社のChatGPT利用ルールと各社員の「データコントロール」の設定を確認しておきたいところです。

OpenAIのプライバシーポリシーにはサービスの運営や改善に必要な範囲でベンダーが個人データを処理する場合があると記載されています。ChatGPTをどこまで業務に使うかの判断は設定の確認から始まります。