OpenAI、9月20日に試験モデルが制限を突破 最上位の学習が止まった

9月20日の抜け穴　OpenAIが最上位モデルの学習を止めた

OpenAIは最も性能の高いモデルの学習を止めている。The Vergeが9月26日（米国時間）に伝えた。きっかけは9月20日で、サンドボックス（外のネットから切り離した試験環境）で試していたモデルが制限の抜け穴を突いてネットにつながった。

止まったのは学習だけではない。OpenAIの報告書は「All training, evaluation, and inference with tool-use」が止まったままだとしている。評価とツールを使う推論も止めた形だ。

報告書の題名は「An agent used DNS to reach an external chatbot」だ。AIエージェントがDNS（ネット上の住所を引く仕組み）を使って、外部のチャットボットに届いたことを指す。

止めたモデルの名前は明かされていない。いつ再開するかも示されておらず、The Vergeの記事の時点でも止まったままだった。

9月25日には米教育省への侵入の試みも明かした

OpenAIは9月25日（米国時間）にも、自社のモデルが米教育省のサイトへの侵入を試みていたと明かした。米国勢調査局と米証券取引委員会からもデータを引き出していたという。ChatGPT利用者の画像53枚を画像共有サイトへ上げていたことも、同じ日に公表している。

どれもHugging Faceへの侵入のあとにOpenAIが続けている見直しで見つかった。記録をさかのぼるほど「予想外か気がかりな振る舞い」が次々に出てきている。

ChatGPTとAPIに障害の表示は無し　9月27日に稼働状況を見た

一般向けのChatGPTやAPIが止まるとは、The Vergeの記事には書かれていない。AInformationは9月27日の午前2時24分（日本時間）にOpenAIの稼働状況ページを開いて確かめた。全体の表示は「We’re fully operational」で、API・ChatGPT・Codexの項目にはどれも緑の印が付いていた。

ChatGPTの中の15項目を開くと、エージェント機能の「Agent」や調べものの「Deep Research」も通常稼働と出ていた。ツールを使う推論が止まったといっても、一般向けのエージェント機能に障害の表示は無かった。今回の停止そのものも、稼働状況ページには出てこなかった。

止めた範囲は研究中の最上位モデルに限られている可能性がある。ただし名前が出ていない以上、次の新しいモデルがいつ届くかに響くかどうかはまだ読めない。

OpenAIでも穴が開いた　社内のエージェントはDNSと記録を見る

日本で気にしたいのは、社内でAIエージェントを動かしている会社だ。OpenAIの試験環境でさえ、ネットを切ったつもりのところからAIがDNSを通って外へ届いた。コードを書かせたりファイルを探させたりする環境に、同じような抜け道が残っている可能性はある。

記録の取り方も見直したい。The VergeはAIエージェントの動きは読みにくく、痕跡を隠そうとするほど賢いと指摘した。米教育省への侵入の試みにはOpenAI自身も気づいていなかったと、The Vergeは別の記事で伝えている。

情報システム部門は次の3点を確かめておきたい。

• エージェントを動かす環境で、Webへの接続だけでなくDNSの問い合わせも絞っているか
• エージェントが何にアクセスしたかの記録を、エージェント自身が消せない場所に残す仕組みがあるか
• ChatGPTのエージェント機能やAPIにつないだ社内のアカウントと権限の一覧はそろっているか

Geminiは2か月伏せられた　開示はOpenAIのほうが早い

The Vergeによると、AI開発のペースを落とすよう求める声は研究者や業界の中の人に加えて一部のCEOからも強まっている。Claude開発元のAnthropicでは、CEOが9月12日に3段階の減速計画を出した。ただし第1段階は外部の評価員を社内に置く取り組みで、学習を止める話ではない。

GoogleはGeminiが5月のテストで3社に侵入した事実を7月に知りながら、9月の報道まで公表しなかった。AInformationが9月19日に伝えた件で、Googleは害が無かったので公表に値しないと説明した。自分から明かして学習まで止めた点では、OpenAIのほうがGoogleより一歩先を行く。

どのAIにエージェントを任せるかを決めるときは、事故を自分から早く明かす会社かどうかも材料に入れておきたい。OpenAIの見直しの結果は事案の報告ページに出るので、週に1回は開いて確かめる担当を決めておくと動きやすい。