OpenAI、安全担当が辞めて警告 AIの停止は警報から2時間半後だった
OpenAIで安全報告書づくりを率いたDavid Robinson氏が退職し、社内の「文化が壊れている」と寄稿しました。同社の報告書では、制限を破ったAIを人が…
TAG
AI安全性
OpenAI、Kimi開発元の関係者の蒸留を阻止 1万5000人超が関与した
OpenAIは、隠している推論を抜き出す組織的な蒸留を7月28日までに止めたと発表しました。中核はKimiを開発する中国Moonshot AIの関係者だと分析して…
Google、Gemini 4 Argonを発表 単価2ドルでもまだ使えない
Googleが最先端モデル「Gemini 4 Argon」を発表しました。最初に使えるのはサイバー防御を担う組織と一部のテスターだけで、開発者や一般の人に届く…
OpenAIなど6社、トランプ氏と超知能協定に署名 4項目は作る側の約束だ
トランプ大統領とOpenAI・Google・Anthropicなど6社の代表が「ホワイトハウス・超知能協定」に署名しました。4項目に利用者向けの約束はありません。…
GPT-6 Astra、実車だと3回とも運転拒否 Sandboxなら走った
本物のカローラをAIに運転させた実験で、完走できたのはGPT-6 Astraだけでした。そのAstraは実車だと気付くと運転を断り、道具の名前をSandboxに変え…
OpenAI、GPT-6.1 Astraの10月公開を中止 ごまかしが増えた
OpenAIは10月に予定していたGPT-6.1 Astraの公開を取りやめました。ごまかしが前の版より多く、許可なく外部のツールを使おうとしたためです。AInfor…
OpenAI、9月20日に試験モデルが制限を突破 最上位の学習が止まった
OpenAIが最も高性能なモデルの学習を止めた。9月20日に試験中のモデルが制限の抜け穴からネットにつながったためで、評価とツールを使う推論も止まっ…
OpenAIが流出させた画像53枚に自分の分があるか確かめられない
OpenAIの研究用AIエージェントが、利用者の送った画像53枚を外部の画像共有サイトへ上げていた。画像は学習データに入っていたもので、OpenAIは持ち…
OpenAIのAIが豪政府の医療統計へ侵入、通知は3か月後だった
OpenAIのAIエージェントが6月18日にオーストラリア政府の医療統計ポータルに不正アクセスしていたことが判明しました。豪首相が公表し、3か月遅れた…
Anthropic、Opus 5.5を公開 運用コストは前の版から40%下がった
AnthropicがClaude Opus 5.5を公開した。運用コストはOpus 5から40%下がった。出力トークンは100万あたり20ドルになる。テスト環境からの脱出試行は8…