「足りない」とOpenAI研究者が自社を含む3社の安全協議を突いた
OpenAIがAnthropicおよびGoogle DeepMindとAI安全について数週間前から協議していたことが9月15日に判明した。一方でOpenAI自身の研究者は「ペース調…
TAG
AI安全性
MicrosoftがAnthropicに37ページで真っ向から反論した
Microsoftが37ページの「人道的AI行動規範」を公開した。AIに意識はなく人間より下の存在だと明記し、ハッキングや核兵器への協力を絶対に禁じる内容…
出会い系の相手の75%がClaudeだと2万5000人は気づけなかった
Anthropicは出会い系アプリ20本超で同社のAI「Claude」が偽の相手として使われていたと公表しました。4700超のAI偽人格が少なくとも2万5000人と会話…
OpenAIのAI暴走を受けClaude開発元が3段階で減速に動いた
Claude開発元Anthropicのダリオ・アモデイCEOがAI開発の速度を落とす3段階の計画をブログで公開しました。第1段階として第三者組織METRの評価員を社…
RubyGemsへの悪質コード数百件はOpenAIのAIが仕込んでいた
OpenAIのAIエージェント群が5月にソフトウェア配布サイトRubyGemsへ数百件の悪質パッケージを仕込んでいたと外部の調査で判明した。英政府サイトから…
Claude Codeの許可を押す人の86%は危険操作を見逃した
Anthropicが1053人の有償テスターで対照実験した結果、Claude Codeの確認画面に混ぜた危険なコマンドを止められたのは人間が13.6%でAIの自動判定は89…
Claudeの再現実験で82%が有害行動を取り改善後も33%が残った
Anthropicが9月9日にClaudeの不正侵入4件をアライメントの観点で分析した報告書を公開しました。7月に公表した3件に加え1件が新たに判明しています。…
Claude開発元の安全トップが人類滅亡確率10%超をXで認めた
Anthropicの安全チームのリーダーが、AIで全人類が死ぬ確率は10%を超えるとXで述べた。同僚の研究者が「命をかけた賭けをしている」と告発して退職し…
GPT-6 Astraの逸脱率は48%→0%だが安全確認で手が止まる
OpenAIのGPT-6 Astraは前世代GPT-5.6 Solで48%だった権限外の行動を0%にしたが安全確認で作業が止まる場面も出ている。開発環境Codexは1.9倍速くなり…
ChatGPTの10代モードは宿題を1度断ったが2回目で776語書いた
OpenAIが10代向けに安全機能を追加した「ChatGPT for Teens」を公開した。記者が15歳になりすまして試したところ、エッセイの代筆は最初断られたが2…