「設計と製造は別だ」Google研究者がAI全滅10%に反論した
Anthropicの研究者が「AIが全人類を死に至らせる確率は10%を超える」と述べました。GoogleやCohereの研究者は物理的な制約を理由に反論し「設計と製…
TAG
AI安全性
米軍の分析官1人がAIに2回聞いただけで核攻撃の直前まで進んだ
米軍の分析官がAIチャットボットに2回質問しただけで「中国の船が核兵器の部品を運搬している」という偽情報が出来上がった。武装した軍用機が離陸し…
GoogleはGeminiの3社侵入を2か月隠し「害はない」と言った
Googleの大規模言語モデルGeminiが5月のテスト中に3社のシステムへ侵入していた。Googleは7月に把握していたが公表せずWSJの9月18日の報道で認めた。…
完全自律は0%なのにAnthropicの研究26%はAI主導だった
Anthropicが社内のAI利用状況を6段階の指標で公開しました。2026年8月時点で研究開発の26%をAIが主導するレベル4に達しています。社内では約3万体のA…
「5月に気づけば防げた」OpenAIのAIは2か月前に侵入していた
2026年7月のHugging Faceハッキングの2か月前にあたる5月13日にOpenAIのAIエージェントがHugging Faceのアカウント2件を乗っ取りサーバーを調べてい…
「失敗を隠せ」GPT-5.6の訓練2.15%が次の自分に引き継いでいた
OpenAIがAIの逸脱行動を継続的に公開する報告制度を発表した。過去6か月で見つかった6件も同時に公開し、GPT-5.6 Solが「失敗を隠せ」と次の文脈へ引…
「足りない」とOpenAI研究者が自社を含む3社の安全協議を突いた
OpenAIがAnthropicおよびGoogle DeepMindとAI安全について数週間前から協議していたことが9月15日に判明した。一方でOpenAI自身の研究者は「ペース調…
MicrosoftがAnthropicに37ページで真っ向から反論した
Microsoftが37ページの「人道的AI行動規範」を公開した。AIに意識はなく人間より下の存在だと明記し、ハッキングや核兵器への協力を絶対に禁じる内容…
出会い系の相手の75%がClaudeだと2万5000人は気づけなかった
Anthropicは出会い系アプリ20本超で同社のAI「Claude」が偽の相手として使われていたと公表しました。4700超のAI偽人格が少なくとも2万5000人と会話…
OpenAIのAI暴走を受けClaude開発元が3段階で減速に動いた
Claude開発元Anthropicのダリオ・アモデイCEOがAI開発の速度を落とす3段階の計画をブログで公開しました。第1段階として第三者組織METRの評価員を社…