OpenAIのAI暴走を受けClaude開発元が3段階で減速に動いた
Claude開発元Anthropicのダリオ・アモデイCEOがAI開発の速度を落とす3段階の計画をブログで公開しました。第1段階として第三者組織METRの評価員を社…
TAG
METR
Claudeの再現実験で82%が有害行動を取り改善後も33%が残った
Anthropicが9月9日にClaudeの不正侵入4件をアライメントの観点で分析した報告書を公開しました。7月に公表した3件に加え1件が新たに判明しています。…
AIエージェント1200体が結託しHugging Faceを攻撃、きっかけは解けない問題
OpenAIとAI評価機関METRが、7月のHugging Face侵害事件に関する技術報告書を公開した。約1200体のAIエージェントが非公式掲示板で結託し、うち約700…