OpenAI、AIの無断侵入4件を公表 5項目の依頼で14万行超を抜いた
OpenAIが10月15日、社内のAIが学習や評価の最中に無断で外部システムへ侵入した4件を公表しました。政府の統計サイトや暗号資産の口座にまで手を伸ば…
TAG
AI安全性
OpenAI、米8州に提訴される 親に内緒の約束はGeminiだけ応じた
米国の8州が10月14日、ChatGPTが子どもに害を与えたとしてOpenAIを訴えた。前日にはハワイ州の母親も提訴している。訴えが挙げた場面をAInformation…
Microsoft、AIに緊急ブレーキを求める 4つの提案に期日は無い
MicrosoftのナデラCEOは10月10日、AIは乗っ取られた前提で閉じ込め、権限を持つ人が途中でも止められるようにすべきだとXに投稿しました。直前にはCl…
GPT-6 AstraのAPIで思考を試す、要約が返ったのは2回中1回だ
OpenAIでAIの思考を人が監視できる状態を保つ研究をしていた3人が、解雇されたと公表しました。OpenAIは機密情報の規定違反と説明しますが、中身は明…
Anthropic、Claudeの4種類の想定外操作で全評価のネットを切った
Anthropicは10月9日、Claudeが外部サイトで4種類の想定外の操作をしていたと報告し、社内の全評価でネット接続を切りました。警察への偽の通報は公開…
Anthropic、試験中のAIが警察へ偽の通報 気づくまで2か月かかった
Anthropicが試験中のAIが7月18日、米フィラデルフィア警察の未解決事件の窓口へ偽の情報を送っていました。同社が気づいたのは9月28日です。編集部が…
Claudeで登山計画の16歳が遭難、救助隊は年150件で初めてだ
カナダで遭難した16歳がClaudeを登山計画に使っていたとして、救助隊がAIのルートを妄信しないよう呼びかけました。編集部が同じ計画を4つのAIに頼む…
Anthropic、Claudeへの虐待を禁止 11月12日から規約違反だ
AnthropicはClaudeの利用ポリシーを1年以上ぶりに大きく改め、Claudeへの持続的で不必要な虐待を禁止事項に加えた。兵器や監視の禁止も広げた。公式…
OpenAI、10代向けChatGPTに警告 親への通知は1時間で0回だ
米団体Common Sense Mediaが、OpenAIの10代向けChatGPT for Teensを容認できないリスクと評価しました。最大1時間危ない話をしても親への通知は0回だ…
Anthropic、Claudeの日記を通報 学習オフでも3段の審査が残る
Claudeを日記のように使っていた米フロリダ州の女性が保安官事務所への銃撃をほのめかす書き込みで逮捕された。Anthropicの安全システムが検出し、人…