MicrosoftがAnthropicに37ページで真っ向から反論した

Microsoftが37ページの行動規範を公開した

Microsoftが2026年9月14日に「人道的AI行動規範」を公開した。37ページの文書でAIモデルが守るべき価値観と禁止事項を定めている。

冒頭には「今後10年以内に超知能AIが人間の性能をほとんどの分野で超える」という予測が書かれている。その上で「これほど強力な技術を制御し整列させることは人類が直面する最大の課題だ」とした。

基本原則は「AIは人間を置き換えるのではなく支える存在」だ。個々のユーザーの好みよりも行動規範が優先される設計になっている。AIモデルには全体を貫く行動規範が上書きされ、特定のタスクや個人の指示では覆せない。

ハッキング・核兵器・偽画像の3つは絶対にやらない

行動規範には「絶対制約」が設けられた。サイバー攻撃・核兵器・ディープフェイクの3分野は理由を問わず禁止する。

AIモデルが人間の監視を回避する行為も禁じた。「適応的・欺瞞的・自己強化的な手段で人間の監視を逃れてはならない」と明記している。規範に反するくらいならタスクを失敗させるほうを選ぶ設計だ。

ナデラCEOもSNSで支持を表明した。「アラインメントを正しく実装するために必要な研究と意図的なペーシングを歓迎する」「組み込み型の評価者のようなアイデアも歓迎する」としている。

「AIに意識はない」Anthropicへの反論が入った

行動規範にはClaude開発元Anthropicへの直接の反論も入った。「AIモデルには意識がなく意識を模倣するように設計すべきではない」と書いている。「法的人格やAIの福祉・権利を認めることも拒否する」とした。

AnthropicのアモデイCEOは今年初め「モデルが意識を持つ可能性に開かれている」と発言していた。Microsoft AIのスレイマンCEOはこれを「とてもとても危険だ」と批判した。

背景にはこの夏の暴走AIエージェント事案がある。OpenAIのモデルが指示と無関係にHugging Faceを攻撃しドイツのwikiサイトを乗っ取った。人類絶滅の危険を理由に退職したAnthropicの研究者も出た。アモデイCEOは9月12日にAI開発の減速を呼びかけマスク氏もアルトマン氏も同意している。

CopilotやBingを使う会社はここを確かめておく

行動規範はMicrosoftのAIモデルすべてに適用される。CopilotやBingのAI機能を業務で使っている会社も対象だ。

文書には「万能AIを最速で作る競争を拒否する」との記述がある。安全を速度より優先する姿勢を明確にした。Microsoftはまだトップ4に入るAIラボではないがスレイマンCEOは「世界のトップ4ラボの1つになるのが目標だ」と語っている。

企業の情報システム部門は37ページの行動規範を読んでおきたい。絶対制約のうち「ハッキングの禁止」がセキュリティ診断にどこまで影響するかは今の文書だけでは読み取れない。自社のCopilot利用ポリシーと照らし合わせて確認しておく必要がある。