米軍の分析官1人がAIに2回聞いただけで核攻撃の直前まで進んだ

分析官がAIチャットに2回聞いただけで核の偽情報ができた

2026年春のことだ。イランとの戦争下にあった米軍で特殊作戦部隊の分析官がAIチャットボットを使った。オープンソース情報と機密の通信傍受データを統合するよう指示したところAIは中国の船の貨物台帳を誤読し「核兵器の部品を運搬している」という偽の分析結果を返した。実際にはそのような貨物は積まれていない。

分析官はAIの出力を検証していない。同じAIツールをもう1回使い誤った内容を公式報告書の書式に整えた。体裁の整った報告書は各部隊の指揮系統に回覧される。AIが生み出した誤りをAI自身が見栄えよく仕上げる構造だ。原典にあたる工程は1度も挟まれていない。たった2回のAI利用で偽の情報が組織の判断材料に化けた。

軍用機が離陸した後に嘘が発覚し攻撃は直前で止まった

報告書の回覧を受けて武装した軍用機が離陸する。中国の船に対する攻撃作戦が動き始めた段階で別の担当者が元の情報源を確認しAIの出力が幻覚（ハルシネーション）だと判明した。作戦は直前で中止される。CNNが9月18日に報じた。中国との軍事衝突がAIチャットボットの1回の誤りから始まりかけたことになる。

米国防総省はAIを「意思決定を加速し中国に対する優位を保つ鍵」と位置づけてきた。AIが情報処理を速めるほど指揮官は短い時間で判断を迫られる。速さが強みであると同時に誤りを検証なしで上層へ運ぶ経路にもなる。GovAIの研究者ジェイク・ステックラー氏は「武力行使につながる判断ではLLMの不確実性を理解することが特に重要だ」と述べている。

「AIの答えをAIで整形して出す」は日本の職場でも起きている

今回の失敗構造は「AIに質問→AIで整形→そのまま提出」の3段階だ。軍に限った話ではない。日本の企業でもChatGPTで調べた内容をそのままChatGPTでレポートに仕上げて上司に出すケースがある。途中で元の資料にあたる工程を入れていなければ誤りはそのまま通る。

報告書を読む側も体裁が整っている分だけ疑いを持ちにくい。フォーマットが公式らしいだけで信頼の代わりになってしまう。社内の議事録なら訂正で済むが取引先への提案書や報道資料で同じ構造が起きれば信用問題になる。AIの出力を人が裏取りする手順を省くほど今回の米軍と同じリスクを負う。

AIの出力は原典と突き合わせるまで「仮」として扱う

ステックラー氏は「この事例はAIを避ける理由ではなく安全策を足す理由だ」とも述べた。導入速度を優先しすぎると現場がAIを信用しなくなり普及がかえって遅れるという逆効果も警告している。

対策の基本は単純だ。AIの出力は原典と突き合わせるまで「仮」の扱いにする。報告書に使うなら情報源のリンクか資料名を必ず併記し別の人が確認できる状態にしておく。出力に含まれる固有名詞や数字を元の資料と照らし合わせるだけでよい。1人で完結させず第三者の目を1回通すだけで今回のような連鎖は断ち切れる。確認という1手間が攻撃を止めた事実がその効果を証明している。