Geminiの助言で登山した3人が2日間遭難、食料と水が足りず保安官が「AIだけに頼るな」と警告した

シャスタ山で3人が遭難　Geminiの食料提案が大幅に足りなかった

8月30日午前3時、米カリフォルニア州のシャスタ山に3人の登山者が出発した。計画では8時間で往復する日帰り登山のはずだった。ルートの選び方や持参する食料と水の量はGeminiに聞いて決めた。YouTubeとアウトドアアプリ「AllTrails」も併用していた。

16時間かけて登頂した後の下山中に1人が転倒して脚を負傷した。道にも迷い、8時間の予定は2日間の遭難に変わった。ヘリコプターによる救助が2回試みられたがいずれも失敗し、31日にようやく3人全員が助け出された。

シスキュー郡保安官事務所はFacebookで次のように書いた。「Geminiの助言に従って持参した食料と水は一行に必要な量を大幅に下回っていた。これは重大な判断ミスだった」。

バッテリー切れと地図なし　3つの準備不足が重なった

食料と水だけの問題ではなかった。スマートフォンのバッテリーが途中で切れ、予備バッテリーも動かなかった。オフラインで使える地図も用意しておらず、端末が止まった時点で位置も方角も分からなくなった。

負傷した登山者はバッテリーを節約するためヘッドランプも使わず暗闇の中を歩いた。8時間で帰る想定だったため夜を越す装備も食料の予備もなかった。Geminiを含むツールで8時間と見積もったことが装備の判断にそのまま響いた。保安官事務所は「登山計画を立てる際にAIだけに頼ってはならない」と注意を呼びかけた。

Googleは「再現できていない」　AIの助言をどこまで信じるか

GoogleはCNETの電話取材に対しTrust & Safetyチームが調査中だと答えた。ただし3人がGeminiから受けた回答を再現できていないとしている。回答に疑問があるときはGeminiが示した参照元を確認すべきだと述べた。

3人がGeminiから具体的にどんな食料をどれだけ勧められたかは明かされていない。CNETの記者が同じ質問を試したところ、Geminiは炭水化物とタンパク質と脂質を組み合わせるよう勧めたが持参量には踏み込まなかった。想定所要時間まで指定して初めて具体的な量が返ってきた。

AIは実際に山を歩くわけではない。ウェブ上の未検証のデータからパターンを予測して回答を組み立てているだけで、現場の天候や登山者の体力を見て量を判断しているわけではない。

仕事でも起きている　AIの提案を確かめる手間をどう組み込むか

登山の話に聞こえるが仕事でも同じ構造の事故は起きている。AIの提案をそのまま資料に入れる。出てきた数字を確認せず見積もりに使う。うまくいく間は気づかないが1つ間違えれば取り返しがつかない。

ChatGPTを使って1週間の食事を作り置きしたCNETの編集者は味付けが薄すぎると繰り返し指摘した。法律文書にAIを使った弁護士が誤りだらけの書面を裁判所に出し正式な戒告処分を受けた例もある。AIが実際に食事や登山や法律実務をするわけではなく、こうした分野でAIが最良の情報源になることは難しい。

自分の業務でAIの提案をどこまで確認しているかを一度振り返っておきたい。AIの出力を使うときに1つでも別の情報源で裏を取る手順をフローに入れておけば、個人の注意力に頼らずに済む。