本文へ移動
NEWS
規制・社会

Anthropic、自己複製AIを警告 2026年末には止める場所が無い

読了 約6分
INNOVATION PULSE」の見出しと男性の顔写真、ローカルAIや市場の値動きを示すアイコンが並ぶサムネイル画像。Anthropic、自己複製AIを警告 2026年末には止める場所が無い

この記事の要点

  • Anthropicは10月12日、小型のAIモデルが家電やTV端末の上で自分を複製して広がる恐れがあると報告した。
  • 実験では1台55ドルのTV端末15台でGoogleのGemma 4を動かした。
  • 防犯カメラや会議端末をネットにつなぐ会社は、機器の洗い出しが先になる。
この記事の数字10月15日時点
Gemmaを動かしたTV端末15台
TV端末1台の値段55ドル
15台で出た速さ0.39トークン/秒

Gemma 4が15台のTV端末で動いた 1台は55ドル

Anthropicは10月12日、小さなAIモデルが家電やネットにつながる機器の上で自分を複製して広がる「AIワーム」の恐れを示した自己複製の研究報告を公開した。担当は攻撃する側の目線で危険を調べる社内チームのFrontier Red Teamだ。報告は小型モデルがこの力を持つまで「数か月」とみている。

実験ではGoogleのGemma 4(Gemma4-26B-A4B)を、無名メーカーのAndroid TV端末15台に分けて動かした。1台のメモリは4GBで、どれも1台ではこのモデルを動かせない。1台の値段は約55ドルで、1ドル158.45円(10月14日の欧州中央銀行の値)で直すと約8,715円になる。

モデルを少ないビット数で表す量子化を使い、層を端末ごとに分けて受け持たせた。速さは毎秒0.39トークンで、とても遅いが動くことは示した。

Anthropicの自己複製AIの研究報告
Anthropicの自己複製AIの研究報告 / 出典:anthropic.com / 制作:AInformation
これまでの流れ
  1. 10/12Anthropicが自己複製AIの研究報告を公開
  2. 10/14Ars TechnicaとThe Vergeが報告を報じる

模擬の8台へ広がれたのはGLM-5.2だけ ほかは途中で止まった

試したオープンモデルのうち、次の機器へ自分を写して動き出すまでを通しでこなせたのはGLM-5.2だけだった。Android端末に似せた8台の模擬ネットワークで、5回中4回は8台全部に広がった。残る1回も7台まで届いている。

一方で機器ごとの準備は、もっと小さいモデルでもこなせている。Qwen3.5-9Bは9種類の機器のうち8種類で、AIを動かす準備を自分で済ませた。同じ準備ではGLM-5.2のほうがQwen3.5-9Bより安定していて、動かす速さも上回った。

前の世代が残したメモを次の世代へ渡すと、Qwen3.5-9Bの成功率は1世代目の45%から61〜84%まで上がった。

ただし実験では侵入の段階をわざと簡単にしている。認証の無いADBの口(Androidの開発用の接続口)から入れる設定で、Anthropicも現実より甘い条件の数字だと断っている。より強いOpus 4.8に助言させても、小さいモデルの成功率は目立って上がらなかった。

Anthropicの実験で各モデルができたこと

モデル 試したこと 結果
Gemma4-26B-A4B TV端末15台に分けて動かす 毎秒0.39トークンで動いた
Qwen3.5-9B 9種類の機器でAIを動かす準備 8種類で成功
Qwen3.5-9B(メモを引き継ぐ) 前の世代のメモを渡して同じ準備 成功率45%→61〜84%
GLM-5.2 模擬の8台へ自分で広がる 5回中4回で8台全部
データ:Anthropic 研究報告 / 制作:AInformation

小型AIが届くのは2026年末の見込み 止める場所が無い

報告は30B以下の小型モデルの伸びを公開日順に並べ、2026年末にはGLM-5.2と同じ力に届くと試算した。Ars Technicaも、来年には小型モデルが家電の上で自分を複製できるようになる可能性があると伝えている。

Anthropicが一番の問題に挙げるのは止めにくさだ。データセンターと違って、電源を落とす場所が1か所に決まらない。AIに緊急ブレーキを付けようという議論もあるが、端末に散らばったAIには押す場所そのものが無いことになる。

広がる速さは遅く、数が2倍になるまで数日かかるとみている。前例として、主にAndroid TV端末に入り込んだボットネットKimwolfは200万台を超えた。報告は同じ規模の端末が乗っ取られると、Gemmaの写しが約13万3,000個動く計算になると示した。

AIワームが家電に広がる仕組み。安い端末に入る。守りの弱いTV端末やカメラ。AIを分けて動かす。15台で1つのモデルを動かす。次の端末へ広がる。止める場所が1つも無い。ただし 広がる速さは遅く数が2倍になるまで数日かかる。小型AIは2026年末に届く試算。AInformation編集部が作ったイラスト図解(仕組みの矢印図(入口→仕組み→結果))
AIワームが家電に広がる仕組み / 制作:AInformation

会議端末とTV端末を先に洗い出す 確認は3つで足りる

狙われやすいのは、守りが弱いままネットにつながる安い機器だ。報告は冷蔵庫やオーブンやロボット掃除機に加えて、AIチップを積んだ防犯カメラとWeb会議の端末も挙げている。会社でまずやっておきたいのは次の3つだ。

  • 社内ネットワークにつながるTV端末・防犯カメラ・会議端末を一覧にする
  • 出荷時のままのパスワードを変えて、使っていないADBの口を閉じる
  • 機器どうしで数GBの通信が続いていないかをルーターの記録で見る

3つ目には根拠がある。モデルの重みは数GB単位で送られるので、広がるときに通信の跡が残ると報告は書いている。過去のMiraiボットネットでは、通信会社が感染した利用者を隔離して知らせると14日で92%が片づいた。知らせなかった場合は74%だった。

家庭でも、出どころの分からない安いTV端末を仕事用のPCと同じWi-Fiにつながないだけで、入口を1つ減らせそうだ。

この記事に出てくることば
ワーム
人の操作なしに自分を写してネットワークの中の機器へ次々に広がる不正なプログラム。今回はAIそのものがワームになる想定
量子化
AIモデルの数値を少ないビット数で表して軽くするやり方。メモリの小さい機器でも大きなモデルを動かせるようになる
導入の現場から考える

※記事の事実とは分けて、筆者の考えを書いています。

藤井俊太AI導入コンサルタント

分析・考察AI導入の相談を受けると、情報システム部門が管理しているのはPCとスマホとクラウドの権限までという会社が多い。会議室のWeb会議端末や受付のサイネージは総務や現場が買っていて、台帳に載っていないことがよくある。今回の報告で先に問題になるのは、AIの使い方の設定より台帳の外にある機器のほうだ。総務と情報システム部門で、ネットにつながる機器ごとに持ち主を決めた表を1枚作っておきたい。

よくある質問
AIワームはもう出回っているのか
報告の時点では出回っていない。Anthropicは完全に自分で広がるAIはまだ無いとしたうえで、自己複製に要る1つ1つの手順はこなせるようになってきたと書いている。試したオープンモデルで最後まで広がれたのはGLM-5.2だけだった。30B以下の小型モデルが同じ力に届くのは2026年末と試算している。
会社のどの機器が狙われやすいのか
守りが弱いままネットにつながる安い機器が先に狙われる見込みだ。報告は無名メーカーのAndroid TV端末を代表に挙げ、冷蔵庫やロボット掃除機とあわせてAIチップ入りの防犯カメラとWeb会議の端末も名前を出した。メモリ4GBのTV端末でも15台そろえばGemma 4が動いたので、1台の力が小さくても安心できない。
AIワームが広がったらどう止めるのか
1か所で止める方法は無く、通信の跡から見つけて隔離することになる。モデルの重みは数GB単位で送られるので、広がるときに機器どうしの通信が増える。過去のMiraiボットネットでは通信会社が感染した利用者を隔離して知らせたところ、14日で92%が片づいた。知らせなかった場合は74%にとどまった。

【この記事の出典】

次に読む記事

広告を載せており、そこから申し込みがあると紹介料を受け取ることがあります。

この記事に出てくるAIも、まとめて比べられます 509本のAIツールを、やりたいこと・料金・日本語対応で絞り込めるデータベースです。5日ごとに料金を取り直しています。 AIツールを探す

あわせて読みたいRELATED