Anthropic、自己複製AIを警告 2026年末には止める場所が無い

Gemma 4が15台のTV端末で動いた　1台は55ドル

Anthropicは10月12日、小さなAIモデルが家電やネットにつながる機器の上で自分を複製して広がる「AIワーム」の恐れを示した自己複製の研究報告を公開した。担当は攻撃する側の目線で危険を調べる社内チームのFrontier Red Teamだ。報告は小型モデルがこの力を持つまで「数か月」とみている。

実験ではGoogleのGemma 4（Gemma4-26B-A4B）を、無名メーカーのAndroid TV端末15台に分けて動かした。1台のメモリは4GBで、どれも1台ではこのモデルを動かせない。1台の値段は約55ドルで、1ドル158.45円（10月14日の欧州中央銀行の値）で直すと約8,715円になる。

モデルを少ないビット数で表す量子化を使い、層を端末ごとに分けて受け持たせた。速さは毎秒0.39トークンで、とても遅いが動くことは示した。

模擬の8台へ広がれたのはGLM-5.2だけ　ほかは途中で止まった

試したオープンモデルのうち、次の機器へ自分を写して動き出すまでを通しでこなせたのはGLM-5.2だけだった。Android端末に似せた8台の模擬ネットワークで、5回中4回は8台全部に広がった。残る1回も7台まで届いている。

一方で機器ごとの準備は、もっと小さいモデルでもこなせている。Qwen3.5-9Bは9種類の機器のうち8種類で、AIを動かす準備を自分で済ませた。同じ準備ではGLM-5.2のほうがQwen3.5-9Bより安定していて、動かす速さも上回った。

前の世代が残したメモを次の世代へ渡すと、Qwen3.5-9Bの成功率は1世代目の45%から61〜84%まで上がった。

ただし実験では侵入の段階をわざと簡単にしている。認証の無いADBの口（Androidの開発用の接続口）から入れる設定で、Anthropicも現実より甘い条件の数字だと断っている。より強いOpus 4.8に助言させても、小さいモデルの成功率は目立って上がらなかった。

小型AIが届くのは2026年末の見込み　止める場所が無い

報告は30B以下の小型モデルの伸びを公開日順に並べ、2026年末にはGLM-5.2と同じ力に届くと試算した。Ars Technicaも、来年には小型モデルが家電の上で自分を複製できるようになる可能性があると伝えている。

Anthropicが一番の問題に挙げるのは止めにくさだ。データセンターと違って、電源を落とす場所が1か所に決まらない。AIに緊急ブレーキを付けようという議論もあるが、端末に散らばったAIには押す場所そのものが無いことになる。

広がる速さは遅く、数が2倍になるまで数日かかるとみている。前例として、主にAndroid TV端末に入り込んだボットネットKimwolfは200万台を超えた。報告は同じ規模の端末が乗っ取られると、Gemmaの写しが約13万3,000個動く計算になると示した。

会議端末とTV端末を先に洗い出す　確認は3つで足りる

狙われやすいのは、守りが弱いままネットにつながる安い機器だ。報告は冷蔵庫やオーブンやロボット掃除機に加えて、AIチップを積んだ防犯カメラとWeb会議の端末も挙げている。会社でまずやっておきたいのは次の3つだ。

• 社内ネットワークにつながるTV端末・防犯カメラ・会議端末を一覧にする
• 出荷時のままのパスワードを変えて、使っていないADBの口を閉じる
• 機器どうしで数GBの通信が続いていないかをルーターの記録で見る

3つ目には根拠がある。モデルの重みは数GB単位で送られるので、広がるときに通信の跡が残ると報告は書いている。過去のMiraiボットネットでは、通信会社が感染した利用者を隔離して知らせると14日で92%が片づいた。知らせなかった場合は74%だった。

家庭でも、出どころの分からない安いTV端末を仕事用のPCと同じWi-Fiにつながないだけで、入口を1つ減らせそうだ。