■3行でわかる
- 55ドルのTVボックス15台で26Bモデルを分散推論
- 自己複製の全工程を実機で再現したわけではない
- 通信監視や初期パスワード廃止を防御策に提示
■Anthropicが示した自己複製AIの兆しとは
Anthropicは10月12日、小型AIモデルが安価なIoT機器を渡り歩いて複製する可能性を論じた研究結果を発表した。想定されているのは、乗っ取った機器でモデルを動かし、別の機器へコピーを広げる仕組みだ。実験では55ドルのAndroid TVボックス15台を使い、26Bモデルの分散推論にも取り組んだ。ただし、AIがIoT機器上で自己複製するところまで実証した実験ではない。
■15台のTVボックスで分散推論を実験
用意したのは、メモリ4GBのノーブランドAndroid TVボックス15台。ネットワークでつないで、Google DeepMindの「Gemma4-26B-A4B」を動かしたところ、処理速度は毎秒0.39トークンだった。大規模モデルを動かせても、速度はかなり限られる構成だ。
■推論環境を自力で整える能力も検証
未知のハードウェアで推論環境を用意できるか試した実験では、9Bモデルが9種類中8種類で動作に成功した。ネットワーク探索からコピー、環境構築までを一連で行うテストを完遂したのは、試したオープンウェイトモデルの中では「GLM-5.2」だけだった。
■GLM-5.2の成功はエミュレータ上のもの
この一連のテストはAndroidのエミュレータ環境で行われ、GLM-5.2が実際のIoT機器で自己複製したわけではない。さらに、同モデルが構築したのは別の小型モデルを動かすための推論環境だった。Anthropicは、小型モデルの性能向上が続けば、年内に同程度の能力を持つモデルが増えると予測している。
■増殖は遅くても、止めにくさが課題
Anthropicの想定する複製体は、モデルの重みをマルウェアの一部として運び、乗っ取った機器で動作しながら拡散する。複製の倍増には数日かかるとみられ、9Bモデルのコピー1回にも1～2日以上を要する試算だ。一方で、一元的に停止させる仕組みがないため、拡散後の対応が難しくなる可能性がある。
■通信監視や初期パスワード廃止を提案
防御では、感染した機器1台が新たに感染させる機器を平均1台未満に抑えることを目標に掲げた。ISPによる異常通信の監視や、感染機器を利用する契約者への通知・通信制限、メーカーによる初期パスワードの廃止が対策として挙げられている。
■よくある疑問
Q. 26BモデルはTVボックス1台で動いた？
A. 15台をネットワーク化し、分散推論で動かした。
Q. 自己複製AIは実証された？
A. 実際のIoT機器上での自己複製は実証されていない。全工程のテストはAndroidのエミュレータ環境で行われた。
Q. Anthropicが提案した防御策は？
A. 異常通信の監視、感染機器を使う契約者への通知や通信制限、初期パスワードの廃止など。
■まとめ
自己複製AIはまだ実現していないが、必要な能力の一部は実験で確認されている。
この件で主役にすべきはAIの賢さではなく、メーカーの保守責任だ。ISPによる異常通信の監視や契約者への通知・通信制限は、感染後の負担を通信側と利用者へ寄せる。初期パスワード廃止をメーカーの標準にする方が、侵入前の責任の所在は明確になる。売ったら終わりを許すな。
毎秒0.39トークンって、AIの返事が来る頃には茶が冷めるンゴ。
ワイは説明書があっても初期設定で詰む側、機器より先にワイが沈むわ。
引っ越しあるあるで、荷物より先に電源を探す感じやろ。
この伸び方なら、年内にGLM-5.2級が増えるという予測、むしろ控えめに終わるやろ。
コメント一覧