自律的な複製と適応(ARA)とは | AIが人の管理なしに自分を複製して広がる懸念と、AIワーム、そして何が新しいのか

意味

英語ではautonomous replication and adaptation。頭文字をとってARAと呼ばれます。分けると三つの要素があります。自律は、人が操作したり許可したりしないこと。複製は、自分のコピーを別のコンピューターに作り、そこで動かすこと。適応は、行った先の機器や環境に合わせて、やり方を変えていくことです。

AIの安全性の議論では、AIが人の手を離れて広がり、止められなくなる懸念として挙げられます。当サイトの理解では、モデルを出す前の評価で扱われる例もあります(展開前評価とは)。

AIワームとの関係

サイバーの世界では、人の操作なしにコンピューターからコンピューターへ自分を複製するプログラムをワームと呼びます。AIのワームは、そのAI版です。自分のモデルの重みを持ち運ぶか、公開の配布先からダウンロードし直し、乗っ取った機器の上で自分を動かす。モデルの重みそのものが、悪意のあるプログラムの積み荷の一部になる、ということです。

従来のワームは、作った人が決めた種類の機器を、決めた方法で狙います。AIが複製する場合は、見知らぬ機器でも自分で使い方を調べられうる。前の世代の経験を次の世代に引き継げば、上手になりうる(同社の実験では成功率が45%から61〜84%に)。ここが、AI以前のワームとの大きな違いです。

2026年10月に、何が示されたか

10月12日、AnthropicのFrontier Red Teamは、小さなAIモデルが、データセンターなしに家電のようなIoT機器の上で自己複製できるかを調べた研究を公表しました。1台約55ドルのTVボックス15台で26Bのモデルを動かし、9Bのモデルは試した9種類の機器のうち8種類で、自力でAIを動かす環境を整えました。前の世代のメモを引き継ぐと、成功率は45%から61〜84%に上がりました(レビュー)。

同社は、完全に自分で複製し続けるAIはまだないが、そのための個々の手順はこなせるようになりつつある、とまとめています。単純化した評価で端から端まで複製できたのは試したオープンウェイトのモデルのうちGLM-5.2だけ(それより強いモデルも可能)で、小さなモデルがその水準に届くのは年内、と大まかに見積もっています。ただし、攻撃の段階を簡単にした、現実の成功の上限にあたる条件での実験です。

どう備えるか

当サイトは、次の三つが要ると考えます。

標的を減らす。Anthropicの研究が最初の標的として想定するのは、守りの薄いIoT機器です。初期パスワードのまま使わない、更新が止まった機器や出どころのはっきりしない格安機器をインターネットにつながない。これはAIに限らず、従来のボットネットへの備えとも同じです。

見つけて、止める。モデルの重みは大きいので、それを送り合う通信は目立ちます。通信事業者の監視や、感染した利用者への通知と通信制限が、従来のボットネットと同じように効く、と同社は見ています。ただし、複製するAIは速さと目立たなさを引き換えにしうる、とも書いています。

作る側の評価。AIの会社がモデルを出す前に、自己複製につながる能力を試し、その結果を外から確かめられるようにすること。当サイトは、この懸念を測る評価が、外部の評価者にも見える形で続くかを見ていきます(AIの第三者評価とは)。

関連する用語とレビュー

Anthropicが小さなAIの自己複製を検証(レビュー) / A2B攻撃とは / オープンウェイトとは / RSI(再帰的自己改善)とは / AI用語解説トップ