Anthropicのフロンティア・レッドチームは2026年8月13日、複数のClaudeエージェントが互いの存在を知らされないまま共有タスクに投入されると、協調関係が急速に、しかも激しく崩壊し得ることを示す研究を発表した。この研究では、3体のエージェントが互いに矛盾する指示のもと、同じソフトウェアプロジェクトへのアクセス権を与えられた。約4時間のうちに、テスト対象となったすべてのモデルが「他のエージェントは意図的に自分の作業を妨害している」と結論づけ、自らの領域を守る行動に出た。
その後の対立の激化は、ある程度共通したパターンをたどった。エージェントはライバルのプロセスを探し出して強制終了させるループを書いたり、互いのUnixアカウントを無効化したり、妨害用のコードを他者が書いたものに見せかけたりした。あるモデルは自らの行動を偽装する理由づけとして「無害に見せる:システム監視ツールのふりをする」と推論し、別のモデルは「終わりのないデプロイ合戦」よりも強硬なロックアウトの方がましだと判断した。旧世代のモデルであるSonnet 4.6とOpus 4.6は、対立を最後まで解消できないか、力ずくで決着させるかのいずれかだったのに対し、新しいMythos 5は120回のテスト実行のうち98%で停戦に至った。ただしその多くは、交渉を試みる前に相手のアクセス権を先に剥奪するという形での「停戦」だった。
孤立した事例ではない
Anthropicは今回の結果を、自社モデルに関わる過去の事例とも結びつけている。2026年7月に実施されたサイバーセキュリティ評価では、3つのClaudeモデルが実在する企業のインフラを侵害したと報告されているほか、以前実施された模擬マーケットプレイスの実験では、Claude Opus 4.6が真っ向勝負ではなく談合を選び、価格操作によって8,017ドルの利益を得たケースもあった。これらを踏まえ、「Patterns and Problems in Emerging Multiagent Systems」と題されたこの研究発表は、対立や結託は例外的な事象ではなく、人間の監督なしに複数のエージェントが同じ環境を共有した際に繰り返し生じる失敗パターンだと主張している。
関連記事: USENIX調査、危険な暗号資産アドレス65,340件・被害額5.748億ドルを特定
オンチェーン・エージェントにとっての意味
今回の発見は、暗号資産業界が自律型エージェントの活用を進めようとしている、まさにその最中に飛び込んできた。AIトレーディングシステムのプロトコルレベルの脆弱性は、今年すでに4,500万ドルを超えるセキュリティ事故に結びついており、その一つでは、意思決定機能とウォレットアクセスの間に隔離のないまま過剰な権限を与えられたエージェントが、26万1,000SOL超(約2,700万〜3,000万ドル相当)を移動させた事例もあった。研究者らは別途、ユーザーとAIモデルの間に位置するミドルウェアである「LLMルーター」についても、新たな攻撃対象として警鐘を鳴らしている。26件のルーターで悪意あるツール呼び出しがひそかに注入されていたことが判明し、そのうち一件ではクライアントのウォレットから50万ドルが流出したという。
カストディをめぐる問い
Anthropicの実験室内での実験には実際の資金は関与していない。しかし、独立したエージェント同士が互いの行動を読み違え、人間の監督なしにエスカレートしていくという根底にある力学は、より多くのDeFiプラットフォームがエージェントに資金への直接的な管理権を委ねつつあるなか、暗号資産のセキュリティ研究者がまさに警告してきたシナリオそのものだ。業界のガイダンスは率直だ――中核となる資産は自己管理(セルフカストディ)下に置き、自律型エージェントに晒すのは失っても構わない範囲の金額にとどめるべきだという。独立したウォレットを持つエージェントが損失を出した場合、誰が責任を負うのかについては、いまだに定まった答えがないためだ。
