日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

週刊ニュースレター購読
マルチエージェントarXiv:2611.04315

スペクトル固定で長期マルチエージェントAIのドリフトを解消

Drift No More: Spectral Locking for Long-Horizon Open-Weight Multi-Agent AI

シェア:XThreadsFacebookLINEはてブBluesky

タスク・役割・状態の隠れ状態が共通の方向からずれることがドリフトの原因だと示し、生成前に隠れ状態を固有方向へ誘導する学習不要の手法ATLASを提案した。

詳しい要約

1. どんなもの?

- 長期的な multi-agent AI における task drift・role drift・state staleness の3つの失敗を扱う研究。 - これらが共通の表現上の原因(hidden state が task・role・shared state を符号化する方向から離れる)を持つと仮説立てし、検証する。 - その上で、token 生成前に hidden state を操作する training-free 介入 ATLAS を提案する。 - open-weight multi-agent システム向けの representation-level controller と位置づけられる。

2. 先行研究と比べてどこがすごい?

- 既存手法は3つの失敗を別々に扱い、surface-text レベルで動作したり制御方向を独立に扱うとされる。 - ATLAS は task・role・state の3 subspace を統合した anchor kernel で hidden state を誘導する点が異なる。 - prompting・retrieval・memory・activation-steering の baseline を複数タスクで上回ると報告。 - A-MEM に対し memory macro-average accuracy を最大 5.7 ポイント改善、write/read 失敗を最大 31.7%/24.8% 削減。 - MemoryArena-Agent に対し最大 4.8 ポイント改善、72B backbone へ転移(61.0 vs 56.2)。

3. 技術・手法の肝は?

- ATLAS(Algebraic Task-role Locking with Adaptive Spectral Memory)は training-free の介入。 - task・role・state の subspace 上に positive-semidefinite な anchor kernel を構築。 - hidden state を共有する high-coherence eigendirection へ steer する。 - low-rank Gram decomposition により計算を tractable に保つ。 - token 生成前の hidden state に対して作用する。

4. どうやって有効だと検証した?

- 14,832 annotated turns の pilot study で、drifted turn が3つの anchor subspace でほぼ一様に崩壊(pairwise r = 0.72-0.78)することを確認。 - long-horizon memory・state maintenance・tool use・least-privilege coordination・embodied stress test で評価。 - perturbation 下で 10.7-12.1 ポイント改善、role consistency 93.5% に到達。 - joint task-role-state span の ablation で 7.2 ポイント低下(matched-rank random span は 0.8)と報告。 - 同方向を prompt や retrieval で与えると 4.3 ポイント回復が劣ると報告。

5. 議論はある?

- 3つの失敗が共通の表現原因を持つという仮説を pilot study と ablation で支持。 - joint span の ablation が random span より大きく性能を落とすことから、方向が機能的に関与すると主張。 - prompt/retrieval で同方向を供給しても回復が劣る点を、表現レベル制御の必要性の根拠とする。 - open-weight agent 向けであり、black-box agent の output-level protocol とは相補的と位置づける。 - 限界や反証については要旨からは不明。

6. 次に読むべき論文は?

- A-MEM(memory baseline) - MemoryArena-Agent(比較対象) - activation-steering 系の手法 - prompting・retrieval・memory 系 baseline - black-box agent 向け output-level protocol 関連研究

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Vishal Pramanik, Maisha Maliha, Susmit Jha, Sumit Kumar Jha

分類: cs.AI, cs.MA

原文アブストラクト

Long-horizon multi-agent systems suffer from three tightly coupled failures: task drift, role drift, and state staleness. We test the hypothesis that these share a common representational cause: agent hidden states move away from the directions encoding the active task, assigned role, and current shared state. A pilot study over 14,832 annotated turns supports this: drifted turns collapse near-uniformly across all three anchor subspaces (pairwise r = 0.72-0.78). Existing methods address these failures separately, operating at the surface-text level or treating control directions independently. We introduce ATLAS (Algebraic Task-role Locking with Adaptive Spectral Memory), a training-free intervention acting on hidden states before a token is generated. ATLAS builds a positive-semidefinite anchor kernel over task, role, and state subspaces and steers hidden states toward their shared high-coherence eigendirections; a low-rank Gram decomposition keeps this tractable. Across long-horizon memory, state maintenance, tool use, least-privilege coordination, and embodied stress tests, ATLAS outperforms prompting, retrieval, memory, and activation-steering baselines. Against A-MEM it improves memory macro-average accuracy by up to 5.7 points and reduces write/read failures by up to 31.7%/24.8%; against MemoryArena-Agent it gains up to 4.8 points. It gains 10.7-12.1 points under perturbation, reaches 93.5% role consistency, and transfers to a 72B backbone (macro-average 61.0 vs. 56.2). Ablating the joint task-role-state span costs 7.2 points against 0.8 for a matched-rank random span, indicating these directions are functionally implicated, not incidental; supplying them by prompt or retrieval recovers 4.3 points less. ATLAS is therefore a representation-level controller for open-weight multi-agent systems, complementary to output-level protocols for black-box agents.

関連論文

PR本紙発行元 EmplifAI