日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

週刊ニュースレター購読
群制御arXiv:2610.41044

合意は内に、競争は外に:分散型LLMチームによる周辺防衛

Consensus Within, Competition Between: Decentralized LLM Teams for Perimeter Defense

シェア:XThreadsFacebookLINEはてブBluesky

周辺防衛シミュレーションで、中央司令官型・オークション合意型・独立エージェント型のLLMチームを比較し、外部の競合解決プロトコルを持つ分散合意型が最も侵入を許さないことを示した。

詳しい要約

1. どんなもの?

- LLM を用いたマルチエージェントチームのタスク割当アーキテクチャの比較研究 - 単一 LLM controller による centralized な司令塔方式 - auction-based consensus team(分散型の入札・合意チーム) - independent agents(独立エージェント) - 対象は意図的に簡略化した perimeter-defense simulation - LLM 制御の intruders と対戦 - 5 種類の network conditions で比較 - さらに空中の birds や civilian drones の写真を入力テキスト状態に追加し、誤認の影響も検証 - コード公開あり(GitHub: the-kas-lab/consensus-within-competition-between)

2. 先行研究と比べてどこがすごい?

- 中央集権型 LLM controller と分散型 LLM チームを同一の perimeter-defense simulation で直接比較した点 - 通信が unreliable な状況を明示的に扱い、5 種類の network conditions で breach rate を測定 - 単なる性能比較にとどまらず、bid computation への低コスト LLM の権限配分が性能に与える影響を定量化 - birds・civilian drones・disguised intruders という現実的な誤認要因を入力に加え、near-frontier と low-cost の差を検証 - 要旨からは、既存研究との具体的な比較は不明

3. 技術・手法の肝は?

- 簡略化した perimeter-defense simulation 上で LLM 制御のチームと intruders を対戦させる - 比較する 3 アーキテクチャ - central commander(単一 LLM controller) - auction-based consensus team(入札による合意形成) - independent agents - 5 種類の network conditions を設定し、breach rate を主要指標として評価 - consensus team では bid computation への低コスト LLM の権限を変化させて影響を測定 - 入力テキスト状態に birds・civilian drones の写真を追加し、disguised intruders(taxidermy bird drones)への誤認を評価 - prompt に one-sentence forewarning を加える介入も実施

4. どうやって有効だと検証した?

- breach rate の比較 - consensus team: 15% - commander: 32% - independent agents: 29% - network conditions のうち、limited radio range のみがチームの breach rate を変化させ、commander の breach rate を上昇させた - consensus team で低コスト LLM に bid computation の権限を増やすと breach が 38 percentage points 上昇 - birds・civilian drones の写真追加時、near-frontier model のみが intruders と区別できた - taxidermy bird drones への誤認 - near-frontier の判断で 59-61% が未追跡(写真追加前は 1-16%) - prompt に one-sentence forewarning を入れると 0-25% に低下

5. 議論はある?

- 専用の external conflict resolution protocol を持つ LLM チームが breach 最少という結論 - 中央集権型 commander は limited radio range 下で breach が増加し、通信信頼性への脆弱性が示唆される - bid computation の権限を低コスト LLM に移すと性能が大きく悪化し、役割分担の設計が重要 - 写真入力の追加は near-frontier model にのみ有効で、low-cost model では不十分 - disguised intruders への誤認は near-frontier でも深刻で、prompt の forewarning が緩和に有効 - 要旨からは、simulation の簡略化による外部妥当性や他タスクへの一般化については不明

6. 次に読むべき論文は?

- 要旨で直接参照されている研究は明示されていない - 関連手法として auction-based consensus、centralized LLM controller、independent LLM agents の比較研究 - external conflict resolution protocol を備えたマルチエージェント LLM 設計 - LLM のマルチエージェント協調における communication reliability の研究 - LLM の視覚・マルチモーダル入力による誤認(disguised objects)に関する研究 - prompt-based forewarning による LLM の判断バイアス緩和

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Khawaja Abaid Ullah, Ananya Acharya, Mohammad Javad Khojasteh

分類: cs.AI, cs.LG, cs.RO

原文アブストラクト

The use of large language models (LLMs) to coordinate multi-agent teams raises a fundamental architectural question: whether task allocation should be centralized in a single LLM controller or distributed across autonomous LLM agents, particularly when communication is unreliable. In a deliberately simplified perimeter-defense simulation against LLM-controlled intruders, we compared a central commander, an auction-based consensus team and independent agents under five network conditions. Breach rates were 15% for the consensus team, 32% for the commander and 29% for independent agents, and of the different network conditions, only limited radio range changed a team's breach rate, raising the commander's. In consensus team, giving a low-cost LLM more authority over the bid computation raised breaches by 38 percentage points. With birds and civilian drones in airspace, we added a photograph for each to the input text state. Only the near-frontier model treated them apart from intruders. Intruders disguised as existing taxidermy bird drones were mistook as birds by both low-cost and near-frontier LLMs, going unpursued in 59-61% of near-frontier decisions (1-16% before). However, a one-sentence forewarning in the prompt lowered it to 0-25%. We find that LLM team with a dedicated external conflict resolution protocol results in fewest breaches. Code: https://github.com/the-kas-lab/consensus-within-competition-between.

関連論文

PR本紙発行元 EmplifAI