LLM駆動マルチロボットシステムにおける操作された主張による行動連鎖の封じ込め

- LLM-powered multi-robot systems における semantic manipulation への脆弱性を扱う研究。 - 偽の world-state claim が受理されると fleet-wide behavioral cascade が発生し、不要な replanning、path cost 増大、congestion、mission infeasibility を招く。 - 操作成功を前提に、影響が fleet 全体に伝播する前に封じ込める active verification framework を提案。 - 検証モジュールが Verify-Adapt-Hold plan を生成する。

- 従来は post-compromise verification を binary trust decision として扱う傾向。 - 本研究は team-level planning problem として定式化する点が異なる。 - これにより semantic manipulation の cascading physical consequences を効果的に制限できると主張。 - 具体的な先行研究名は要旨からは不明。

- 専用 verification module が structured Verify-Adapt-Hold plan を生成。 - selected robots が consequential regions を inspect する。 - limited subset が必要時に provisionally adapt する。 - 残りの robots は trusted plans を維持する。 - 操作成功を条件に、下流影響を fleet 全体に伝播する前に封じ込める。

- multi-robot transportation environment で評価。 - 異なる impacts と team sizes に対して injected false obstacle claims を用いる。 - 評価指標は cascade containment、Sum-of-Costs、makespan、coverage ratio。 - 結果、team-level planning problem として扱うことで cascading physical consequences を効果的に制限。

- post-compromise verification を binary trust decision ではなく team-level planning problem として扱うことの有効性を議論。 - 限界や制約、今後の課題については要旨からは不明。

- 要旨で参照/比較されている研究は明示されていない。 - 関連手法として LLM-powered multi-robot systems、semantic manipulation、active verification、multi-robot transportation などが挙げられる。 - 同分野の定番として multi-robot task allocation、multi-robot path planning、LLM-based robot planning が考えられる。