日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

週刊ニュースレター購読
VLA/サービングarXiv:2611.01404

エージェント型ロボット群の配信:ワークロード特性・KVキャッシュスラッシング・アドミッション制御

Serving Agentic Robot Fleets: Workload Characterization, KV-Cache Thrashing, and Admission Control

シェア:XThreadsFacebookLINEはてブBluesky

視覚言語ブレインとVLAポリシーを組み合わせたエージェントロボット群の配信を計測し、KVキャッシュの再プリフィルによるスラッシングとアクション期限の競合を明らかにして、静的エピソード上限によるアドミッション制御でスループットを改善した。

詳しい要約

1. どんなもの?

- Agentic robot の fleet を serving する際の計算資源問題を扱った計測・特性評価研究 - vision-language brain、tool-using harness、VLA policy の3層からなる agent を対象 - 2つの結合した制約に着目 - brain が長大化する KV cache 状態を繰り返し再訪する点 - VLA が厳しい制御 deadline 下で action chunk を実行する点 - LIBERO-PRO の 80 episodes を GPT-6-Astra、RPent、pi0.5 で生成し計測 - 1,862 brain turns、1,582 VLA inference chunks - H800 GPU 上で両層を profile し、vLLM serving engine で agent program を replay - 結論として capacity planning と admission の実務的原則を提示

2. 先行研究と比べてどこがすごい?

- 要旨からは不明 - 先行研究との直接比較は要旨に明示されていない - 本研究の特徴は brain 層と VLA 層の両方を同一 workload 上で計測し、結合制約として扱う点 - 具体的な既存手法名やベースラインとの差分は要旨からは不明

3. 技術・手法の肝は?

- 実 workload の生成と計測 - LIBERO-PRO の 80 episodes を GPT-6-Astra、RPent、pi0.5 で生成 - brain turns と VLA inference chunks を H800 GPU 上で profile - serving 評価 - 得られた agent program を vLLM serving engine 上で replay - concurrency を変化させて throughput を測定 - 介入手法 - 静的 active-episode cap による admission control を導入し効果を比較 - 分析の肝 - action deadline と brain KV residency の workload 依存のトレードオフを計測的に明らかにする点

4. どうやって有効だと検証した?

- H800 GPU 上での実測 profile と vLLM 上での replay により検証 - brain 層の観測 - brain context が 215k tokens に到達 - median Astra request が 7.78 s に対し環境 step 間 gap は 1.0 s - VLA 層の観測 - 0.25 s action-chunk deadline では 1 VLA GPU が 1 robot の 1% starvation target を満たす - 1.0 s deadline では測定容量が少なくとも 32 - brain replay の観測 - concurrency 20→32 で throughput が約 2.4→0.6 requests/s に低下 - repetitive prefill が generation を押し出す現象を確認 - admission control の効果 - 静的 active-episode cap で 2.24-2.25 requests/s に回復 - compl…

5. 議論はある?

- action deadline と brain KV residency の間の workload 依存のシフトを計測的に示す - repetitive prefill による KV-cache thrashing が generation を圧迫する問題を指摘 - 静的 active-episode cap が throughput 回復に有効であることを示す - 持続的な agentic robot fleet における capacity planning と admission の実務的原則を導出 - 個々の手法の限界や一般化可能性についての詳細は要旨からは不明

6. 次に読むべき論文は?

- GPT-6-Astra - RPent - pi0.5 - LIBERO-PRO - vLLM - VLA policy 関連の代表的研究 - KV cache / prefill 最適化に関する serving 研究

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Sida He

分類: cs.RO, cs.DC

原文アブストラクト

Agentic robots combine a vision-language brain, a tool-using harness, and a vision-language-action (VLA) policy. Serving a fleet of these agents introduces two coupled resource constraints: the brain repeatedly revisits long, growing key-value (KV) cache states, while the VLA executes action chunks under tight control deadlines. We characterize 80 LIBERO-PRO episodes generated by GPT-6-Astra, RPent, and pi0.5 (1,862 brain turns and 1,582 VLA inference chunks), profile both layers on H800 graphics processing units (GPUs), and replay the resulting agent programs on a vLLM serving engine. Brain contexts reach 215k tokens; the median Astra request takes 7.78 s, while the intervening environment-step gap is only 1.0 s. Under a 0.25 s action-chunk deadline, one VLA GPU meets the 1% starvation target for one robot; under a 1.0 s deadline, its measured capacity reaches at least 32. In sustained brain replay, increasing concurrency from 20 to 32 robots reduces throughput from about 2.4 to 0.6 requests/s as repetitive prefill displaces generation. A static active-episode cap restores 2.24-2.25 requests/s and raises completed trace-program throughput from 1.30 to 5.00-5.55 episodes/min. Our measurements expose the workload-dependent shift between action deadlines and brain KV residency, and establish practical principles for capacity planning and admission in sustained agentic robot fleets.

PR本紙発行元 EmplifAI