日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

週刊ニュースレター購読
VLAarXiv:2609.29382

フローマッチングVLAにおけるタスク依存計算配分のための分離型アーリーイグジット

Decoupled Early Exits for Task-Dependent Compute Allocation in Flow-Matching VLAs

シェア:XThreadsFacebookLINEはてブBluesky

フローマッチングVLAに軽量なExit Transformerを追加し、バックボーン・行動エキスパート・デノイジングの深さをタスクごとに調整可能にした。

詳しい要約

1. どんなもの？

- Flow-matching VLA の計算効率化フレームワーク - VLM backbone と action expert からなる VLA を対象 - backbone 深さ V、action expert 深さ A、denoising steps D を - 3つの同時設定可能な計算軸として扱う - 事前学習済み VLA に軽量 Exit Transformer (ET) を - backbone と action expert の中間層に付与 - タスク依存で最適な計算予算が異なることを示す

2. 先行研究と比べてどこがすごい？

- 既存手法は主に VLM backbone 層の early exit や - denoising steps の削減に限定 - action expert の深さは未変更のまま - 提案手法は backbone と action expert の両方の深さを - 同時に調整可能 - 追加パラメータは各 exit あたり - SmolVLA で 2.1%、π_{0.5} で 4.1% のみ - 元のポリシーをゼロから学習する必要がない

3. 技術・手法の肝は？

- 事前学習済み VLA に軽量 Exit Transformer (ET) を - backbone と action expert の中間深さに装着 - 各 exit は最終層のポリシーを蒸留するよう学習 - KV Cache synthesis 機構を導入 - スキップされた backbone 層の欠落した key/value を管理 - action expert が backbone より深く exit 可能に - V, A, D の3軸を jointly に設定可能

4. どうやって有効だと検証した？

- 2つの flow-matching VLA で検証 - SmolVLA, π_{0.5} - 2つのベンチマークで評価 - LIBERO, Meta-World - 結果 - V と A はそれぞれ FLOPs と latency を削減 - D は両方を改善 - 共同設定 (V,A,D) で latency 79.2% 削減 - FLOPs 31.8% 削減 - 平均成功率 5.6% 向上

5. 議論はある？

- 最適な計算予算はタスク依存 - 異なるタスクが異なる軸と深さから利益を得る - V と A の効果は相補的 - V は FLOPs 削減、A は latency 削減 - 限界や失敗ケース、一般化性については要旨からは不明

6. 次に読むべき論文は？

- SmolVLA - π_{0.5} - LIBERO - Meta-World - flow-matching VLA - early exit - KV Cache synthesis - Vision-Language-Action (VLA) モデル

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Riccardo Andrea Izzo, Rimvydas Rubavicius, Gianluca Bardaro, Subramanian Ramamoorthy, Matteo Matteucci, Alessandro Suglia

分類: cs.RO, cs.LG

原文アブストラクト

Flow-matching Vision-Language-Action (VLA) models have emerged as a potential solution for generalist robot control, designed by combining a pretrained Vision-Language Model (VLM) backbone with an action expert that generates continuous robot actions. While these models exhibit impressive capabilities, due to their very high number of parameters, their computational requirements are often prohibitive for robotics control. To mitigate these inefficiencies, existing methods predominantly skip VLM backbone layers with early exits or reduce denoising steps, while leaving action expert depth untouched. We propose a framework that exposes backbone depth $V$, action expert depth $A$, and denoising steps $D$ as three jointly configurable compute axes in a VLA. Starting from a pretrained VLA, we attach lightweight Exit Transformers (ET) at intermediate depths in both the backbone and the action expert, trained to distil the last layer of the policy into each exit. Furthermore, we introduce a KV Cache synthesis mechanism that manages the missing keys and values of the skipped backbone layers, allowing the action expert to exit deeper than the backbone. Finally, we show that the optimal compute budget is task-dependent, with different tasks benefiting from different axes and depths. Notably, our method does not require training the original policy from scratch, and for each exit, it increases the number of parameters by only $2.1\%$ for SmolVLA and $4.1\%$ for $π_{0.5}$. We validate our approach across two flow-matching VLAs (SmolVLA, $π_{0.5}$) and two benchmarks (LIBERO, Meta-World), revealing complementary effects: $V$ and $A$ respectively reduce FLOPs and latency, while $D$ improves both. Our joint configurations $(V,A,D)$ reduce latency by $79.2\%$ and computation (FLOPs) by $31.8\%$, while improving mean success rate by $5.6\%$.

arXivで原文を読む →arXiv概要ページ

関連論文

← 論文一覧
PR本紙発行元 EmplifAI