VLA2026/8/27arXiv:2608.27384

FlashVLA: 高速かつ非同期なVLA推論のためのストリーミング行動デコード

FlashVLA: Streaming Action Decoding for Fast and Asynchronous VLA Inference

VLAモデルの推論遅延と非同期実行の不安定さを解決するため、ストリーミング行動バッファとチャンク単位の因果注意を用いたフレームワークを提案し、単一GPUで30Hz以上の制御周波数を実現した。

詳しい要約

1. どんなもの？

FlashVLAは、Vision-Language-Action (VLA)モデルの推論レイテンシを低減し、非同期実行を安定化するためのストリーミング行動デコードフレームワークである。特にflow-matchingベースのVLAモデルにおいて、複数回の反復ステップを要する行動デコードを効率化する。FlashVLAは、異なるノイズレベルの複数チャンクを持つストリーミング行動バッファを維持し、チャンク単位のcausal attentionでデコードすることで、1推論ステップあたり1つの実行可能な行動チャンクを生成する。これにより、単一GPU上で30Hz以上の制御周波数を実現し、滑らかな非同期推論を可能にする。

2. 先行研究と比べてどこがすごい？

既存の効率的推論手法は制御周波数を向上させるが、非同期実行の精度や時間的一貫性を十分に考慮していない。また、非同期手法は実行アイドル時間を削減するが、低レイテンシ推論と正確な非同期実行を同時に達成できない。FlashVLAは、ストリーミング行動デコードとチャンク単位の自己回帰定式化を統合し、低レイテンシ推論と滑らかな非同期実行を同時に実現する点が新しい。特に、追加の将来状態条件付けなしで行動の連続性を暗黙的に保持する点が優れている。

3. 技術・手法の肝は？

FlashVLAは、異なるノイズレベルを持つ複数の行動チャンクを保持するストリーミング行動バッファを導入する。各推論ステップでは、チャンク単位のcausal attentionを用いて、現在のチャンクをデコードし、実行可能な行動チャンクを1つ生成する。このチャンク単位の自己回帰定式化により、行動の連続性が暗黙的に保たれ、非同期実行が滑らかになる。また、flow-matchingの反復ステップを効率化し、推論速度を向上させる。

4. どうやって有効だと検証した？

広範なシミュレーションおよび実世界実験を通じて、FlashVLAの有効性を検証した。具体的には、推論速度の大幅な向上とタスク性能の維持を確認し、単一GPU上で30Hz以上の制御周波数と滑らかな非同期推論を実現した。

5. 議論はある？

要旨からは、FlashVLAの限界や潜在的な欠点についての議論は不明である。ただし、非同期実行における時間的一貫性の維持や、複数チャンクのバッファ管理の複雑さなどが課題となる可能性が考えられるが、要旨には明記されていない。

6. 次に読むべき論文は？

要旨で参照されている関連研究として、効率的推論手法（例：推論最適化）や非同期実行手法（例：非同期制御）が挙げられる。また、flow-matchingベースのVLAモデル（例：Flow Matching for VLA）や、VLAモデルの一般的手法（例：Vision-Language-Action models）に関する論文が関連する。具体的な論文名は要旨に明記されていないため、同分野の定番として、RT-2やOpenVLAなどのVLAモデル、およびflow matchingに関する論文が次に読むべき候補となる。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Zekai Li, Jiaming Tang, Zhijian Liu

分類: cs.RO

原文アブストラクト

Vision-Language-Action (VLA) models are increasingly promising for robotic manipulation, yet their real-world deployment remains bottlenecked by high inference latency and unstable asynchronous execution. This challenge is particularly pronounced in flow-matching-based VLA models, where action decoding requires multiple iterative steps conditioned on the VLM context. While efficient inference methods improve control frequency and asynchronous methods reduce execution idle time, existing approaches often fail to jointly achieve low-latency inference and accurate, temporally consistent asynchronous execution. We introduce \textbf{FlashVLA}, a streaming action decoding framework that addresses both challenges in a unified formulation. FlashVLA maintains a streaming action buffer with multiple chunks at different noise levels and decodes them using chunk-wise causal attention. This design allows FlashVLA to produce one executable action chunk per inference step. Moreover, its chunk-wise autoregressive formulation implicitly preserves action continuity, enabling smooth asynchronous execution without extra future-state conditioning. Across extensive simulated and real-world experiments, FlashVLA substantially improves inference speed while maintaining strong task performance. It can achieve $\geq$30\,Hz control frequency on a single GPU with smooth asynchronous inference in real-world deployment.

arXivで原文を読む →arXiv概要ページ