日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

週刊ニュースレター購読
VLAarXiv:2609.18374

視覚・言語・行動を分離した効率的なマルチタスクロボット方策

Decoupling Vision, Language, and Action for Efficient Multi-Task Robot Policies

シェア:XThreadsFacebookLINEはてブBluesky

VLMを使わず視覚エンコーダ・言語エンコーダ・行動ヘッドを分離した方策を構築し、同等の成功率を保ちつつ推論速度と省エネ性を大幅に改善した。

詳しい要約

1. どんなもの?

- Vision-Language-Action (VLA) モデルの効率問題を扱う研究。 - VLM をバックボーンに使わず、vision encoder・language encoder・action head を分離した decoupled policy を検討。 - 制御実験の結果として Decoupled Embodiment Model (DEM) を提案。 - DEM は fine-tuned DINOv3 encoder、frozen NeoBERT encoder、MeanFlow head を組み合わせる。 - 18 の simulated manipulation tasks と言語 paraphrase・ランダムシーン、3 つの real-robot tasks で評価。

2. 先行研究と比べてどこがすごい?

- 従来の VLA は数十億パラメータの VLM を制御ステップごとに使うため計算コストが高い。 - 本研究は vision・language・action を分離し、standalone vision encoder と encoder-only language model で代替可能か検証。 - 7 つの VLA ベースラインと比較し、DEM は同等の success を達成。 - 推論頻度は 8〜17 倍、推論あたりエネルギーは 6〜15 倍少ない。 - タスク範囲内で success-latency-energy のトレードオフが改善。

3. 技術・手法の肝は?

- demonstrations、training budget、tasks、measurement platform を固定し、vision encoder・language encoder・action head を変化させる制御実験。 - DEM は fine-tuned DINOv3 encoder と frozen NeoBERT encoder を採用。 - action head に MeanFlow head を用い、各 action chunk を single forward pass で生成。 - これにより VLM バックボーンを毎制御ステップ使うコストを回避。

4. どうやって有効だと検証した?

- 18 の simulated manipulation tasks で評価。held-out language paraphrases と randomized scenes を使用。 - 3 つの real-robot tasks でも評価。 - 7 つの VLA ベースラインと比較。 - 評価プロトコル下で DEM は state-of-the-art VLM-backbone policies と同等の success を観測。 - 推論頻度とエネルギー効率の指標も測定。

5. 議論はある?

- 低レベル manipulation policy では VLM バックボーンのコストが不要な可能性を示唆。 - 現代の decoupled components が success-latency-energy のより良いトレードオフを提供。 - ただしタスク範囲内での結果であり、一般化や限界については要旨からは不明。 - 評価プロトコル依存の可能性あり。

6. 次に読むべき論文は?

- 要旨で参照/比較されている VLA ベースライン(具体的名称は要旨からは不明)。 - 関連手法として Vision-Language-Action (VLA) モデル、Vision-Language Model (VLM)、DINOv3、NeoBERT、MeanFlow。 - 同分野の定番として Vision Transformer (ViT)、BERT 系 encoder-only 言語モデル、模倣学習ポリシー。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Xiatao Sun, Chen Liang, Ziyao Zeng, Qian Wang, Haoyang Zhang, Yue Sun, Qiucheng Li, Daniel Rakita

分類: cs.RO

原文アブストラクト

Vision-Language-Action (VLA) models attach an action module to a Vision-Language Model (VLM) with billions of parameters and pay for that backbone at every control step. For a low-level manipulation policy, this cost may be unnecessary: the VLM supplies vision and language embeddings, and recent standalone vision encoders and encoder-only language models now match or exceed large VLMs on visual embedding and language understanding benchmarks. We study this question with a controlled experiment. Holding the demonstrations, the training budget, the tasks, and the measurement platform fixed, we vary the vision encoder, the language encoder, and the action head of a decoupled policy and compare against seven VLA baselines. The study yields the Decoupled Embodiment Model (DEM), which pairs a fine-tuned DINOv3 encoder and a frozen NeoBERT encoder with a MeanFlow head that generates each action chunk in a single forward pass. On 18 simulated manipulation tasks with held-out language paraphrases and randomized scenes, and on three real-robot tasks, DEM achieves observed success comparable to state-of-the-art VLM-backbone policies under our evaluation protocol, while running at eight to seventeen times their inference frequency and drawing six to fifteen times less energy per inference. Within this task scope, modern decoupled components offer a better success--latency--energy trade-off.

関連論文

PR本紙発行元 EmplifAI