日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

週刊ニュースレター購読
VLAarXiv:2610.21915

ロボット政策は何を予測すべきか？視覚-言語-行動学習における監督目標の再考

What Should Robot Policies Learn to Predict? Rethinking Supervision Targets in Vision-Language-Action Learning

シェア:XThreadsFacebookLINEはてブBluesky

VLA政策の学習で、行動予測だけでなく潜在行動や未来視覚の予測に訓練サンプルを配分すると、同じ予算でも性能が向上することを示し、予測対象の違いが何を学ぶかに影響することを分析した。

詳しい要約

1. どんなもの？

- Vision-Language-Action (VLA) ポリシーの学習において、action prediction を主監督信号とするのが通例。 - 補助目的として latent-action (LA) や future-vision (FV) 予測が追加されるが、同じ training budget を奪い合う。 - 固定 budget 下で、action prediction ではなく補助目的に訓練サンプルを多く割り当てるとポリシー学習が改善するかを問う。 - 二流マルチモーダル diffusion transformer (MMDiT) と sample-level router を組み合わせた統一 VLA フレームワークを構築。 - 各訓練サンプルを action prediction か補助目的のどちらかに割り当て、監督配分を明示的に扱う。

2. 先行研究と比べてどこがすごい？

- 従来は action prediction が主監督で、LA や FV は補助的に追加されることが多かった。 - 本研究は固定 budget 下で補助目的への配分を明示的に設計変数として扱う点が新しい。 - action prediction が訓練サンプルの半分以下でも、適切な LA/FV 監督が action-only 訓練を上回ることを示す。 - FV が一般に LA を上回るが、最強の LA target は CALVIN で競争力がある。 - 何を予測させるか、訓練をどう配分するかをデフォルトではなく明示的な設計選択と主張。

3. 技術・手法の肝は？

- 二流マルチモーダル diffusion transformer (MMDiT) と sample-level router を結合した統一 VLA フレームワーク。 - router が各訓練サンプルを action prediction か補助目的に割り当て、監督配分を明示化。 - LA target は LAPA とその DINO-feature 変種に基づき3種類を実装。 - FV target は DINOv3、V-JEPA 2、Wan2.2 の表現に基づき3種類を実装。 - 固定 budget 下で action-only 訓練と比較可能な設計。

4. どうやって有効だと検証した？

- LIBERO、CALVIN、および4つの real-robot タスクで評価。 - 適切な LA および FV 監督が、同じ budget 下で action-only 訓練を上回ることを確認。 - action prediction が訓練サンプルの半分以下でも性能向上を確認。 - FV が一般に LA を上回るが、最強の LA target は CALVIN で競争力があることを示す。 - 診断分析により、DINO ベース LA target は相対運動、FV target は絶対位置とタスク同一性を強調する傾向を示唆。

5. 議論はある？

- ロボットポリシーが何を予測すべきか、訓練をどう配分するかは明示的な設計選択とすべき。 - action-dominant 訓練をデフォルトとすることへの再考を促す。 - LA と FV の特性差（相対運動 vs 絶対位置・タスク同一性）が性能差に関与する可能性。 - ただし要旨からは、具体的な限界や失敗事例、計算コストの詳細は不明。 - 一般化可能性や他タスクへの適用範囲についての議論は要旨からは不明。

6. 次に読むべき論文は？

- LAPA（LA target の基盤） - DINO-feature variants（LA target の変種） - DINOv3（FV target の表現） - V-JEPA 2（FV target の表現） - Wan2.2（FV target の表現） - 関連ベンチマーク: LIBERO、CALVIN - 同分野の定番として Vision-Language-Action (VLA) ポリシー学習、diffusion transformer ベースのロボット学習

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Haitao Shen, Hanyu Liu, Yihan Lin, Huiping Liu, Junbo Cui, Daoheng Li, Yang Li, Jing Zhang, Wenxin Li, Yuan Yao

分類: cs.RO

原文アブストラクト

Vision-language-action (VLA) policies are typically trained with action prediction as the primary supervision signal, since robots ultimately execute actions. Auxiliary objectives such as latent-action (LA) and future-vision (FV) prediction are often added to improve policy learning, yet they compete with action prediction for the same training budget. We ask whether, under a fixed budget, allocating a substantial share of training samples to such objectives, rather than to further action prediction, can improve policy learning. We build a unified VLA framework that couples a two-stream multimodal diffusion transformer (MMDiT) with a sample-level router, which assigns each training sample to either action prediction or an auxiliary objective and thus makes supervision allocation explicit. Within this framework, we instantiate three LA targets based on LAPA and its DINO-feature variants, and three FV targets based on DINOv3, V-JEPA 2, and Wan2.2 representations. Across LIBERO, CALVIN, and four real-robot tasks, suitable LA and FV supervision outperforms action-only training under the same budget, even when action prediction receives no more than half of the training samples. FV generally outperforms LA, although the strongest LA target remains competitive on CALVIN. Diagnostic analyses suggest that DINO-based LA targets emphasize relative motion, whereas FV targets emphasize absolute position and task identity. We therefore argue that what robot policies learn to predict, and how training is allocated among these targets, should be treated as explicit design choices rather than defaulting to action-dominant training.

arXivで原文を読む →arXiv概要ページ

関連論文

← 論文一覧
PR本紙発行元 EmplifAI