VLA2026/8/27arXiv:2608.27550v1

データスケーリングを超えて：視覚言語行動モデルのための表現中心の継続事前学習

Beyond Data Scaling: Representation-Centric Continued Pre-training for Vision-Language-Action Models

ロボットデータの不足を補うため、多様なロボットデータでVLMバックボーンを継続事前学習し、下流タスクの性能を向上させるVLActを提案した。

詳しい要約

1. どんなもの？

本論文は、Vision-Language-Action (VLA) モデルの性能向上を、ロボットデータのスケーリングではなく、表現学習に焦点を当てた継続事前学習（continued pre-training）によって達成する手法 VLAct を提案する。VLAct は、多様なロボットデータで VLM バックボーンを事前学習し、タスク固有のファインチューニング前に、視覚・行動の共有表現を獲得する。

2. 先行研究と比べてどこがすごい？

従来の VLA モデルは、大規模なロボットデータの収集とスケーリングに依存していたが、ロボットデータはコストが高く、物理世界をまばらにしかカバーしないため、データスケーリングには限界がある。VLAct は、固定のロボットデータ予算の下で、表現品質を向上させることに焦点を当て、限られた軌道データから転移可能な視覚・行動知識を引き出す点が新しい。

3. 技術・手法の肝は？

VLAct の技術的な肝は、VLM の事前知識を保持しつつ、複数の embodiment にわたる行動意味論を共有するための3つの要素である。(1) VLM-prior preservation: 元の VLM の知識を壊さないように学習する。(2) multi-head continuous action co-supervision: 複数の行動ヘッドで連続行動を共同で教師あり学習する。(3) partially unified cross-embodiment action layout: 異なる embodiment 間で行動表現の一部を統一する。ファインチューニング時にはタスク固有の行動ヘッドを許容する。

4. どうやって有効だと検証した？

シミュレーション、実世界、未見の embodiment への転移を含む複数のベンチマークで検証した。LIBERO-Plus と RoboTwin 2.0 では、ABot-M0 や LingBot-VLA などの産業用 VLA システムを上回り、成功率 82.6% と 92.5% を達成。RoboDojo では成功率で全ポリシー中6位、World-Action Model (WAM) エントリを上回った。未見の humanoid embodiment である RoboCasa-GR1 では、20% のデータで GR00T-N1.6 のフルデータベースラインを上回った。

5. 議論はある？

要旨からは、VLAct の限界や潜在的な欠点についての議論は不明。ただし、データスケーリングに依存しない表現中心のアプローチが、計算資源が限られた環境でも競争力のある性能を発揮できることを示しており、VLA の進歩における独立した軸として重要であると主張している。

6. 次に読むべき論文は？

要旨で参照されている関連研究として、ABot-M0、LingBot-VLA、GR00T-N1.6、World-Action Model (WAM) が挙げられる。また、VLA モデルの一般的なベースラインとして、RT-2 や OpenVLA などの既存の VLA モデルも関連する。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Senqiao Yang, Chengyao Wang, Yuxin Chen, Zixuan Wang, Longxiang Tang, Haokun Gui, Jinhui Ye, Changsheng Lu, Xiaoyang Wu, Mingkang Zhu, Pengguang Chen, Shu Liu, Zhuotao Tian, Hengshuang Zhao, Bei Yu, Jiaya Jia

分類: cs.RO, cs.CV

原文アブストラクト

Scaling robot data is crucial for building generalist Vision-Language-Action (VLA) models, yet robot trajectories are harder to scale than web-scale image-text data because embodied collection is costly and sparsely covers the physical world. This makes representation quality a central bottleneck: under a fixed robot-data budget, continued pre-training must turn limited trajectories into transferable visual-action knowledge rather than merely fit actions. We propose VLAct, a VLA-oriented VLM backbone trained on broad, heterogeneous, multi-embodiment robot data before task-specific fine-tuning. VLAct preserves the broad VLM prior and encourages shared action semantics across embodiments through VLM-prior preservation, multi-head continuous action co-supervision, and a partially unified cross-embodiment action layout, while allowing task-specific action heads during fine-tuning. Across simulation, real-world, and unseen-embodiment transfer, VLAct consistently improves downstream performance under fixed fine-tuning protocols. On LIBERO-Plus and RoboTwin 2.0, VLAct surpasses industrial VLA systems including ABot-M0 and LingBot-VLA, achieving success rates of 82.6% and 92.5%. On RoboDojo, VLAct ranks sixth among all policies by success rate and outperforms all explicitly designated world-action model (WAM) entries on both metrics. Most notably, on RoboCasa-GR1, an unseen humanoid embodiment, VLAct using only 20% of downstream trajectories outperforms the full-data GR00T-N1.6 baseline. These results are obtained using fully open-source data and only a 16-GPU training setup, showing that representation-centric continued pre-training can deliver highly competitive performance under a modest compute budget and is an important independent axis of VLA progress beyond data scaling.

arXivで原文を読む →arXiv概要ページ