日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

週刊ニュースレター購読
VLAarXiv:2610.18869

品質を考慮したVLA事前学習で重要な要素は何か:ベンチマークと実証研究

What Matters in Quality-Aware VLA Pretraining: A Benchmark and Empirical Study

シェア:XThreadsFacebookLINEはてブBluesky

VLA事前学習におけるデモ品質の活用法(重み付け・フィルタリング・条件付け)を比較し、品質タグの役割を検証するAXIS-Benchを提案。実世界実験で成功率が9.6%から31.7%に向上。

詳しい要約

1. どんなもの?

- VLA pretraining における demonstration quality の活用方法を比較する benchmark と empirical study。 - 5,000 の自然に suboptimal な human demonstrations と 24 の target tasks を使用。 - weighting, filtering, conditioning を reward definitions と label granularities を変えて比較。 - AXIS-Bench を導入し、crowdsourced simulation demonstrations を基盤とする。 - object と contact states を記録し、共有 trajectory 上で quality labels を再計算可能。 - replayable trajectories により workspace-aligned rendering と user-defined real-world target tasks を支援。

2. 先行研究と比べてどこがすごい?

- 従来の VLA pretraining では demonstration quality の扱いが不明確だった。 - 本研究は weighting, filtering, conditioning を同一条件下で体系的に比較。 - 各 VLA 内で demonstrations と training budgets を一致させ、制御された比較を実現。 - 3 つの VLA で approach-aware episode conditioning が plain behavioral cloning より平均 success を改善。 - conditioning と filtering はそれぞれ episode と chunk labels を平均的に好むが、model-dependent reversals がある。 - constant-tag fine-tuning が conditioned pretraining 後の平均 success を改善。 - AXIS-Bench は quality labels の再計算と real-world target tasks…

3. 技術・手法の肝は?

- 5,000 の suboptimal human demonstrations と 24 target tasks を用意。 - weighting, filtering, conditioning の 3 手法を reward definitions と label granularities で比較。 - 各 VLA 内で demonstrations と training budgets をマッチさせる。 - pretraining data size と quality tags の fine-tuning/inference での役割も検討。 - AXIS-Bench は crowdsourced simulation demonstrations を基盤。 - object と contact states を記録し、共有 trajectory 上で quality labels を再計算。 - replayable trajectories で workspace-aligned rendering と user-defined real-world target t…

4. どうやって有効だと検証した?

- 3 つの VLA で比較実験を実施。 - approach-aware episode conditioning が plain behavioral cloning より平均 success を改善することを確認。 - conditioning と filtering の label granularity 選好を平均で評価。 - constant-tag fine-tuning の効果を conditioned pretraining 後に検証。 - real-world experiment で simulation pretraining が success を 9.6% から 31.7% に向上。 - AXIS-Bench を用いた制御比較を実施。

5. 議論はある?

- conditioning と filtering の label granularity 選好に model-dependent reversals がある。 - constant-tag fine-tuning は conditioned pretraining 後に有効だが、tagged/untagged inference いずれでも改善。 - pretraining data size と quality tags の役割について追加比較を実施。 - 要旨からは、限界や未解決の議論は明示されていない。

6. 次に読むべき論文は?

- 要旨で参照/比較されている研究は明示されていない。 - 関連手法として behavioral cloning, VLA pretraining, weighting, filtering, conditioning が挙げられる。 - 同分野の定番として vision-language-action (VLA) models, imitation learning, reinforcement learning from human feedback などが考えられるが、要旨に直接の参照はない。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Mingxuan Yan, Litian Gong, Dihong Huang, Zhixu Li, Tianyu Zhang, Wenqian Zhang, Hefeifei Jiang, Peihao Li, Jian Zhang, Mengfei Zhao, Yikai Tang, Hai Zhai, Zehao Wang, Ruijian Liang, Yanjia Huang, Lin Shao, Changliu Liu, Kaiyu Hang, Zhiwen Fan, Masayoshi Tomizuka, Jianfei Yang, Jiachen Li

分類: cs.RO, cs.AI, cs.LG

原文アブストラクト

How should demonstration quality be used during vision-language-action (VLA) pretraining to improve performance after target-task fine-tuning? We compare weighting, filtering, and conditioning across reward definitions and label granularities using 5,000 naturally suboptimal human demonstrations and 24 target tasks. Within each VLA, we match demonstrations and training budgets. Additional comparisons examine pretraining data size and the roles of quality tags during fine-tuning and inference. Across three VLAs, we find that approach-aware episode conditioning improves mean success over plain behavioral cloning; conditioning and filtering favor episode and chunk labels, respectively, on average, with model-dependent reversals; and constant-tag fine-tuning improves mean success after conditioned pretraining with either tagged or untagged inference. We introduce AXIS-Bench to support these controlled comparisons. Built on crowdsourced simulation demonstrations, it provides recorded object and contact states for recomputing quality labels on shared trajectories. Replayable trajectories support workspace-aligned rendering and user-defined real-world target tasks. In our real-world experiment, simulation pretraining raises success from 9.6\% to 31.7\%. Project page: https://axis-bench.github.io/.

関連論文

PR本紙発行元 EmplifAI