日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

週刊ニュースレター購読
VLAarXiv:2610.17922

WoVR+:幻覚に強い世界モデルによるVLAポリシーの強化学習最適化

WoVR+: World Model as Reliable Simulator for Versatile VLA Policy Optimization with RL

シェア:XThreadsFacebookLINEはてブBluesky

VLAモデルの強化学習において、幻覚を抑えた世界モデルをシミュレータとして用い、長期的タスクでも安定してポリシーを最適化する手法を提案。実機タスクの成功率を大幅に向上させた。

詳しい要約

1. どんなもの?

- VLA-RL における実機対話コスト削減のため、action-conditioned world model を reliable simulator として用いる WoVR+ を提案。 - WoVR の hallucination-aware WM-RL framework を拡張し、VLA interface に整合した world model を再設計。 - multi-view prediction と proprioceptive updates を提供しつつ hallucination を緩和。 - long-horizon タスク向けに stage-local imagined training を導入。 - RoboTwin と 6 実機タスクで SFT 比 success を改善。

2. 先行研究と比べてどこがすごい?

- 先行 WoVR の hallucination-aware WM-RL framework を拡張。 - 従来の action-conditioned world model は hallucination が policy optimization を誤導する問題があった。 - WoVR+ は VLA interface に整合した world model を再設計し、multi-view prediction と proprioceptive updates を実現。 - chunk-wise noise により flow-based policy exploration を保ちつつ action jitter を抑制。 - long-horizon タスクで stage-local imagined training を導入し、compounding rollout errors に対処。

3. 技術・手法の肝は?

- VLA-interface-aligned world model が multi-view prediction と proprioceptive updates を提供し hallucination を緩和。 - chunk-wise noise で flow-based policy の exploration を維持しつつ prediction を劣化させる action jitter を制限。 - long-horizon 向け stage-local imagined training は stage-entry resets、stage-specific rewards、local horizons、controllable sampling を組み合わせる。 - これにより生成 prefix を短縮し、stage 間の training バランスを取る。 - 学習環境と imagined interaction protocol を再設計。

4. どうやって有効だと検証した?

- RoboTwin と 6 実機タスクで SFT 比 success がそれぞれ 21.09%、16.7% 向上。 - long-horizon phone-packaging の success が 30% から 75% に上昇。 - 動画は https://youmo445.github.io/WoVR_Plus.github.io/ で公開。 - 具体的な評価プロトコルやベースラインの詳細は要旨からは不明。

5. 議論はある?

- world model の hallucination が policy optimization を誤導する点を課題として認識。 - VLA interface の拡張、long-horizon タスクにおける spatiotemporal および cross-modal consistency の課題を指摘。 - RL における exploration-reliability balance と compounding rollout errors も課題。 - これらの課題への対処法を提案しているが、限界や失敗事例の議論は要旨からは不明。

6. 次に読むべき論文は?

- WoVR(本論文が拡張する先行研究)。 - action-conditioned world model を用いた VLA-RL 関連研究。 - flow-based policy の exploration に関する研究。 - long-horizon タスク向けの stage-local training や imagined training の関連研究。 - 具体的な参照論文は要旨からは不明。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Shangqing Zhou, Zhennan Jiang, Ning Ma, Xin Fu, Yupeng Zheng, Shuai Tian, Huangrui Li, Jiahao Liu, Chao Yu, Zhongpu Xia, Haoran Li, Dongbin Zhao

分類: cs.RO

原文アブストラクト

Action-conditioned world models can reduce costly real-robot interaction in reinforcement learning for Vision-Language-Action models (VLA-RL), but hallucinations can mislead policy optimization. Extending them to richer VLA interfaces and long-horizon tasks raises challenges in spatiotemporal and cross-modal consistency, exploration-reliability balance in RL, and compounding rollout errors. We present WoVR+, extending WoVR's hallucination-aware WM-RL framework by redesigning the learned environment and imagined interaction protocol: A VLA-interface-aligned world model provides multi-view prediction and proprioceptive updates while mitigating hallucinations. Chunk-wise noise preserves flow-based policy exploration while limiting prediction-degrading action jitter. For long-horizon tasks, stage-local imagined training combines stage-entry resets, stage-specific rewards, local horizons, and controllable sampling to shorten generated prefixes and balance training across stages. WoVR+ improves success over SFT by 21.09% and 16.7% on RoboTwin and 6 real-robot tasks. Long-horizon phone-packaging success rises from 30% to 75%. Videos are available at https://youmo445.github.io/WoVR_Plus.github.io/.

関連論文

PR本紙発行元 EmplifAI