日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

週刊ニュースレター購読
VLAarXiv:2609.03681v1

WISE: ワールドモデル誘導による想像スケジューリングを用いた視覚言語行動モデルの効率的なポストトレーニング

WISE: World-model-guided Imagination Scheduling for Efficient Post-training of Vision-Language-Action Models

シェア:XThreadsFacebookLINEはてブBluesky

ロボット操作のポストトレーニングにおいて、ワールドモデルによる想像を必要な状態でのみ、信頼できる範囲で使用するフレームワークWISEを提案し、計算時間を約80%削減しつつ性能を向上させた。

詳しい要約

1. どんなもの?

WISEは、Vision-Language-Action (VLA)モデルのポストトレーニングを効率化するための統一フレームワーク。World modelを用いた想像(imagination)を、いつ・どのように使うかをスケジューリングし、実ロボット探索や高コストな実演データに頼らずにポリシーを改善する。

2. 先行研究と比べてどこがすごい?

従来のVLAポストトレーニングは、高価な専門家デモによる教師あり微調整や、高コストで不安定な実世界探索を伴う強化学習に依存していた。World modelを用いた手法もあったが、単に正確な予測をするだけで、想像をいつ使うか、どの範囲で信頼できるか、どうポリシー学習に変換するかが考慮されていなかった。WISEは、想像を価値のある状態で選択的に呼び出し、信頼できる地平線に制限し、信頼性の高い学習信号に変換する点が新しい。

3. 技術・手法の肝は?

WISEは、ポリシー改善中にworld modelの想像をいつ・どのように使うかを調整する。具体的には、(1) 相互作用に関連する状態でのみ想像を呼び出す選択的スケジューリング、(2) 誤差蓄積を防ぐための有界なマルチビュー・ロールアウト、(3) 進捗と完了信号を用いた候補未来の評価、(4) 実相互作用コンテキストから生成されたアクションを、相対的な結果を用いて改善する。

4. どうやって有効だと検証した?

π0とπ0.5の両モデルを用いて、多様な操作タスクで広範な実験を実施。完全な想像(full imagination)と比較してGPU計算時間を約80%削減しつつ、一貫した性能向上を確認。さらに、実世界評価では、多様な分布シフト下でのロバスト性と汎化の大幅な向上を示した。

5. 議論はある?

要旨からは、想像のスケジューリングが有効であることが示唆されるが、具体的な限界や、どのようなタスクで効果が薄いかなどの議論は不明。また、world model自体の精度や、想像の信頼性をどう保証するかについての詳細な分析は要旨には含まれていない。

6. 次に読むべき論文は?

要旨で参照されているのはπ0とπ0.5であり、これらはVLAモデルのベースライン。また、関連手法としてworld modelを用いた強化学習や、想像に基づくポリシー最適化が挙げられる。具体的には、'World Models'や'Imagination-Augmented Agents'、'Dreamer'などの研究が関連する。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Chenhao Zhang, Hanyu Zhao, Hang Cheng, Tengfei Pan, Long Zeng

分類: cs.RO

原文アブストラクト

Post-training VLA policies typically rely on supervised fine-tuning with costly expert demonstrations or reinforcement learning with expensive and potentially unstable real-world exploration. World models offer a promising alternative by evaluating candidate behaviors through imagined futures, yet effective post-training requires more than accurate prediction: imagination must be scheduled where it is useful, bounded within reliable horizons, and translated into trustworthy policy supervision. In robotic manipulation, the value of imagination varies substantially across execution stages, while extended rollouts can accumulate prediction errors and introduce unreliable learning signals. We introduce WISE (World-model-guided Imagination Scheduling for Efficient Post-training of Vision-Language-Action Models), a unified framework that coordinates when and how world-model imagination is used during policy refinement. WISE selectively invokes imagination at interaction-relevant states, performs bounded multi-view rollouts, evaluates candidate futures using progress and completion signals, and uses their relative outcomes to refine actions generated from real interaction contexts. Extensive experiments with both $π_0$ and $π_{0.5}$ demonstrate consistent improvements across diverse manipulation tasks while reducing GPU computation time by approximately 80% compared with full imagination. Real-world evaluations further show substantial gains in robustness and generalization under diverse real-world distribution shifts.

関連論文