日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

週刊ニュースレター購読
自動運転VLAarXiv:2609.25831

走ってから歩け:VLM自動運転のためのRun-then-Walkスケジューリング戦略

Sometimes You Gotta Run Before You Can Walk: Run-then-Walk Scheduling Strategy for VLM Autonomous Driving

シェア:XThreadsFacebookLINEはてブBluesky

VLMベースの自動運転プランナー向けに、進捗探索を優先する「Run」段階と安全性を修復する「Walk」段階を分けた2段階GRPO報酬スケジューリングを提案し、性能と収束速度を両立させた。

詳しい要約

1. どんなもの?

- VLM-based autonomous driving planners のための GRPO-style reinforcement learning の新しい reward scheduling 戦略。 - Run-then-Walk と呼ばれ、2段階で学習する。 - 第1段階 (Run) では progress を重視し、第2段階 (Walk) では safety を修復する。 - 従来の one-stage RL より性能と収束速度を改善する。

2. 先行研究と比べてどこがすごい?

- 既存の GRPO recipes は driving efficiency を最適化すると危険な行動をとるリスクがあり、早期に safety 制約を課すと保守的になる問題があった。 - また、どちらも長い training を必要とした。 - 提案手法は progress と safety を明示的に分離し、Walk-first の保守性と joint optimization の危険性を克服する。 - 40-50% 少ない RL training epochs で済む。

3. 技術・手法の肝は?

- 2段階の reward scheduling 戦略。 - Run 段階: progress に焦点を当て、policy が保守的バイアスから脱出し、high-progress モードを発見できるようにする。 - Walk 段階: endpoint と safety strategy を導入し、Run 段階で生じた unsafe behaviors を修復する。 - この逆順のスケジュールが特徴。

4. どうやって有効だと検証した?

- 複数の VLM-based planners で検証。 - ベンチマーク: NAVSIMv1, NAVSIMv2, Navhard, nuScenes。 - 広範な実験により、driving performance が向上し、baselines より 40-50% 少ない RL training epochs で済むことを示した。

5. 議論はある?

- 要旨からは不明。

6. 次に読むべき論文は?

- 要旨で参照されている GRPO-style reinforcement learning の既存手法。 - 具体的な論文名は要旨に記載されていないため、同分野の定番として GRPO や VLM-based autonomous driving planners に関する研究が挙げられる。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Yuqi Ye, Shangkun Sun, Junhong Lin, Jiayi Zhao, Changhao Peng, Wei Zheng, Guoqing Liu, Tiesong Zhao, Wei Gao

分類: cs.RO, cs.CV

原文アブストラクト

Recent VLM-based autonomous driving planners adopt GRPO-style reinforcement learning to optimize driving performance. However, existing GRPO recipes either optimize driving efficiency, risking progress-seeking but unsafe behavior, or enforce early safety constraints, leading to overly conservative behavior; both require lengthy training. To solve these problems, we first reveal two distinct RL regimes: a progress regime (Run-GRPO) that aggressively explores high progress, and a safety regime (Walk-GRPO) that restores safety under stable progress. Based on this finding, we propose $\textit{Run-then-Walk}$, a simple yet effective two-stage reward scheduling strategy for GRPO, achieving both better performance and faster convergence. Unlike one-stage RL, which may focus on progress, safety, or a mixture of both within a single training phase, this schedule explicitly separates progress discovery from safety repair. In the $\textit{Run}$ phase, we focus on progress, allowing the policy to escape the conservative bias and discover high-progress modes. In the subsequent $\textit{Walk}$ phase, we introduce endpoint and safety strategy to repair unsafe behaviors from the Run phase. This reversed schedule overcomes the conservatism of Walk-first methods and the unsafe progress-seeking of joint optimization. We validate it with various VLM-based planners on multiple benchmarks: NAVSIMv1, NAVSIMv2, Navhard, and nuScenes. Extensive experiments demonstrate improved driving performance while requiring 40--50\% fewer RL training epochs than the baselines.

関連論文

PR本紙発行元 EmplifAI