日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

週刊ニュースレター購読
arXiv:2608.13395

FIRE-VLA: Failure-Informed Self-Evolution for Vision-Language-Action Models in Autonomous Driving

FIRE-VLA: Failure-Informed Self-Evolution for Vision-Language-Action Models in Autonomous Driving

シェア:XThreadsFacebookLINEはてブBluesky

詳しい要約

1. どんなもの?

FIRE-VLAは、自動運転向けVision-Language-Action (VLA)モデルの強化学習を改善するフレームワーク。GRPOが全軌道が不良な場合に失敗領域外の行動を特定できない問題に対処し、未解決の失敗を次のポリシーへの特権的監督に変換する自己進化手法を提案。

2. 先行研究と比べてどこがすごい?

従来のGRPOは報酬差のみで学習するため、全軌道が不良なグループでは失敗のランク付けはできても、失敗領域外の行動を特定できない。FIRE-VLAは、低報酬・低多様性グループに対して、凍結されたラウンド開始時点の同一モデルからの自己蒸留を導入し、失敗情報を明示的に監督に活用する点が新しい。外部の大規模教師を必要とせず、ポリシーと共に失敗分布を変化させる。

3. 技術・手法の肝は?

手法の核は、低報酬・低多様性グループを検出し、そのグループに対してのみ、ラウンド開始時の凍結コピー(教師)から自己蒸留を行う点。教師と生徒は同じパラメータ規模だが、教師のみが隠れた未来軌道を観測できる。蒸留は生徒の生成プレフィックスに従い、回答トークンのみに制限される。GRPOは全グループで有効のまま。更新されたポリシーが次のラウンドの教師となり、失敗分布を適応的に変化させる。

4. どうやって有効だと検証した?

Qwen2.5-VL-3B SFTチェックポイントから開始し、生徒のロールアウトとポリシー更新回数を一致させて比較。150シーンのnuScenesから6,019例で評価し、単一サンプル計画は同等、G=4の平均L2を1.848mから1.500mに低減、評価持続失敗率を13.03%から11.20%に低減。平均誤差の減少は主に稀な重大なロールアウトの改善によるもので、通常軌道の一様な改善ではない。

5. 議論はある?

要旨からは、平均誤差の改善が稀な重大なロールアウトに起因する点が議論として挙げられる。通常軌道への一様な改善ではないため、一般的な性能向上ではなく、失敗事例への特化が示唆される。また、自己蒸留の条件(低報酬・低多様性)の設定や、教師の凍結期間、蒸留の重みなどに関する詳細な議論は要旨からは不明。

6. 次に読むべき論文は?

要旨で参照されているGRPO(Group Relative Policy Optimization)と、ベースモデルであるQwen2.5-VLに関する論文。また、自動運転VLAモデルの関連研究として、nuScenesデータセットを用いた計画手法の論文が考えられる。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Hao Dou

分類: cs.RO

原文アブストラクト

Reinforcement learning improves autonomous-driving vision-language-action (VLA) models by evaluating trajectories sampled from the current policy. Group relative policy optimization (GRPO) learns from reward differences within each rollout group. When all sampled trajectories are poor, this relative signal can rank failures without identifying behavior outside the failed region. We introduce FIRE-VLA, a failure-informed self-evolution framework that converts such unresolved failures into privileged supervision for the next policy. Low-reward, low-diversity groups trigger self-distillation from a frozen round-start copy of the same model. Teacher and student have the same parameter scale, but only the teacher observes the hidden future trajectory. Supervision follows the student's generated prefix and is restricted to answer tokens, while GRPO remains active for every group. The updated policy supplies the teacher for the next round, allowing the routed failure distribution to change with the policy without requiring a larger external teacher. Starting from the same Qwen2.5-VL-3B SFT checkpoint, the comparison matches student rollout and policy-update counts. On 6,019 examples from 150 held-out nuScenes scenes, FIRE-VLA retains comparable single-sample planning, reduces G=4 mean L2 from 1.848 to 1.500 m, and lowers evaluation-persistent failure prevalence from 13.03% to 11.20%. The reduction in mean error arises mainly from rare severe rollouts rather than uniform improvement across ordinary trajectories.