日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

週刊ニュースレター購読
ナビゲーションarXiv:2609.00920v1

VerNav: 検証器優先の低遅延ビジョン・言語ナビゲーション

VerNav: Verifier-First Low-Latency Vision-and-Language Navigation

シェア:XThreadsFacebookLINEはてブBluesky

VLNタスクにおいて、各ステップの自己回帰生成を検証器による一括アクション検証に置き換え、不確実な場合のみ適応的生成器を使うことで、遅延を10倍以上削減しつつ競争力のある性能を達成するフレームワークを提案した。

詳しい要約

1. どんなもの?

VerNavは、Vision-and-Language Navigation (VLN) タスクにおける低遅延なLLMベースのフレームワークである。VLNは、自然言語の指示に従って未見の3D環境をナビゲートするエージェントを必要とする。VerNavは、verifier-firstアプローチを採用し、各ステップの自己回帰生成をバッチ化されたアクション検証に置き換えることで、意思決定段階の遅延を削減する。また、不確実な決定に対してのみエントロピーに基づく適応生成器を呼び出し、コンパクトな状態証拠を生成する。さらに、verifierの性能を向上させるために、VPOによる静的訓練と、ステップレベルの強化学習による動的タスク実行の2段階の整合スキームを導入する。

2. 先行研究と比べてどこがすごい?

従来のLLMベースのVLNエージェントは、各ステップで自己回帰生成を行い、マルチステップナビゲーション全体で意思決定段階の遅延が蓄積される問題があった。VerNavは、verifier-firstフレームワークにより、各ステップの自己回帰生成をバッチ化されたアクション検証に置き換えることで、平均意思決定段階のLLM遅延を10倍以上削減する。また、エントロピーに基づく適応生成器を導入し、不確実な決定のみに生成を限定することで、性能を維持しつつ遅延を低減する点が新しい。さらに、VPOとステップレベルの強化学習による2段階の整合スキームは、verifierの性能を向上させるための独自の貢献である。

3. 技術・手法の肝は?

VerNavの技術的な肝は、verifier-firstの意思決定パイプラインである。具体的には、各ステップで候補アクションをバッチ検証し、verifierがスコアを付与する。verifierの信頼度が低い場合(エントロピーが高い場合)のみ、適応生成器が呼び出され、コンパクトな状態証拠を生成してverifierの判断を補助する。verifierの訓練には、2段階の整合スキームを用いる。第一段階では、VPO(おそらくVerifier Preference Optimization)により、静的なverifier訓練で局所的なアクション選好を整合させる。第二段階では、ステップレベルの強化学習(RL)により、マルチステップナビゲーションのロールアウト中に密な進捗報酬を提供し、動的タスク実行での性能を向上させる。

4. どうやって有効だと検証した?

Room-to-Room (R2R) ベンチマークで実験を行い、verifier-onlyの意思決定パスが、代表的なLLMベースのVLNエージェントと比較して競争力のあるナビゲーション性能を達成することを示した。また、自己回帰手法と比較して、平均意思決定段階のLLM遅延を10倍以上削減することを実証した。具体的な数値や比較対象の詳細は要旨からは不明である。

5. 議論はある?

要旨からは、verifier-onlyの意思決定パスが競争力のある性能を達成する一方で、適応生成器が呼び出される場合の遅延や性能への影響についての詳細な議論は不明である。また、VPOとRLの組み合わせがどのようにverifierの性能に寄与するかについての理論的な分析や、他のVLNベンチマークでの汎用性についての議論は要旨には含まれていない。さらに、verifierの訓練に必要なデータや計算コストについても言及がない。

6. 次に読むべき論文は?

要旨で参照されている研究は明示されていないが、関連手法として、LLMベースのVLNエージェント(例:自己回帰生成を用いた手法)や、verifierを用いた手法(例:LLMの検証器を利用した推論手法)が考えられる。また、VPOはPreference Optimizationの一種であり、関連する強化学習手法(例:PPO)や、VLNにおける報酬設計の研究が次に読むべき論文として挙げられる。具体的には、R2Rベンチマークを提案した論文や、VLNにおけるLLM活用のサーベイが有用である。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Zhixin Wang, Chengzheyi Yao, Leyuan Liu, Xiaosong Zhang, Yongzhao Zhang

分類: cs.RO, cs.CV

原文アブストラクト

Vision-and-Language Navigation (VLN) requires an agent to navigate through unseen 3D environments according to natural-language instructions. Explicit reasoning can improve instruction understanding and semantic grounding, but autoregressive generation at every step accumulates large decision-stage latency over multi-step navigation. We propose VerNav, a verifier-first framework for low-latency LLM-based VLN. The verifier reduces decision-stage latency by replacing per-step autoregressive generation with batched action verification, while an entropy-based adaptive generator is invoked only for uncertain decisions to produce compact state evidence. To further improve navigation performance with the verifier, we introduce a two-stage alignment scheme: (i) VPO improves local action-preference alignment in static verifier training, and (ii) step-level reinforcement fine-tuning provides dense progress rewards over multi-step navigation rollouts during dynamic task execution. Experiments on the Room-to-Room (R2R) benchmark show that the verifier-only decision path of VerNav achieves competitive navigation performance among representative LLM-based VLN agents while reducing average decision-stage LLM latency per step by more than $10\times$ compared with autoregressive methods.

関連論文