日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

週刊ニュースレター購読
ナビゲーションarXiv:2608.26190

潜在世界モデルによる結果予測とナビゲーションポリシーの強化

Predicting Consequences and Reinforcing Navigation Policies with Latent World Models

シェア:XThreadsFacebookLINEはてブBluesky

ロボットナビゲーションのための潜在世界モデルを提案し、観測の再構成ではなく潜在特徴の適合性を予測することで、未ラベルのビデオからポリシー学習を可能にし、世界モデル内での強化学習により実世界性能を向上させた。

詳しい要約

1. どんなもの?

本論文は、ロボットナビゲーションのための潜在世界モデル(Latent World Model, LWM)を提案する。従来の世界モデルが将来の観測や特徴を再構成することに焦点を当てていたのに対し、LWMは行動条件付きの潜在特徴の互換性(compatibility)を予測する。空間的近接性が潜在特徴の類似性と相関するという洞察に基づき、行動の結果を潜在空間で直接評価する。また、未ラベルのビデオデータからポリシー学習を監督し、世界モデル内での強化学習によりポリシーを改善する。行動アノテーションや環境との追加インタラクションを必要としない。

2. 先行研究と比べてどこがすごい?

既存の世界モデルは将来の観測や特徴の再構成に重点を置き、意思決定に不要な複雑さを導入していた。LWMは再構成ではなく互換性予測を行うことで、意思決定に直接関連する情報を学習し、予測精度とポリシー学習の効率を向上させる。また、反事実的トレーニングを可能にし、未ラベルのビデオデータからポリシーを学習できる点で、従来の模倣学習や世界モデル手法よりも優れている。

3. 技術・手法の肝は?

LWMは、行動条件付きの潜在特徴の互換性を予測する。具体的には、軌跡全体からサンプリングされた行動シーケンスを用いて、どのシーケンスがゴールに近づくかを予測するように学習する。空間的近接性と潜在特徴の類似性の相関を利用し、行動の結果を潜在空間で評価する。学習された世界モデルは、未ラベルのビデオデータからポリシーを監督し、さらに世界モデル内での強化学習によりポリシーを改善する。

4. どうやって有効だと検証した?

複数の実世界ロボットナビゲーションデータセットを用いた広範な実験により、予測精度、ポリシー学習、実世界ナビゲーション性能において、従来の世界モデルや模倣学習手法を大幅に上回ることを示した。

5. 議論はある?

要旨からは、LWMの限界や潜在的な欠点についての議論は不明。ただし、空間的近接性と潜在特徴の類似性の相関が常に成り立つとは限らない可能性や、複雑な環境での適用性などが議論の余地として考えられるが、要旨には明記されていない。

6. 次に読むべき論文は?

要旨で参照されている先行研究や関連手法は明示されていないが、世界モデルや模倣学習の分野の定番論文として、'World Models' (Ha & Schmidhuber, 2018) や 'Dream to Control: Learning Behaviors by Latent Imagination' (Hafner et al., 2020) が挙げられる。また、ロボットナビゲーションの模倣学習としては、'Learning to Drive in a Day' (Codevilla et al., 2019) などが関連する。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Zengmao Wang, Wei Gao, Shuhan Shen

分類: cs.AI

原文アブストラクト

World models enable agents to reason about future outcomes and learn policies from their knowledge of state transition, but existing approaches primarily focus on reconstructing future observations or features, which introduces unnecessary complexity and limits their effectiveness for decision making. In this work, we propose a compatibility prediction Latent World Model (LWM) for robot navigation that predicts action-conditioned latent feature compatibility rather than reconstructing observations. Our key insight is that spatial proximity correlates with latent feature similarity, enabling action consequences to be evaluated directly in latent space. To support counterfactual training, our model leverages action sequences sampled across trajectories and learns to predict which sequences lead closer to the goal. Furthermore, we demonstrate how the learned world model can supervise policy learning from unlabeled video data and further improve policies through reinforcement learning entirely within the world model. This imagination-driven framework eliminates the need for action annotations and additional environment interaction. Extensive experiments on multiple real-world robot navigation datasets show that our approach significantly outperforms prior world model and imitation learning methods in prediction accuracy, policy learning, and real-world navigation performance. The code, pretrained models, and additional materials are available at https://wzm206.github.io/latent-world-model-nav.

関連論文