日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

週刊ニュースレター購読
モデルベース計画arXiv:2610.18677

生成的軌道計画によるモデルベースオンライン意思決定

Model-Based Online Decision Making via Generative Trajectory Planning

シェア:XThreadsFacebookLINEはてブBluesky

拡散モデルを行動系列の提案分布として学習し、学習済みの力学・報酬・価値モデルで洗練することで、効率的な推論と長期的推論を両立させるモデルベース計画フレームワークGTPを提案。

詳しい要約

1. どんなもの?

- オンライン意思決定のためのモデルベースフレームワーク「Generative Trajectory Planning (GTP)」を提案。 - 拡散事前分布から行動系列をサンプリングし、学習済みのdynamics, reward, valueモデルで洗練する。 - 連続制御と長地平線マニピュレーションタスクで評価。

2. 先行研究と比べてどこがすごい?

- 価値ベース手法の短地平線ブートストラップによる長期的情報伝播の制限を克服。 - 軌道最適化手法の各決定ステップでの高次元最適化問題を回避。 - モデルフリー、拡散ポリシー、モデルベースのベースラインと同等以上、かつ安定性が高い。

3. 技術・手法の肝は?

- 生成モデルを行動系列上の提案分布として学習。 - 拡散事前分布から候補系列をサンプリングし、学習済みdynamics, reward, valueモデルで洗練。 - ゼロから最適化するのではなく、効率的な軌道レベルの推論を実現。

4. どうやって有効だと検証した?

- 連続制御と長地平線マニピュレーションタスクで実験。 - モデルフリー、拡散ポリシー、モデルベースのベースラインと比較。 - 強力なベースラインが劣化する領域でもGTPは安定。

5. 議論はある?

- 生成モデルはポリシーではなく、計画のための構造化された提案分布として理解すべき。 - 生成モデリングとモデルベース意思決定の統合に関する新たな視点を提供。

6. 次に読むべき論文は?

- 要旨からは不明(参照/比較されている研究はモデルフリー、拡散ポリシー、モデルベースのベースラインと記載)。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Haldun Balim, Yilun Du, Na Li

分類: cs.LG, cs.AI, cs.RO, eess.SY

原文アブストラクト

Online decision-making faces a tension between efficient inference and long-horizon reasoning. Value-based methods rely on short-horizon bootstrapping that limits the propagation of long-term information, while trajectory optimization methods plan explicitly but must solve a high-dimensional optimization problem at every decision step. We propose Generative Trajectory Planning (GTP), a model-based framework that addresses this tension by learning a generative model as a proposal distribution over action sequences. Instead of optimizing sequences from scratch, GTP samples candidate sequences from a diffusion prior and refines them using learned dynamics, reward, and value models, enabling efficient trajectory-level reasoning. Across continuous control and long-horizon manipulation tasks, GTP matches or exceeds state-of-the-art model-free, diffusion-policy, and model-based baselines, and remains stable in regimes where strong baselines degrade. Our results suggest that generative models are best understood not as policies, but as structured proposal distributions for planning, offering a new perspective on how to integrate generative modeling with model-based decision-making.

関連論文

PR本紙発行元 EmplifAI