日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

週刊ニュースレター購読
ロボット学習arXiv:2611.01729

行動そのものではなく行動のダイナミクスを学ぶODEポリシー

ODE Policy: Robot Learning via Action Dynamics, Not Actions

シェア:XThreadsFacebookLINEはてブBluesky

ニューラルODEで行動のベクトル場を学習し、前の行動から積分して連続的な軌道を生成するロボットポリシーを提案。模倣学習・RL・VLAなど多様な設定で成功率と滑らかさを大幅に改善した。

詳しい要約

1. どんなもの?

- 観測から離散制御ステップの action 値への写像を学ぶ従来の robot policy に対し、action そのものではなく action の dynamics を学ぶ **ODE policy** を提案する研究。 - neural ordinary differential equation (ODE) が action の vector field を学習し、deployment 時には前の action から積分して各 action を生成する。 - これにより実行 trajectory が構造上連続になる。IL と RL の両方に適用でき、visuomotor policy、VLA の action head、WAMs、model-based RL の actor として評価される。 - unimanual、bimanual、dexterous、locomotion、loco-manipulation の各タスクを対象とする。

2. 先行研究と比べてどこがすごい?

- 従来の IL/RL policy は観測→action 値を離散ステップで写像し、物理運動の連続性を暗黙に学習させる。 - 提案法は action の vector field を明示的に学習し、積分により trajectory の連続性を構造的に保証する点が異なる。 - IL では flow matching に対し、1 epoch 後に success 5.9×、generalization 5.4×、mode balance 3.9×、action 生成 10.8× 高速と報告。 - 多くは human demonstrations より滑らかな動きを生成し、14 real-world tasks で最高 success rate、RL では SuperMimic を高速化し action を平滑化する。

3. 技術・手法の肝は?

- neural ODE が action の vector field を学習し、IL では短い action chunks、RL では単一 control step にわたり積分 action を target に一致させる。 - 軽量な diversity head が field の方向をランダム化し、multi-modal な振る舞いを捉える。 - deployment 時は各 action を前の action から積分するため、実行 trajectory は by construction で連続となる。 - visuomotor policy 単体に限らず、VLA や WAMs の action head、model-based RL の actor として組み込める設計。

4. どうやって有効だと検証した?

- visuomotor policy、VLA の action head、WAMs、model-based RL の actor として、14 baselines と比較評価。 - unimanual、bimanual、dexterous、locomotion、loco-manipulation の各タスクで検証。 - IL では flow matching に対し 1 epoch 後の success、generalization、mode balance、action 生成速度を比較。 - 14 real-world tasks を single-arm、dual-arm、dexterous、humanoid robots で実施し最高 success rate を報告。RL では SuperMimic の humanoid motion tracking 高速化と action 平滑化を確認。

5. 議論はある?

- 要旨は learning、data、parameters、execution の各面で効率的と主張し、robot learning の scaling への道筋を示す。 - 生成動作が human demonstrations より滑らかな場合が多い点を報告。 - 限界や失敗事例、計算コストの詳細、baseline 以外との比較については要旨からは不明。

6. 次に読むべき論文は?

- flow matching(IL の主要比較対象) - SuperMimic(RL で高速化・平滑化の対象) - vision-language-action (VLA) モデル - world action models (WAMs) - model-based RL の actor 学習 - neural ordinary differential equation (neural ODE) を用いた policy 学習

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Jindou Jia, Jingliang Li, Kuangji Zuo, Tuo An, Yuxuan Hu, Mengfei Zhao, Bofan Lyu, Jiaqi Bai, Daoyuan Zhu, Hengyu Dai, Junpeng Zhang, Jianfei Yang

分類: cs.RO

原文アブストラクト

Most robot policies, whether trained by imitation learning (IL) or reinforcement learning (RL), map observations to action values at discrete control steps and leave the continuity of physical motion to be learned implicitly. We propose ODE policy, which learns the dynamics of the action rather than the action itself. A neural ordinary differential equation (ODE) learns the vector field of the action by matching the integrated actions to the targets over short action chunks in IL and single control steps in RL. A lightweight diversity head captures multi-modal behavior by randomizing the direction of the field. At deployment, each action is integrated from the previous one, so the executed trajectory is continuous by construction. We evaluate it as a visuomotor policy, as the action head of vision-language-action (VLA) and world action models (WAMs), and as the actor of model-based RL against 14 baselines on unimanual, bimanual, dexterous, locomotion, and loco-manipulation tasks. In IL, against flow matching, it reaches 5.9$\times$ the success, 5.4$\times$ the generalization, and 3.9$\times$ the mode balance after one epoch, and generates actions 10.8$\times$ faster. It mostly moves more smoothly than human demonstrations. On 14 real-world tasks across single-arm, dual-arm, dexterous, and humanoid robots, it achieves the highest success rate. In RL, it further speeds up SuperMimic for humanoid motion tracking and smooths its actions. Efficient in learning, data, parameters, and execution, ODE policy offers a promising path to scaling robot learning.

関連論文

PR本紙発行元 EmplifAI