日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

週刊ニュースレター購読
模倣学習arXiv:2608.15938v1

ロボティクスにおけるオープンループ実行の再考:リアクティブで高性能なポリシーへ

Revisiting Open-Loop Execution in Robotics: Toward Reactive, Higher-Performing Policies

シェア:XThreadsFacebookLINEはてブBluesky

模倣学習で使われるオープンループ実行の利点を再検証し、長いコンテキストを持つポリシーではクローズドループの方が優れることを示した。

詳しい要約

1. どんなもの?

本論文は、ロボット操作の模倣学習におけるAction chunking(複数行動の予測とopen-loop実行)の効果を再検討し、その利点の主因が「非Markov的デモンストレーション」の模倣にあると主張する。シミュレーション4タスクと実機2タスクで、専門家の非Markov性がopen-loop実行の有効性を強く左右すること、compounding errorsの影響は限定的であること、十分に長いコンテキストを持つポリシーではopen-loop実行が不要でclosed-loopが最適であることを示す。

2. 先行研究と比べてどこがすごい?

先行研究ではopen-loop実行の利点をcompounding errorsの緩和、推論遅延の吸収、動作の平滑化などに帰属していたが、本論文はそれらの説明を制御実験で検証し、特に非Markov的デモンストレーションの模倣が主因であることを示した点が新しい。また、長いコンテキストを持つポリシーではopen-loopが不要になることを示し、従来のopen-loop実行パラダイムに代わる長文脈・反応的ポリシーを提案する点で貢献している。

3. 技術・手法の肝は?

手法の肝は、専門家の非Markov性を定量化し、open-loop実行の有効性との関係を分析する点。具体的には、デモンストレーションの非Markov性を測定し、タスクごとにopen-loop実行のhorizonを変えて成功率を比較。また、compounding errorsの影響を分離するため、エラー注入などの実験を行い、非Markov性の影響と比較。さらに、ポリシーに与えるコンテキスト長を変えて、open-loopとclosed-loopの性能を比較している。

4. どうやって有効だと検証した?

シミュレーション4タスクと実機2タスクで検証。各タスクで専門家の非Markov性を測定し、open-loop実行のhorizonと成功率の関係をプロット。compounding errorsの影響を調べるため、エラーを注入した実験を実施。また、コンテキスト長を変えた実験で、長文脈ポリシーではclosed-loopが最適であることを示した。

5. 議論はある?

要旨からは、open-loop実行の利点が非Markov性に起因するという主張は、実験設定に依存する可能性がある。また、compounding errorsの影響が小さいという結果は、タスクやポリシーによって異なるかもしれない。さらに、長文脈ポリシーの実用性(推論コストなど)については言及されていない。

6. 次に読むべき論文は?

要旨で参照されている先行研究として、Action chunkingを導入した論文(例えば、ACTやDiffusion Policyなど)が挙げられる。また、compounding errorsに関する研究や、非Markov的デモンストレーションの解析に関する研究が関連する。具体的には、'Action Chunking with Transformers'や'Diffusion Policy'、'Behavior Cloning'の基本論文などが次に読むべき候補。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Michael Zeng, Abhinav Agarwal, Ajay Bati, Brian Lee, Siddharth Ancha, Russ Tedrake

分類: cs.RO

原文アブストラクト

Action chunking --- the practice of predicting a sequence of actions and executing a prefix open-loop --- has emerged as a key enabler of recent progress in imitation learning for robotic manipulation. However, executing long open-loop prefixes reduces reactivity, limiting policies' ability to correct for errors. Further, the mechanisms underlying these performance benefits remain poorly understood: prior works cite mitigating compounding errors, absorbing inference latency, or smoothing motions, but provide limited controlled evidence or guidance for preserving reactivity. In this work, we argue that long open-loop execution primarily helps short-context policies imitate "non-Markovian demonstrations". Across four simulation and two real-world tasks, we show that expert non-Markovianity strongly shapes the relationship between task success and open-loop execution horizon. Further, we investigate the impact of compounding errors --- the prevailing explanation for long open-loop execution in prior work --- and find that while they matter, expert non-Markovianity has a much stronger impact in our experimental setting. Finally, we show that when policies are provided with a sufficiently long context, open-loop execution is no longer beneficial and the most reactive, closed-loop policies perform best. While imitation learning has seen great success using long open-loop execution, our findings motivate long-context, reactive policies as a more principled and performant paradigm.