日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

週刊ニュースレター購読
マニピュレーションarXiv:2610.36533

RoboAuto: 多層的な物理理解による自律ロボットプログラム探索

RoboAuto: Autonomous Robot Program Search through Multi-Level Physical Understanding

シェア:XThreadsFacebookLINEはてブBluesky

物体・シーン・相互作用の3層で物理理解を明示的に組織化し、知識ベースとシーングラウンディング、自己設計実験による多段計画を組み合わせてロボット操作プログラムを探索するフレームワーク。

詳しい要約

1. どんなもの?

- LLM-based autonomous agents がロボット操作プログラムを反復生成・評価・改良する Code-as-Policy の枠組みにおいて、物理理解を明示的に組織化するプログラム探索フレームワーク RoboAuto を提案する。 - 物理理解を object / scene / interaction の3レベルに分け、それぞれを階層的知識ベース、scene grounding、multi-stage planning で扱う。 - 5つの benchmark family で評価し、実ロボットの long-horizon タスクにも適用する。

2. 先行研究と比べてどこがすごい?

- 既存手法は主に execution feedback に頼ってプログラムを改良し、物体の操作可能性・scene geometry の制約・interaction の成否理由といった物理的問いを未解決のままにしがちだった。 - RoboAuto は object / scene / interaction の3レベルで物理理解を明示的に組織化する点が異なる。 - LIBERO-PRO の short-horizon で 89.1% の成功率、LIBERO-PRO Long と LIBERO-Plus では ASPIRE の平均成功率の2倍超を達成。 - 精密操作を要する long-horizon 実ロボット3タスクで ASPIRE と π_{0.5} を上回る。

3. 技術・手法の肝は?

- 階層的知識ベース: 実行可能な skills と、affordances・spatial relations・action effects に関する object-centric knowledge を統合し、embodied data と online task solving から学習する。 - scene grounding: 知識を現在の環境に結び付け、関連物体を特定し、action-critical quantities を解決する。 - multi-stage planning with self-designed experiments: 各段階が期待する物理効果を生むか検査し、競合する仮説を能動的に試して物理的不確実性を解消する。

4. どうやって有効だと検証した?

- 5つの benchmark family で評価。LIBERO-PRO の short-horizon タスクで 89.1% の成功率。 - LIBERO-PRO Long と LIBERO-Plus で ASPIRE の平均成功率の2倍超。 - 精密操作を要する long-horizon 実ロボット3タスクで ASPIRE と π_{0.5} を上回る。 - 知識ベースが simulators と embodiments をまたいで転送されること、プログラム探索性能が知識ベースのサイズとともにスケールすることを示す。

5. 議論はある?

- 知識ベースの simulator / embodiment 間転送と、サイズに対するスケーリングが示されている。 - 各コンポーネントの個別 ablation や失敗事例、限界については要旨からは不明。 - self-designed experiments のコストや実ロボットでの安全性への言及は要旨からは不明。

6. 次に読むべき論文は?

- ASPIRE(比較対象の program search 手法) - π_{0.5}(比較対象の policy) - Code-as-Policy(基盤となる program search 枠組み) - LIBERO-PRO / LIBERO-Plus(benchmark) - LLM-based autonomous agents による iterative program refinement の関連研究

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Buzhao Liu, Jianing Ye, Xiu Yuan, Yangtong Feng, Chengsong Huang, Tyler Dinh, Yevgeniy Vorobeychik, Ning Zhang, Chongjie Zhang

分類: cs.RO, cs.AI, cs.CL, cs.CV, cs.LG

原文アブストラクト

Recently, LLM-based autonomous agents have shown strong capabilities in iteratively generating, evaluating, and refining executable solutions. In robotic manipulation, Code-as-Policy lets these agents search over modular and editable robot programs. However, effective program search requires physical understanding: agents must understand how objects can be manipulated, how scene geometry constrains actions, and why interactions succeed or fail. Existing methods rely mainly on execution feedback for program refinement, often leaving these physical questions unresolved. We introduce RoboAuto, a framework for robot program search that explicitly organizes physical understanding at the object, scene, and interaction levels through three components. First, a hierarchical knowledge base combines executable skills with object-centric knowledge of affordances, spatial relations, and action effects, learned from embodied data and online task solving. Second, scene grounding connects this knowledge to the current environment by identifying relevant objects and resolving action-critical quantities. Third, multi-stage planning with self-designed experiments checks whether each stage produces its expected physical effects and actively tests competing hypotheses to resolve physical uncertainties. RoboAuto achieves superior performance across five benchmark families, attaining an 89.1% success rate on short-horizon LIBERO-PRO tasks and more than twice the mean success rate of ASPIRE on LIBERO-PRO Long and LIBERO-Plus. It also outperforms ASPIRE and $π_{0.5}$ on three challenging long-horizon real-robot tasks requiring precise manipulation. We further show that the knowledge base transfers across simulators and embodiments, and that program search performance scales with its size. Project page: https://roboauto-ai.github.io/

関連論文

PR本紙発行元 EmplifAI