動く前に見よ:オープンワールド移動マニピュレーションのためのエージェント・インターフェース整合型教師あり学習
Look Before You Move: Agent-Interface-Aligned Supervision for Open-World Mobile Manipulation
教師がエージェントのスキルインターフェースを通じて直接行動を選び実行するデータ収集パイプラインAIDAを提案し、オープンワールド移動マニピュレーションで71.76%のタスク成功率を達成、実機でも38%の成功率を示した。
著者: Ronghe Qiu, Teli Ma, Jiaming Zhou, Zeying Gong, Yiting He, Qiang Huang, Junwei Liang
分類: cs.RO
原文アブストラクト
Open-world mobile manipulation requires a robot to find an object, approach it, and move it to a target receptacle from a language instruction. Training vision-language model (VLM) agents for these tasks requires demonstrations of both action selection and active vision. Existing pipelines often convert planned trajectories into high-level action labels, but shortest-path progress provides limited supervision for deciding where to look. We introduce Agent-Interface Data Alignment (AIDA), a data collection pipeline in which a teacher directly selects and executes actions through the deployed agent's skill interface. For mobile manipulation, we design teachers that maintain target visibility, recover lost targets, and approach for picking or placing. We add template-based spatial reasoning supervision and use a shared harness to organize observations, history, and outputs during training and inference. The resulting agent, AIDA-OWMM, achieves 71.76% full-task success on 170 held-out OWMM episodes. Teacher sensitivity analysis shows that active-vision demonstrations improve student success. The simulation-trained agent achieves 38% end-to-end success on a real mobile robot without additional training. Applying AIDA to a navigation subset of EmbodiedBench further demonstrates the pipeline's utility for navigation tasks.
関連論文
- 月面作業のための安全制約付き全身移動マニピュレーション学習移動マニピュレーション
- MobileVISTA: 移動マニピュレーションにおける姿勢汎化のための生成データ拡張移動マニピュレーション
- RMMBench:ロボット移動マニピュレーションのための包括的ベンチマーク移動マニピュレーション
- ALFRED: 長期植物モニタリングのための要件駆動型オープンソース移動マニピュレータ開発移動マニピュレーション
- LQRとArUcoの融合:二輪ロボットにおけるナビゲーションと非対称マニピュレーションのための堅牢な階層制御移動マニピュレーション
- Zephyron:太陽光支援移動マニピュレータの統合設計と解析的評価によるマルチモーダル環境偵察と分散視覚推論移動マニピュレーション