GoalDex:画像ゴール条件付き巧みな手内操作ポリシーの学習
GoalDex: Learning Image-Goal-Conditioned Policies for Dexterous In-Hand Manipulation
物体姿勢推定を介さずRGB画像と固有感覚から直接巧みな手内回転操作を学習する視覚運動フレームワークを提案し、画像で目標姿勢を指定できるようにした。シミュレーションで姿勢ベース手法を上回り、実機5物体へのsim2real転移も示した。
著者: Arjun Bhardwaj, Mayank Mittal, Maximum Wilder-Smith, Vaishakh Patil, Marco Hutter
分類: cs.RO
原文アブストラクト
Dexterous in-hand manipulation is commonly formulated around explicit object pose estimation, yet reliable pose tracking is challenging under severe hand-object occlusions and often requires object-specific supervision. This dependence creates a bottleneck between perception and control that can limit robustness and scalability. We present an end-to-end visuomotor framework for dexterous in-hand reorientation that operates on RGB observations and proprioception without intermediate pose estimation. Our approach jointly learns visual representations and control policies through behavior distillation from privileged state teachers and auxiliary reconstruction objectives. Furthermore, we introduce image-goal-conditioned reorientation, allowing desired object configurations to be specified directly through images rather than canonical pose representations. We evaluate our approach across a diverse set of object geometries and instances in simulation, where it consistently outperforms pose-based methods and policies built on pretrained visual encoders. Finally, we demonstrate direct sim-to-real transfer of a single image-goal-conditioned policy across five real-world objects, showing that accurate dexterous reorientation can be achieved without explicit pose estimation. For videos and code release, please refer to the project website: https://rffr.leggedrobotics.com/works/goaldex/
関連論文
- 人工ポテンシャル場報酬で実現するサイズ頑健な障害物回避マニピュレーション
- DexArena:長期的器用マニピュレーションのための統合ベンチマークマニピュレーション
- PointPilot:物体中心の3D点フロー予測による統合ロボットマニピュレーションマニピュレーション
- 遮蔽環境下での物体中心ワールドモデル計画フレームワークSCOUTマニピュレーション
- 安全を考慮した潜在空間動作計画のための制御バリア関数マニピュレーション
- 未来を取り戻せ:外乱を考慮した物体取り出しのための遡及的補正による長期ダイナミクス予測マニピュレーション