日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

週刊ニュースレター購読
マニピュレーションarXiv:2610.31299

PiHand: 物理ベース方策学習のための潜在的な手と物体の相互作用事前分布

PiHand: Latent Hand-Object Interaction Priors for Physics-Based Policy Learning

シェア:XThreadsFacebookLINEはてブBluesky

手と物体の相互作用を目標条件付きVAEで事前分布として学習し、その潜在空間での残差探索により多様な器用な操作タスクを汎化可能な物理ベース方策として獲得するフレームワーク。

詳しい要約

1. どんなもの?

- 物理的に整合した dexterous hand-object interaction を合成するフレームワーク PiHand の提案。 - VR/AR、ゲーミング、ロボティクスへの応用を想定。 - 課題は接触ダイナミクス、多様な物体形状、目標軌道の同時充足と自然な grasp の維持。 - mocap 軌道追従の expert policy を蒸留し、goal-conditioned VAE による hand-object interaction prior を構築。 - その latent space 上での bounded residual exploration により多様な dexterous manipulation を解く。

2. 先行研究と比べてどこがすごい?

- 既存手法は mocap 軌道追従型で新規物体への転移が限定的、または hand-only の generative prior で coupled hand-object motion を捉えられず接触忠実性と sample efficiency を犠牲にしていた。 - PiHand は hand-object interaction を統合した prior を学習し、単一 reward・複雑な curriculum なしで汎用 tabletop manipulation policy を得る点が新しい。 - 訓練にほぼ無い object catching や bimanual handover にも同一 prior が転移する点が先行研究と異なる。

3. 技術・手法の肝は?

- まず simulation 上で mocap demonstration を追従する expert policy を訓練。 - それらを goal-conditioned VAE に蒸留し、統一的な hand-object interaction prior を獲得。 - 推論時は latent space 内で bounded residual exploration を行い、多様な dexterous manipulation タスクを解く。 - 単一 reward のみで学習し、複雑な curriculum training を必要としない設計。

4. どうやって有効だと検証した?

- GRAB と DexYCB 上で tabletop manipulation を評価し、未見物体・未見軌道への汎化を検証。 - 訓練データにほぼ含まれない object catching と bimanual handover への転移も検証。 - 全タスク・全指標で baseline を一貫して上回ったと報告。 - 処理済みデータと model checkpoint の公開を予定。

5. 議論はある?

- 単一 reward と prior のみで多様なタスク・新規物体・新規軌道に汎化できる点を主張。 - 訓練分布外の catching や bimanual handover への転移可能性を示唆。 - 限界・失敗ケース・計算コスト・実機転移に関する具体的議論は要旨からは不明。

6. 次に読むべき論文は?

- 比較対象として言及される mocap 軌道追従型手法および hand-only generative prior 系の研究。 - 評価データセットである GRAB および DexYCB 関連の hand-object interaction 研究。 - goal-conditioned VAE や latent space exploration を用いた physics-based policy learning の関連研究。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Niklas Berndt, Xianghui Xie, Enes Duran, Yixiao Wang, Gerard Pons-Moll

分類: cs.CV

原文アブストラクト

Synthesizing physically grounded dexterous hand-object interactions is important for VR/AR, gaming, and robotics, yet remains challenging because subtle contact dynamics, diverse object geometries, and target trajectories must be jointly respected while maintaining natural grasps. Existing methods either track mocap trajectories with limited transfer to novel objects, or rely on hand-only generative priors that fail to capture coupled hand-object motion, sacrificing contact fidelity and sample efficiency. To tackle these challenges, we introduce PiHand, a Physically grounded Interaction-aware Hand motion synthesis framework. PiHand first trains expert policies that track mocap demonstrations in simulation, distills them into a unified hand-object interaction prior using a goal-conditioned VAE, and finally solve diverse dexterous manipulation tasks through bounded residual exploration in its latent space. With only a single reward and no complex curriculum training, this yields general tabletop manipulation policies that generalize to unseen objects and trajectories on GRAB and DexYCB. The same prior transfers to object catching and bimanual handover, two tasks that are rarely seen in its training data. Across all tasks, PiHand consistently outperforms baselines in all metrics. We will release the processed data and model checkpoints.

関連論文

PR本紙発行元 EmplifAI