日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

週刊ニュースレター購読
リターゲティングarXiv:2610.29169

人間の意味情報からヒューマノイドへのストリーミング動作リターゲティング学習

SMR: Learning streaming motion retargeting for humanoids from human semantic

シェア:XThreadsFacebookLINEはてブBluesky

人間の動作を意味情報に基づく物理エキスパートでロボット向けに変換し、因果的なTransformerでストリーミング動作リターゲティングを実現した研究。

詳しい要約

1. どんなもの?

- 人間の動作を humanoid に転送する SMR という streaming neural motion retargeter を提案する研究。 - 人間動作を body landmark の位置・向き・速度に関する robot-aware な task-space target に変換する。 - physics expert が simulation 上で contact・dynamics・actuator 制約下にこれらの target を追従する。 - その実行状態軌跡で単一の strictly causal Transformer を学習し、各 frame で現在と過去の人間観測のみから robot motion reference を生成する。 - 下流の whole-body controller に渡して動作させる枠組み。

2. 先行研究と比べてどこがすごい?

- 従来の kinematic pipeline は幾何学的 matching で軌跡を規定するが、robot の dynamics 下で実行可能かは保証しない。 - 先行の physics-supervised neural 手法は physics-refined な kinematic 軌跡上で bidirectional な full-sequence model を学習し、規定の kinematic 解に縛られ非因果的な文脈を要する。 - SMR は semantic-conditioned physics expert から学習し、strictly causal Transformer により streaming で動作可能。 - 実験では semantic-conditioned physics expert が直接最適化ベースの retargeting より semantic fidelity と physical validity が高いと報告。 - 同一 whole-body controller 下で kinematic および physics-refined ba…

3. 技術・手法の肝は?

- 人間動作を robot-aware な task-space target(body landmark の位置・向き・速度)に変換する。 - physics expert が simulation 内で contact・dynamics・actuator 制約の下に target を直接追従する。 - semantic および physical validity check を通過し動作を完遂した expert の実行状態軌跡を学習データとする。 - 単一の strictly causal Transformer をその軌跡で学習する student モデル。 - 各 frame で現在・過去の人間観測のみを用い、下流 whole-body controller 向けの robot motion reference を生成する。

4. どうやって有効だと検証した?

- semantic-conditioned physics expert と直接最適化ベースの retargeting を比較し、semantic fidelity と physical validity で優位と示す。 - 学習した streaming retargeter を共通の whole-body controller 下で評価し、kinematic および physics-refined baseline より closed-loop 性能が向上することを示す。 - 詳細な評価指標・データセット・被験者実験の有無は要旨からは不明。

5. 議論はある?

- 要旨からは不明。 - 明示されているのは、physics expert の軌跡が semantic・physical validity check を通過したものに限られる点と、student が strictly causal で streaming 動作する点。 - 限界・失敗事例・計算コスト・sim-to-real の議論は要旨からは不明。

6. 次に読むべき論文は?

- 要旨で比較対象として挙げられている direct optimization-based retargeting、kinematic pipeline、physics-supervised neural な full-sequence retargeting の各手法。 - 下流の whole-body controller に関する関連研究。 - 具体的な論文名・著者名は要旨からは不明。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Chun Gu, Juntong Zhang, Jingyu Li, Li Zhang

分類: cs.RO

原文アブストラクト

Retargeting human motion to humanoids requires preserving motion semantics while accounting for the robot's physical constraints. Kinematic pipelines prescribe a robot trajectory through geometric matching, without establishing whether it can be executed under the robot's dynamics. Prior physics-supervised neural methods train bidirectional full-sequence models on physics-refined kinematic trajectories, remaining tied to prescribed kinematic solutions and requiring noncausal context. We propose SMR, a streaming neural motion retargeter learned from semantic-conditioned physics experts. We convert human motion into robot-aware task-space targets for body landmark positions, orientations, and velocities. Physics experts track these targets directly in simulation under contact, dynamics, and actuator constraints. We train a single strictly causal Transformer on their executed state trajectories that complete the motion and pass semantic and physical validity checks. At each incoming frame, the student uses only current and past human observations to generate a robot motion reference for a downstream whole-body controller. Experiments demonstrate that semantic-conditioned physics experts generate motion with higher semantic fidelity and physical validity than direct optimization-based retargeting, while the resulting streaming retargeter achieves improved closed-loop performance over kinematic and physics-refined baselines under a common whole-body controller.

関連論文

PR本紙発行元 EmplifAI