日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

週刊ニュースレター購読
移動操作arXiv:2610.20552

KinoGen: 運動学的に接地した動画生成によるカスタマイズ可能なヒューマノイド移動操作リファレンス

KinoGen: Customizable Humanoid Loco-Manipulation References via Kinematically Grounded Video Generation

シェア:XThreadsFacebookLINEはてブBluesky

ロボットと物体のシミュレーション画像を条件に動画生成モデルで2視点動画を作り、それにモデルをフィットさせてヒューマノイドの移動操作リファレンスを合成するフレームワーク。キーフレーム編集で目標姿勢を指定でき、Unitree G1で追従方策を実機展開した。

詳しい要約

1. どんなもの?

- ヒューマノイドの loco-manipulation 参照軌道を、video generation により合成する KinoGen を提案。 - 対象ロボットと物体の calibrated render を条件に pretrained video generator を動かす。 - 生成された two-view video に同じモデルを fit させ、robot configuration space 内の参照を復元。 - human body proxy や retargeting を必要としない。 - 編集した keyframe を条件に再生成でき、指定した goal object pose を満たす参照が得られる。

2. 先行研究と比べてどこがすごい?

- video-based baseline と比べ、penetration と foot skating が低減。 - annotated contacts を 90% 以上保持。 - 従来の human body proxy や retargeting を経由せず、構成上 robot configuration space に参照が存在。 - 編集 keyframe による customization では、direct interpolation より penetration が大幅に少なく、指定 target を満たす。

3. 技術・手法の肝は?

- pretrained video generator を、simulated task instance 内の robot と object の calibrated render で条件付け。 - 生成 two-view video に同一モデルを fit させて参照を復元。 - body, hand, object priors で reconstruction を初期化。 - cross-view evidence に対する direct optimization で refine。 - 編集 keyframe も単なる rendered state として扱い、goal object pose を指定して再生成。

4. どうやって有効だと検証した?

- 8 つの loco-manipulation tasks で評価。 - video-based baselines と比較し、penetration と foot skating が低いことを確認。 - annotated contacts の 90% 以上を保持。 - customized references が全 prescribed target を満たし、direct interpolation より penetration が少ない。 - 合成参照で学習した tracking policies を Unitree G1 humanoid with dexterous hands に展開。

5. 議論はある?

- 要旨からは不明。 - 限界、失敗事例、計算コスト、汎化性に関する議論は要旨に記載なし。

6. 次に読むべき論文は?

- 要旨で参照/比較されている video-based baselines、direct interpolation、retargeting、human body proxy に関する研究。 - 同分野の定番として humanoid loco-manipulation、video generation、tracking policy に関する研究。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Qi Wu, Lulu Zhao, Sanghyun Hahn, Rishi Yennu, Emmy Yang, Dingqi Zhang, Tao Pang, Jiuguang Wang, Kuan Fang

分類: cs.RO

原文アブストラクト

We present KinoGen, a framework that synthesizes customizable humanoid loco-manipulation references through kinematically grounded video generation. KinoGen conditions a pretrained video generator on calibrated renders of the target robot and object in a simulated task instance and recovers the reference by fitting the same models to the generated two-view video, so that the reference lies in the robot configuration space by construction without a human body proxy or retargeting. Body, hand, and object priors initialize the reconstruction, and direct optimization against cross-view evidence refines it. Since an edited keyframe is simply another rendered state, a user can prescribe a goal object pose, regenerate the video around the edited keyframe, and obtain a reference that satisfies the pose exactly. Across eight loco-manipulation tasks, KinoGen yields lower penetration and foot skating than video-based baselines and preserves over 90% of annotated contacts, and its customized references satisfy every prescribed target with substantially less penetration than direct interpolation. Tracking policies trained on the synthesized references are deployed on a Unitree G1 humanoid with dexterous hands. Project webpage: https://kinogen-humanoid.github.io/.

関連論文

PR本紙発行元 EmplifAI