日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

sim2realarXiv:2611.14981

単一RGB画像からヒューマノイド動作を生成する統合パイプライン

From a Single RGB Image to Robot Execution: Metric Scene Alignment and Contact-Guided Retargeting

シェア:XThreadsFacebookLINEはてブBluesky

1枚のRGB画像からシーン形状を復元し、人間のインタラクション動作を生成してヒューマノイドロボットへ転送する手法を提案。転送前後の2段階補正で幾何学的整合性と接触関係を保つ。

詳しい要約

1. どんなもの?

- 単一の RGB 画像から humanoid の動作参照を生成する統合パイプライン - 入力画像から scene geometry を再構成 - 再構成 scene に条件付けした human interaction を生成 - humanoid robot へ retargeting - 幾何整合性を保つため embodiment transfer の前後に 2 段階の refinement を組み込む - 前段: Joint Metric Interaction Refinement (JMIR) - 後段: Contact Guided Residual Retargeting (CGRR) - 出力は再構成 scene と整合し、複数の pretrained humanoid tracker が scene 固有の policy fine tuning なしで追従可能な動作参照

2. 先行研究と比べてどこがすごい?

- 従来は新しい環境への humanoid interaction 生成に事前構築の 3D scene asset が必要だった - 単一 RGB 画像からの再構成でこの制約を回避しつつ、motion generation と transfer を通じた幾何整合性の維持に取り組む - 視覚的に妥当でも再構成 scene とずれる human motion、embodiment 差に起因する support error を 2 段階 refinement で補正 - GRAIL と比較して refinement 時間を 480 s から 87 s へ短縮(5.5 倍の高速化) - シミュレーションで成功率 89%、Unitree G1 での 50 回の物理 trial で 70% を達成

3. 技術・手法の肝は?

- 単一 RGB 画像から scene geometry を再構成し、その scene に条件付けして human interaction を生成 - retargeting 前に Joint Metric Interaction Refinement (JMIR) - 生成された interaction structure を保ちつつ、human motion と registered metric scene の位置合わせを refinement - retargeting 後に Contact Guided Residual Retargeting (CGRR) - robot 固有の support error を補正し、意図した support relationship を回復 - 前後 2 段階の refinement により、再構成 scene と整合する motion reference を生成 - 得られた参照は複数の pretrained humanoid tracker で利用可能で、scene 固有の policy fine tuning を不要にする

4. どうやって有効だと検証した?

- シミュレーションで complete pipeline の成功率 89% を報告 - Unitree G1 を用いた 50 回の物理 trial で成功率 70% を報告 - GRAIL との比較で refinement 時間 480 s → 87 s(5.5 倍高速化)を報告 - 複数の pretrained humanoid tracker が scene 固有の policy fine tuning なしで参照を追従できることを示す - 詳細な評価プロトコルや比較条件は要旨からは不明

5. 議論はある?

- 単一 RGB 画像からの再構成に伴う幾何整合性の課題を、生成と転送の前後 2 段階の refinement で扱う点を議論 - 視覚的に妥当な human motion が再構成 scene とずれる問題、human と robot の embodiment 差による support error を指摘 - 物理 trial の成功率 70% は sim の 89% より低く、実機での残存誤差や汎化限界が示唆される - 失敗要因の分析、scene 再構成誤差の影響、他 robot への一般性は要旨からは不明

6. 次に読むべき論文は?

- GRAIL(要旨で比較対象として参照) - pretrained humanoid tracker 群(要旨で言及) - Unitree G1 を用いた humanoid motion retargeting 関連研究 - 単一 RGB 画像からの 3D scene reconstruction 関連研究 - human interaction generation / motion retargeting の定番手法(一般名)

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Zhenxuan Ding, Yu Huang, Xinmiao Wang, Chenghao Sun, Ziyang Dong, Wenhao Cui

分類: cs.RO

原文アブストラクト

Extending humanoid interaction generation to new environments remains limited by the need for prebuilt 3D scene assets. Reconstructing scenes directly from single RGB images offers a way to overcome this limitation, but introduces a key challenge in maintaining geometric consistency throughout motion generation and transfer. Visually plausible human motions may be misaligned with the reconstructed scene, while retargeting can introduce additional support errors due to differences between human and robot embodiments. We present a unified pipeline that transforms a single RGB image into a humanoid motion reference. It reconstructs scene geometry from the input image, generates a human interaction conditioned on the reconstructed scene, and retargets the motion to a humanoid robot. To maintain geometric consistency throughout this process, we incorporate two complementary refinement stages before and after embodiment transfer. Before retargeting, Joint Metric Interaction Refinement (JMIR) refines human motion alignment with the registered metric scene while preserving the generated interaction structure. Following retargeting, Contact Guided Residual Retargeting (CGRR) corrects robot specific support errors to restore the intended support relationships. Together, these stages produce motion references that are consistent with the reconstructed scene and can be followed by multiple pretrained humanoid trackers without scene specific policy fine tuning. Compared with GRAIL, our method reduces refinement time from 480 s to 87 s, yielding a speedup of 5.5 times. The complete pipeline achieves a success rate of 89% in simulation and 70% across 50 physical trials on the Unitree G1, demonstrating its effectiveness in generating executable humanoid motion references from single RGB images.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2Hugging Face、ロボット学習基盤「LeRobot v0.7.0」を公開 対話操作と大規模データ学習に対応新製品・発表
  3. 3AGIBOTのG2 6台、上海のコンビニで24時間試験 1,730タスクを実施量産・展開
  4. 4Agility Robotics、ナスダックで取引開始 米国初の人型ロボット専業上場企業と報道業界動向
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術
PR本紙発行元 EmplifAI