日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

クロスエンボディメント転移arXiv:2611.10061

UniLatent: 潜在観測アライメントによる異なる身体間の転移学習

UniLatent: Cross-Embodiment Transfer via Latent Observation Alignment

シェア:XThreadsFacebookLINEはてブBluesky

シミュレーションで生成したペア観測を用いて、異なるロボット間の視覚エンコーダを潜在空間で揃え、ピクセル変換なしでソースのデモをターゲットロボットに転移させるフレームワーク。

詳しい要約

1. どんなもの?

- UniLatent は、geometry・appearance・kinematics が異なるロボット間で demonstration を再利用するための cross-embodiment transfer framework。 - 共有 latent space 上で embodiment に起因する observation gap を縮小する。 - simulation で source-target の paired robot observations を render し、source visual encoder を frozen target encoder に align する。 - これにより source demonstrations で学習した policy が、pixel-level image translation なしで target observations 上で直接動作する。

2. 先行研究と比べてどこがすごい?

- 従来の pixel-translation baseline と比較して、平均で 30 points 以上上回る性能を示す。 - 3 つの simulation tasks と 2 つの target robot arms で最大 93% の zero-shot success を達成。 - pixel-level image translation を必要とせず、latent space での alignment により embodiment gap を扱う点が特徴。 - real-world xArm-to-Franka transfer では、task あたり 10 個の target demonstrations のみで fine-tuning し、27/30 successful rollouts を達成。

3. 技術・手法の肝は?

- simulation 上で source robot と target robot の paired observations を render する。 - source visual encoder を、frozen された target encoder に align するように学習する。 - alignment は共有 latent space 上で行われ、embodiment-induced observation gap を縮小する。 - source demonstrations を encoded して policy を学習し、その policy を target observations に直接適用する。 - pixel-level image translation は行わない。

4. どうやって有効だと検証した?

- 3 つの simulation tasks と 2 つの target robot arms で評価。 - zero-shot success が最大 93% に到達し、strongest pixel-translation baseline を平均 30 points 以上上回った。 - real-world では xArm から Franka への transfer を実施。 - task あたり 10 個の target demonstrations で fine-tuning し、27/30 successful rollouts を確認。

5. 議論はある?

- 要旨からは不明。 - ただし、simulation で paired source-target observations を render して alignment を行うため、sim-to-real や embodiment 間の見た目・運動学的差異への依存性については議論の余地があると考えられる。 - real-world 結果は xArm-to-Franka の 1 組の transfer に限られており、他の embodiment 組み合わせへの一般化は要旨からは不明。

6. 次に読むべき論文は?

- pixel-translation baseline(要旨で比較対象として言及) - cross-embodiment transfer / robot demonstration reuse に関する関連研究 - visual encoder alignment や latent space alignment を用いた imitation learning 関連手法 - xArm や Franka を用いた real-world transfer 研究

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Yufei Ding, Yi Du, Weiduo Yuan, Hao Jiang, Dylan Goetting, Lawrence Yunliang Chen, Daniel Seita, Yue Wang

分類: cs.RO, cs.CV

原文アブストラクト

Robot datasets are costly to collect and are usually tied to a specific embodiment, making it difficult to reuse demonstrations across robots with different geometry, appearance, and kinematics. We introduce UniLatent, a cross-embodiment transfer framework that reduces the embodiment-induced observation gap in a shared latent space. UniLatent renders paired source-target robot observations in simulation and aligns a source visual encoder to a frozen target encoder. A policy trained on encoded source demonstrations can then run directly on target observations, with no pixel-level image translation. Across three simulation tasks and two target robot arms, UniLatent reaches up to 93% zero-shot success, exceeding the strongest pixel-translation baseline by over 30 points on average. In real-world xArm-to-Franka transfer, fine-tuning with only 10 target demonstrations per task yields 27/30 successful rollouts. Code, videos and data are available at https://selina2023.github.io/unilatent/.

関連論文

  1. 1パナソニックHDら、ロボット操作AI「T-Rex」を共同開発 12タスクで平均成功率65%研究・技術
  2. 2Hugging Face、ロボット学習基盤「LeRobot v0.7.0」を公開 対話操作と大規模データ学習に対応新製品・発表
  3. 3NVIDIA、Vera CPUのエージェント処理性能を公表 x86比で速度・電力効率を比較半導体・GPU
  4. 4Agility、SPAC合併でナスダック上場資金調達
  5. 5智元、清華大学などとCELを発表 96台のロボットで群体学習を検証研究・技術
PR本紙発行元 EmplifAI