日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

週刊ニュースレター購読
移動操作/sim2realarXiv:2608.17027v1

FetchMan: シミュレーション経験から学ぶ視覚的ヒューマノイド移動操作ポリシー

FetchMan: Learning Visual Humanoid Loco-Manipulation Policies from Simulated Experiences

シェア:XThreadsFacebookLINEはてブBluesky

シミュレーションで合成デモをクローンするだけでは性能が頭打ちになることを発見し、強化学習とFlow-GRPOによる微調整を組み合わせたエンドツーエンドのsim-to-realパイプラインを構築。実機Unitree G1で未見シーンへのゼロショット到達・把持を73.3%の成功率で達成した。

詳しい要約

1. どんなもの?

FetchManは、視覚に基づくヒューマノイドのloco-manipulation(移動と操作の統合)ポリシーを、シミュレーションでの経験から学習するエンドツーエンドのsim-to-realパイプラインを提案する研究。150,000以上のシーンを用いて訓練し、実機Unitree G1にゼロショットで展開、未見シーンでの単一物体の到達・把持タスクを73.3%の成功率で達成。さらに、複数物体への拡張も行い、汎用ポリシーへの第一歩としている。

2. 先行研究と比べてどこがすごい?

従来のloco-manipulation研究は、実機でのデモ収集が困難でデータ不足に悩まされていた。特にヒューマノイドは歩行とバランス維持が必要なため、テーブルトップ操作よりもデモ収集が難しい。本研究は、locomotion分野で一般的なシミュレーションデータからの学習と実機転移をloco-manipulationに適用し、データ収集のボトルネックを回避。さらに、単純な行動クローニングでは性能上限が低いことを示し、強化学習とFlow-GRPOによるポリシー改善を組み合わせることで、その限界を突破した点が新しい。

3. 技術・手法の肝は?

手法の核は3段階のパイプライン。まず、シミュレーションで合成デモを生成し、行動クローニングで初期ポリシーを学習。次に、そのポリシーをFlow-GRPO(Group Relative Policy Optimizationのフロー版)を用いて、単一のスパース報酬で強化学習により洗練する。この組み合わせにより、合成デモのクローニングだけでは到達できない性能を実現。さらに、150,000以上の多様なシーンを生成し、視覚的汎化を促進。

4. どうやって有効だと検証した?

FetchMan-Benchというシミュレーションベンチマークを新たに公開し、そこで評価。さらに、実機Unitree G1にゼロショット展開し、未見シーンでの単一物体の到達・把持タスクで73.3%の成功率を達成。また、複数物体トレーニングへの拡張も行い、その有効性を示した。

5. 議論はある?

要旨からは、行動クローニングの性能上限がデータ量に依存しないこと、強化学習による改善が重要であることが示唆されるが、具体的な議論(例えば、シミュレーションと実機のギャップ、複数物体への拡張の限界など)は要旨からは不明。また、73.3%の成功率は単一物体タスクであり、複数物体やより複雑なタスクでの性能は不明。

6. 次に読むべき論文は?

要旨で参照されている関連研究として、Flow-GRPO(Group Relative Policy Optimizationのフロー版)の元となるGRPO、およびlocomotion分野でのsim-to-real転移の定番手法(例えば、Sim-to-Real Transfer in Reinforcement Learning for Locomotion)が挙げられる。また、ヒューマノイドのloco-manipulationの先行研究(例えば、Humanoid Loco-Manipulation)も関連する。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Omar Rayyan, Zhi Li, Max Argus, Yuxin Jiang, Chang Yu, Chenfanfu Jiang, Yuchen Cui

分類: cs.RO

原文アブストラクト

Visual loco-manipulation policies that can generalize to novel scenes and objects have long been a goal of robotics research. However, today's data-hungry algorithms make collecting sufficient demonstrations a struggle for tabletop manipulation, and even more so for humanoids that must also walk and balance. Learning from simulated data and transferring that behavior to the real world, as is commonly done in locomotion, sidesteps this struggle, so we replicate that recipe for loco-manipulation. In doing so, we find that cloning synthetic demonstrations results in a low performance ceiling no matter the amount of training data. Reinforcement learning breaks through it, and refining the cloned policy with Flow-GRPO on a single sparse reward yields performance that synthetic behavior cloning cannot match. Together, these stages form our end-to-end sim-to-real pipeline spanning more than 150,000 scenes, which we use to train FetchMan. We evaluate it on FetchMan-Bench, a simulation benchmark we release, and deploy it zero-shot on a real Unitree G1, where our single-object reach-and-pick policy walks to and grasps a target across unseen scenes at 73.3% success. Finally, we extend this recipe to multi-object training, a first step toward loco-manipulation generalist policies at this data scale.