日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

週刊ニュースレター購読
sim2realarXiv:2611.06908

シミュレーションから獲得する知覚型ヒューマノイド動作

Perceptive Humanoid Motion from Simulation

シェア:XThreadsFacebookLINEはてブBluesky

1000件の手続き生成された家庭環境で視覚・言語・動作データを合成し、実世界未経験のまま実環境で91%の成功率を達成したヒューマノイド自律システムHALOを提案。

詳しい要約

1. どんなもの?

- ヒューマノイドロボットの自律システム「HALO」の提案 - 視覚・言語・動作の対応データをシミュレーションで合成するパイプラインで駆動 - 椅子への着座、指定物体への移動、半開きのドアの横歩き通過、テーブル下でのしゃがみ・這い、箱押しなどの身体技能を獲得 - これらの技能を組み合わせて長期的な複合タスクを遂行 - 実世界の家庭を訓練中に一切見ずに zero-shot で実環境へ転移

2. 先行研究と比べてどこがすごい?

- 従来は人間の teleoperation やウェアラブル capture 装置に依存し、1時間のデータ生成に最低1時間の人手を要していた - HALO は人手ではなく計算資源に応じてスケールする点が異なる - 手続き的に生成した約1000軒の家庭環境で vision-language-motion データを合成 - 大規模な paired supervision のデータ不足(data bottleneck)を計算によるデータ合成で緩和する方向性を示す

3. 技術・手法の肝は?

- 約1000軒の手続き生成された家庭環境をまたいで vision-language-motion データを合成するパイプライン - 画素と自由形式言語を低レベル関節コマンドへ対応付ける paired supervision をシミュレーション内で生成 - 獲得した複数の身体技能をオーケストレーションし、複合的な long-horizon タスクを解く - 個々のモジュール構成や学習アルゴリズムの詳細は要旨からは不明

4. どうやって有効だと検証した?

- 実世界の6つの未マップ環境において360回の試行を実施 - 訓練中に実家庭を一切見ていないにもかかわらず zero-shot 転移を達成 - 成功率91%を報告 - 着座・物体へのナビゲーション・半開きドアの横歩き通過・テーブル下のしゃがみ這い・箱押しなどの技能および複合タスクで評価

5. 議論はある?

- 人手依存のデータ収集に対する計算スケール型の代替を提示 - シミュレーションのみでの学習から実世界への zero-shot 転移可能性を示唆 - 限界・失敗事例・sim-to-real ギャップの詳細な分析は要旨からは不明 - 手続き生成環境の多様性が実世界の多様性をどこまで覆うかの議論は要旨からは不明

6. 次に読むべき論文は?

- 要旨で直接参照・比較されている研究は明示されていない - 関連手法として human teleoperation やウェアラブル capture 装置によるデータ収集研究 - 同分野の定番として sim-to-real transfer、vision-language-action モデル、手続き的環境生成(procedural generation)に関する研究を挙げる

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Siyuan Hu, Abulikemu Abuduweili, Yue Meng, Shipeng Liu, Quentin Leboutet, Chen Chen, Matthias Müller, Vladlen Koltun

分類: cs.RO, cs.AI, cs.CV, cs.LG

原文アブストラクト

Humanoid robots have the potential to automate a wide range of physical tasks. Progress toward generalist humanoid autonomy, however, remains constrained by a data bottleneck: mapping pixels and free-form language to low-level joint commands requires paired supervision, and no corpus of such data exists at sufficiently large scale. Some approaches rely on human teleoperation and wearable capture devices, which require at least an hour of human time to produce an hour of data. We present HALO, a humanoid autonomy system powered by a pipeline that synthesizes vision-language-motion data across a thousand procedurally generated homes. The corpus scales with compute rather than human labor. HALO acquires a repertoire of physical skills, including sitting on chairs, navigating to named objects, stepping sideways through half-open doors, crouching and crawling beneath tables, and pushing boxes. It orchestrates these skills to solve composite, long-horizon tasks. Without ever seeing a real home during training, HALO transfers zero-shot to the physical world, achieving a 91% success rate across 360 trials in six unmapped real-world environments. See https://apple-aiml-research.github.io/ml-halo/ for code and videos.

関連論文

PR本紙発行元 EmplifAI