日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

週刊ニュースレター購読
ベンチマーク/sim2realarXiv:2610.36420

SO-101 Bench:低コストアーム向け空間マニピュレーションのシミュレーションベンチマーク

SO-101 Bench: Accessible Spatial Manipulation

シェア:XThreadsFacebookLINEはてブBluesky

実機SO-101のデジタルツイン上に構築した、言語条件付き空間マニピュレーションのシミュレーションベンチマークを提案し、実機とのポリシーランキング一致やVLA・LLMエージェントの性能評価を示した。

詳しい要約

1. どんなもの?

- SO-101 のような低コストアーム向けの、言語条件付き空間マニピュレーションのシミュレーションベンチマーク。 - 実機 SO-101 セットアップの Isaac Lab digital twin 上に構築。 - 4 タスクを 5 families として採点。 - 138 objects を seen / unseen-instance / unseen-class の split に分割。 - 916 evaluation episodes に、held-out appearances、rotate-to-fit planning、occlusion memory のサブセットを含む。 - 3,629 simulated demonstrations を用意し、全ての学習ポリシーを等しい compute budget で fine-tune。

2. 先行研究と比べてどこがすごい?

- 既存の SO-101 ベンチマークは実機のみで、単純タスクかつ held-out objects が少ない。 - 本研究はシミュレーション上で言語条件付きの空間制約タスクを扱い、seen / unseen-instance / unseen-class の split と held-out appearances を備える。 - 公開ポリシーで SO-101 上の空間制約・言語条件タスクをそのまま遂行できるものがないというギャップに対応。 - digital twin が実機と同じポリシーランキングを再現する点を主張。

3. 技術・手法の肝は?

- 実機 SO-101 の Isaac Lab digital twin を構築し、シミュレーションで評価。 - 4 タスクを 5 families としてスコア化。 - 138 objects を seen / unseen-instance / unseen-class に分割し、held-out appearances、rotate-to-fit planning、occlusion memory のサブセットを用意。 - 3,629 simulated demonstrations で全学習ポリシーを等しい compute budget の下で fine-tune。 - 比較対象は 9 つの VLAs と world-action models、さらにコードを書き把持を学習ポリシーに委ねる LLM agent。

4. どうやって有効だと検証した?

- 実データなしで学習した 5 ポリシー(4 VLAs と 1 LLM agent)を、実機アームで未見環境・未見物体に対して実行。 - 同一重みでの実機結果がシミュレーションと完全に同じランキングになることを確認(Spearman rho = 1.00、MMRV = 0.000)。 - ただしシミュレーションは成功率を過大評価する。 - 9 つの VLAs と world-action models の比較で、最良の学習ポリシーは約 61%。 - LLM agent は 83.2% を記録し、ablation で harness と language model の選択が優位性の源と示す。

5. 議論はある?

- シミュレーションは実機と同じランキングを再現するが、成功率を過大評価する。 - 最良の学習ポリシーでも約 61% にとどまり、spatial placement、unseen object classes、rotate-to-fit planning が未解決課題として残る。 - LLM agent の 83.2% という優位性は harness と language model の選択に由来することを ablation が示す。 - 実機評価は未見環境・未見物体で行われたが、その他の一般化条件については要旨からは不明。

6. 次に読むべき論文は?

- 要旨で直接参照/比較されている研究は明示されていない。 - 関連手法として、本文で比較対象の VLAs、world-action models、LLM agent が挙げられる。 - 基盤として Isaac Lab の digital twin と SO-101 実機セットアップが重要。 - 同分野の定番として、言語条件付きマニピュレーションの VLA 系研究や world model 系研究を次に読む候補とする。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Truman Hickok

分類: cs.CV

原文アブストラクト

Low-cost arms such as the SO-101 have become the most common entry point to robot learning, yet no released policy performs spatially constrained, language-conditioned tasks on them out of the box, and existing SO-101 benchmarks run only on physical hardware with simple tasks and few held-out objects. We introduce SO-101 Bench, a simulated benchmark for language-conditioned spatial manipulation built on an Isaac Lab digital twin of a real SO-101 setup. It has four tasks scored as five families, 138 objects in seen, unseen-instance and unseen-class splits, 916 evaluation episodes with subsets for held-out appearances, rotate-to-fit planning and occlusion memory, and 3,629 simulated demonstrations on which every learned policy is fine-tuned under an equal compute budget. The twin ranks policies as the real robot does: five policies trained without real data, four VLAs and an LLM agent, keep their exact ranking when the same weights run on the physical arm in an unseen environment with unseen objects (Spearman rho = 1.00, MMRV = 0.000), although simulation overestimates success. Across nine VLAs and world-action models, the best learned policies score near 61%, with spatial placement, unseen object classes and rotate-to-fit planning remaining open. An LLM agent that writes code and hands grasping to a learned policy scores 83.2%, and an ablation shows that this lead comes from the choice of harness and the choice of language model.

関連論文

PR本紙発行元 EmplifAI