日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

週刊ニュースレター購読
ワールドモデルarXiv:2610.30988

部分観測からのインテキスト学習型ワールドモデルによる双腕ロボットの柔軟衣類操作

In-Context Learning World Models for Robot Dual-Arm Manipulation of Soft Garment with Partial Observations

シェア:XThreadsFacebookLINEはてブBluesky

大規模シミュレーションで学習したトランスフォーマーベースのワールドモデルが、部分点群履歴から形状・素材特性を推論し、双腕ロボットによる衣類折り畳みの動作計画を実現する。

詳しい要約

1. どんなもの?

- 軟物体(衣類)を双腕ロボットで操作するための Soft-Object World Model を提案する研究。 - 部分的観測(partial point-cloud history)から形状・材料特性を推論し、行動条件付きで将来状態を予測する生成的世界モデル。 - transformer backbone を大規模シミュレーションの軟物体インタラクションで学習し、sim-to-real gap を緩和する工夫を加える。 - 世界モデルを Goal-Conditioned action planner と統合し、双腕での衣類折り畳みの動作生成を行う。

2. 先行研究と比べてどこがすごい?

- 学習型 world model は一般に大量の実世界データ収集が必要で、ダイナミクスを支配する潜在特性の推論機構も課題であった。 - 本手法は大規模シミュレーションの軟物体データで学習し、sim-to-real gap 緩和策を講じることで実世界データ依存を軽減。 - in-context learning により、重み更新なしでロボット embodiment、材料パラメータ、衣類の種類・形状、操作協調モードをまたいで汎化できる点を主張。 - 部分的観測からの full-state estimation と行動条件付きダイナミクス予測を統合する点が特徴。

3. 技術・手法の肝は?

- transformer backbone による Soft-Object World Model を構築。 - 可変長の partial point-cloud history に対する in-context learning を通じ、潜在的な形状・材料の手がかりを推論。 - 生成的な full-state estimation と action-conditioned dynamics prediction を実行。 - 大規模シミュレーションの軟物体インタラクションで学習し、sim-to-real gap を緩和する措置を導入。 - 世界モデルを Goal-Conditioned action planner と統合して動作合成を行う。

4. どうやって有効だと検証した?

- シミュレーションと実世界の両方で双腕衣類折り畳み(bimanual garment folding)を検証。 - 再構成忠実度(reconstruction fidelity)、予測精度(prediction accuracy)、タスク成功率(task success)の改善を報告。 - 具体的なベースラインや被験条件の詳細は要旨からは不明。

5. 議論はある?

- 部分的観測下での潜在形状・材料推論と、重み更新なしの汎化が主張の中心。 - sim-to-real gap の残存や、シミュレーション依存の限界については要旨からは不明。 - 実世界での衣類折り畳み以外のタスクへの一般性や失敗事例の議論は要旨からは不明。

6. 次に読むべき論文は?

- 要旨で明示的に参照・比較されている研究はない。 - 関連手法として world model、in-context learning、point cloud を用いた軟物体操作、sim-to-real transfer、Goal-Conditioned planning の代表的文献を次に読む候補として挙げる。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Hengyi Sim, Quentin Rouxel, Dennis Hong, Darwin Caldwell, Fei Chen

分類: cs.RO

原文アブストラクト

Robust manipulation of soft objects, such as garments, is a critical skill for service and household robots to adopt, but remains challenging due to its high-dimensional state space, and material-dependent deformations. Humans address this challenge by using mental world models that "imagine" the shape and material properties from partial observations, which enables them to predict how actions affect future states. As such, embedding such world models in robots allows for better generalization in manipulating a wide variety of garments in the real world. However, learned world models typically require large amounts of real world data that is strenuous to collect, and a mechanism to infer latent properties that govern dynamics. We present a Soft-Object World Model that performs generative full-state estimation and action-conditioned dynamics prediction using a transformer backbone trained on large-scale simulated soft object interactions, with measures to mitigate the sim-to-real gap. By learning to infer latent shape and material cues through in-context learning over a variable-length partial point-cloud history, the model generalizes across robot embodiments, material parameters, garment types and shapes, and manipulation coordination modes without weight updates. The world model is then integrated with a Goal-Conditioned action planner for motion synthesis. We validate the approach in simulation and real world for bimanual garment folding, reporting improvements in reconstruction fidelity, prediction accuracy, and task success.

関連論文

PR本紙発行元 EmplifAI