日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

週刊ニュースレター購読
マニピュレーションarXiv:2610.12046

SkillWeave: 異種デモンストレーションを長期的器用マニピュレーションスキルへ織り上げる

SkillWeave: Weaving Heterogeneous Demonstrations into Long-Horizon Manipulation Skills

シェア:XThreadsFacebookLINEはてブBluesky

遠隔操作とキネステティック教示を組み合わせ、物体マスク条件付き拡散方策と後継者対応ターミナルステアリングにより、長期的な器用マニピュレーションを実現するフレームワークを提案。

詳しい要約

1. どんなもの?

- 長期的な dexterous manipulation のための heterogeneous demonstration framework「SkillWeave」を提案。 - 粗い reaching/transport には teleoperation、精密で contact-rich な skill には kinesthetic teaching を組み合わせる。 - 実世界の3つの long-horizon task で検証。

2. 先行研究と比べてどこがすごい?

- 単一の demonstration modality ではなく、sub-task ごとに適した modality を割り当てる点が新しい。 - kinesthetic data 収集時の demonstrator による visual mismatch を、object-mask-conditioned diffusion policy で明示的に扱う。 - 独立に学習した sub-task policy 間の distribution shift を successor-aware terminal steering で緩和。

3. 技術・手法の肝は?

- teleoperation と kinesthetic teaching を組み合わせた heterogeneous demonstration 収集。 - object-mask-conditioned diffusion policy: 訓練時は offline object segmentation を supervision に使用。 - 展開時は lightweight learned mask predictor を用い、online segmentation や image inpainting を回避。 - successor-aware terminal steering: predecessor policy からサンプルした行動の中から、successor の demonstrated initial-state distribution に近づくものを選択。

4. どうやって有効だと検証した?

- 実世界の3つの long-horizon task で評価。 - end-to-end success は平均27%。 - mask-conditioned kinesthetic policy により dexterous sub-task success は平均65%。 - successor-aware handoff の composition efficiency は平均87%。

5. 議論はある?

- demonstration modality を interaction regime に合わせることの有効性を示唆。 - kinesthetic visual mismatch への対処と、successor-supported state への handoff steering が long-horizon dexterous manipulation を大きく改善。 - 限界や失敗事例、計算コスト、他タスクへの一般化については要旨からは不明。

6. 次に読むべき論文は?

- 要旨で参照・比較されている個別研究は明記されていない。 - 関連手法として diffusion policy、kinesthetic teaching、teleoperation、object segmentation、successor-aware policy handoff が挙げられる。 - 同分野の定番として imitation learning、behavior cloning、hierarchical policy composition も次に読む候補。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Ryosei Tamura, Xiaoxiang Dong, Uksang Yoo, Yuemin Mao, Romina Mir, Jonathan Francis, Jeffrey Ichnowski

分類: cs.RO

原文アブストラクト

Dexterous manipulation requires both large-scale task progression and precise contact-rich interaction, making it challenging to collect demonstrations that effectively support both regimes. We present SkillWeave, a heterogeneous demonstration framework for long-horizon dexterous manipulation that combines teleoperation for coarse reaching and transport with kinesthetic teaching for precise, contact-rich skills. To address the visual mismatch introduced by the demonstrator's presence during kinesthetic data collection, we propose an object-mask-conditioned diffusion policy that uses offline object segmentation for training supervision and a lightweight learned mask predictor at deployment, avoiding online segmentation and image inpainting. To mitigate distribution shift between independently trained sub-task policies, we introduce successor-aware terminal steering, which selects among actions sampled from the predecessor policy to guide the system toward states supported by the successor's demonstrated initial-state distribution. Across three real-world long-horizon tasks, SkillWeave achieves 27% average end-to-end success. Mask-conditioned kinesthetic policies improve dexterous sub-task success to an average of 65%, while successor-aware handoffs achieve an average composition efficiency of 87%. These results show that matching demonstration modality to interaction regime, explicitly addressing kinesthetic visual mismatch, and steering policy handoffs toward successor-supported states substantially improves long-horizon dexterous manipulation. Videos and code are available at skillweave-authors.github.io .

関連論文

PR本紙発行元 EmplifAI