日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

週刊ニュースレター購読
VLAarXiv:2610.18711

少数の人間動画から方策をステアチューニング

Steertuning Policies from a Few Human Videos

シェア:XThreadsFacebookLINEはてブBluesky

100時間の一人称視点人間データで拡散方策を事前学習し、新タスクの5つの人間デモで2分間微調整して、逆サンプリング時に近い観測のデモで行動を誘導することで、新環境でのタスク成功率71%を達成した。

詳しい要約

1. どんなもの?

- ロボット学習の新しい手法「Steertuning」を提案。 - 5つの人間のデモンストレーションから、新しい環境で新しいタスクを5分以内に学習。 - 2つの要素から構成: - 100時間の自己中心視点の人間データセットで事前学習した400Mパラメータのdiffusion policy。 - 5つのデモで2分間(2000回の更新)ファインチューニングし、逆サンプリング中に最も近い観測のデモで行動をsteer。 - 12の新しい環境で12のタスクを71%の成功率で達成。 - データ収集から展開まで5分未満。

2. 先行研究と比べてどこがすごい?

- 従来のロボット学習は大量のロボットデモンストレーションを必要とした。 - Steertuningは5つの人間のデモのみで、新しい環境とタスクに適応。 - 事前学習により背景の違いに頑健で、空間的・物体的な一般化が可能。 - 従来手法と比べて必要なデータ量と時間を大幅に削減。

3. 技術・手法の肝は?

- 400Mパラメータのdiffusion policyを、100時間の密に注釈付けされたランダムインタラクションを含む自己中心視点の人間データセットで事前学習。 - 新しいタスクの5つのデモで2分間(2000回の更新)ファインチューニング。 - 逆サンプリング中に、展開環境の観測に最も近いデモを用いてポリシーの行動をsteer。 - embodiment transferのためのデータ処理パイプラインを設計。

4. どうやって有効だと検証した?

- 12の新しい環境(実験室から新しい家のキッチンまで)で12のタスクを評価。 - 71%の成功率を達成。 - データ収集からロボットポリシーの展開まで5分未満で完了。

5. 議論はある?

- 要旨からは不明。

6. 次に読むべき論文は?

- 要旨で参照/比較されている研究は明示されていない。 - 関連手法として、diffusion policy、人間のデモンストレーションからのロボット学習、embodiment transferが挙げられる。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Billy Yan, Isaac Tu, Kelly Lee, Blake Chang, Kenny Ma, Kanad Patel, Dhawal Kabra, Neer Patel, Kevin Wu, Lerrel Pinto, Irmak Guzey

分類: cs.RO, cs.AI

原文アブストラクト

Current recipes for robot learning require massive amounts of robot demonstrations to obtain robust and adaptive policies. In this work, we introduce Steertuning, a system that enables robots to learn new tasks in new environments from 5 human demonstrations in under 5 Steertuning consists of two parts. (1) We pretrain a 400M-parameter diffusion policy on our egocentric human dataset, which consists of 100 hours of densely annotated random interactions. This pretraining makes Steertuning robust to background differences and enables spatial and object generalization when deployed on new tasks. (2) Given 5 demonstrations of a new task, we finetune our model for only 2 minutes (2000 training updates) and steer the policy's actions during reverse sampling using the demonstration whose observation is closest to that of the deployment environment. Together with a carefully designed data processing pipeline for embodiment transfer, this enables Steertuning to achieve a 71% success rate across 12 tasks in 12 new environments, ranging from lab settings to kitchens in new homes. The entire process, from data collection for a new task to robot policy deployment, takes less than 5 minutes. Our full dataset, model weights, codebase, and robot videos will be made available at our website: https://steertuning.github.io.

関連論文

PR本紙発行元 EmplifAI