日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

週刊ニュースレター購読
マニピュレーションarXiv:2610.13578

RARA: 検索に基づく表現アライメントによるロボットマニピュレーションのための堅牢なポリシー微調整

RARA: Robust Policy Fine-Tuning through Retrieval-Anchored Representation Alignment for Robotic Manipulation

シェア:XThreadsFacebookLINEはてブBluesky

事前学習済みロボットポリシーを少数の実演で新しいタスクに適応させる際、検索した類似実演の表現に合わせてアライメントし、微調整中の表現ドリフトを抑える二段階手法を提案。分布内・外での成功率を向上させた。

詳しい要約

1. どんなもの?

- 事前学習済みロボットポリシー(VLAモデル等)を少数のデモで新タスクに適応させる手法。 - 名前は Retrieval-Anchored Representation Alignment (RARA)。 - 2段階の適応手法で、fine-tuning時の表現ドリフトを抑える。 - Diffusion Policy と GR00T に適用。 - RoboTwin, RoboCasa, 実機の13タスクで評価。

2. 先行研究と比べてどこがすごい?

- 直接fine-tuningはin-distribution性能は高いが、事前学習表現を歪め、out-of-distribution汎化を弱める問題がある。 - RARAは表現ミスマッチを行動学習前に減らし、適応中の事前学習知識を保持する。 - 結果としてfine-tuningの平均成功率をin-distributionで9.5ポイント、out-of-distributionで13.6ポイント改善。 - 比較した全ベースラインを上回る。

3. 技術・手法の肝は?

- 第1段階: 類似したtask intentとmotionを持つ事前学習デモの表現特徴をretrieveし、対象デモのポリシー表現をretrieveしたデモの事前学習表現にalignする。 - 第2段階: 対象デモでポリシーをfine-tuneしつつ、retrieveしたデモの表現変化量を制限する。 - これによりfine-tuning中の不要な表現ドリフトを抑制する。

4. どうやって有効だと検証した?

- Diffusion Policy と GR00T を用いて、RoboTwin, RoboCasa, 実機の13タスクで実験。 - fine-tuningの平均成功率がin-distributionで9.5ポイント、out-of-distributionで13.6ポイント向上。 - 比較した全ベースラインを上回った。

5. 議論はある?

- 要旨からは不明。 - 限界や失敗事例、計算コスト、retrievalの品質依存性などは記述されていない。

6. 次に読むべき論文は?

- Diffusion Policy - GR00T - Vision-Language-Action (VLA) models - RoboTwin - RoboCasa

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Xuhui Kang, Sung-Wook Lee, Yan Zhuang, Tianle Zhong, Yen-Ling Kuo

分類: cs.RO, cs.CV, cs.LG

原文アブストラクト

Pre-trained robot policies, such as Vision-Language-Action (VLA) models, provide a strong foundation for generalist robotic manipulation, but adapting them to new tasks with only a few demonstrations remains challenging. Directly fine-tuning a pre-trained policy often achieves strong in-distribution performance, yet it can distort the representations learned during pre-training and weaken the model's generalization ability under out-of-distribution shifts. We propose Retrieval-Anchored Representation Alignment (RARA), a two-stage adaptation method, to address this issue. First, RARA retrieves representation features from pretraining with similar task intent and motion, and aligns the policy's representations of the target demonstrations with the pre-trained representations of the retrieved demonstrations. Second, RARA fine-tunes the policy on the target demonstrations while limiting how much its representations of the retrieved demonstrations change during fine-tuning. By reducing the representation mismatch before action learning and preserving pre-trained knowledge during adaptation, RARA limits unnecessary representation drift during fine-tuning. Experiments with Diffusion Policy and GR00T on 13 tasks in RoboTwin, RoboCasa, and on a real robot show that RARA improves the average success of fine-tuning by 9.5 points in-distribution and 13.6 points out-of-distribution, and outperforms all compared baselines. Project page: https://shua-kang.github.io/RARA_robot/

関連論文

PR本紙発行元 EmplifAI