日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

週刊ニュースレター購読
模倣学習arXiv:2610.26455

ALIGN: アドバンテージ条件付き行動クローニングにおける条件推定と表現の整合

ALIGN: Aligning Condition Estimation and Expression in Advantage-Conditioned Behavior Cloning

シェア:XThreadsFacebookLINEはてブBluesky

ロボット操作データ中の成功・失敗・復帰が混在する軌道から、条件をポリシーの行動予測に直接整合させて活用するAC-BCフレームワークを提案し、実機タスクで成功率を大幅に改善した。

詳しい要約

1. どんなもの?

- 本論文は ALIGN と名付けた、vision-language-action ポリシー向けの condition-aligned な Advantage-Conditioned Behavior Cloning (AC-BC) フレームワークを提案する。 - 人間が収集したロボット操作データには成功行動に加え retry・pause・recovery・failure が混在する点に着目し、その混合品質データから頑健なポリシーを抽出することを狙う。 - 対象タスクは実ロボットでの ARX X5 による bowl stacking と Franka による key hanging。

2. 先行研究と比べてどこがすごい?

- 既存 AC-BC パイプラインは、estimator 由来の advantage score を閾値処理して条件に変換するため条件が noisy になり、また条件を prompt 経由で渡すため action vector field への影響が弱いという問題があった。 - ALIGN は条件を推定から行動予測まで一貫して整合させる点が新規。 - 閉ループ成功率は 90.0% / 56.7% で、最強の AC-BC baseline の 56.7% / 33.3% を上回った。

3. 技術・手法の肝は?

- ポリシーが扱うラベル空間において categorical pairwise condition を直接予測する。 - その条件を DiT action expert に AdaRMS modulation として注入し、flow time と融合させる。 - これにより条件信号が action vector field の予測に実効的に反映される設計となっている。

4. どうやって有効だと検証した?

- 意図的に混合品質にした実ロボットデータセット(標準デモと retry の多い軌跡の組み合わせ)で評価。 - ARX X5 の bowl stacking と Franka の key hanging の2タスクで検証。 - condition fidelity の向上、conditional vector-field separability の強化、閉ループ成功率の改善(90.0% / 56.7% 対 baseline 56.7% / 33.3%)を報告。

5. 議論はある?

- 成功・recovery・error が共存するデータから頑健な操作ポリシーを抽出するには、条件を推定から行動予測まで align することが有効だと結論づけている。 - 具体的な限界や失敗事例、計算コストなどの議論は要旨からは不明。

6. 次に読むべき論文は?

- 比較対象の最強 AC-BC baseline に関する論文。 - Advantage-Conditioned Behavior Cloning (AC-BC) の代表的研究。 - vision-language-action ポリシーおよび DiT action expert、AdaRMS modulation、flow matching 系の関連研究。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Zechen Wang, Zhenqi Qiu, Houlong Xiong, Suohang Zhang, Yiyu Ren, Wanting Xu, Hongfei Niu, Chengyang He, Ge Sun, Ran Cheng, Qian Zhu

分類: cs.RO, cs.AI

原文アブストラクト

Human-collected robot manipulation data often mix successful behavior with retries, pauses, recoveries, and failures. Advantage-Conditioned Behavior Cloning (AC-BC) can exploit such mixed-quality data, but only if the conditioning signal is both accurately constructed from offline trajectories and effectively incorporated into the policy's action-vector-field prediction. Existing pipelines can weaken this signal by thresholding estimator-derived advantage scores into noisy conditions, and by routing conditions through prompts that weakly affect the action vector field. We introduce ALIGN, a condition-aligned AC-BC framework for vision-language-action policies. ALIGN directly predicts categorical pairwise conditions in the policy-facing label space and injects them into a DiT action expert through AdaRMS modulation fused with flow time. We evaluate ALIGN on deliberately mixed real-robot datasets for ARX X5 bowl stacking and Franka key hanging, each combining standard demonstrations with retry-heavy trajectories. ALIGN improves condition fidelity, strengthens conditional vector-field separability, and achieves 90.0% and 56.7% closed-loop success, compared with 56.7% and 33.3% for the strongest AC-BC baseline. These results indicate that aligning conditions from estimation to action prediction is an effective way to extract robust manipulation policies from data in which success, recovery and error coexist.

関連論文

PR本紙発行元 EmplifAI