PermVLA: 分解順序を正則化として活用するVLA学習

- Vision-language-action (VLA) ポリシーの学習において、action chunk の factorization order を正則化の選択肢として捉える研究。 - 従来は固定の left-to-right (LTR) factorization が一般的だが、同じ expert trajectory 分布は複数の有効な chain-rule factorization を持つ点に着目。 - causally anchored permutation (CAP) を導入し、chronological prefix を調整可能な形で action の reveal order をサンプリング。 - 展開時は決定的な LTR 制御を維持する。

- 従来の VLA 学習は固定 LTR factorization による teacher forcing が標準であり、factorization order は見過ごされてきた正則化の選択肢であると指摘。 - CAP は追加の demonstration なしに、1つの expert chunk から複数の条件付き予測問題を生成する conditional-set augmentation を実現。 - 単一の chronological prefix への依存を減らす点が先行研究と異なる。 - LIBERO と LIBERO-Plus で標準 LTR 学習を一貫して上回り、cross-dataset CALVIN 評価でも同様の優位性を示す。

- causally anchored permutation (CAP): 調整可能な chronological prefix を持つ action reveal order をサンプリング。 - 補助目的関数により、同一 expert chunk の異なる既知部分集合から action を予測するよう単一の共有ポリシーを訓練。 - conditional-set augmentation: 1つの expert chunk から複数の条件付き予測問題を生成し、追加デモンストレーションを不要にする。 - 展開時は決定的な LTR 制御を保持。 - diffusion action generators への拡張も示す。

- LIBERO と LIBERO-Plus での制御実験により、CAP が標準 LTR 学習を一貫して上回ることを確認。 - cross-dataset CALVIN 評価でも同様の優位性を確認。 - 2つの reveal order 間での chunk の joint log likelihood の期待二乗差を測る diagnostic により、CAP 訓練が reveal order 間の一致を内部化することを検証。

- factorization order が VLA 学習における見過ごされた正則化選択肢であると位置づけ。 - サンプリングされた subset-conditioned 補助目的が VLA 正則化を構築する一般的なレシピとなり得ることを示唆。 - diffusion action generators への拡張例を提示。 - 具体的な限界や失敗ケース、計算コストなどの議論は要旨からは不明。

- LIBERO - LIBERO-Plus - CALVIN - diffusion action generators - 関連手法として VLA ポリシー、teacher forcing、chain-rule factorization に関する研究