VLA/継続学習2026/8/20arXiv:2608.19589v1

OrthoSkillVLA: 勾配情報に基づくスキル部分空間適応による継続的スキル学習

OrthoSkillVLA: Continual Skill Learning via Gradient-Informed Skill Subspace Adaptation

事前学習済みのVLAモデルを複数のスキルに順次適応させる際に生じる破滅的忘却を防ぐため、VLMとActionHeadに別々の部分空間制約を課し、出力層には軽量なMoEデコーダを導入するパラメータ効率的な継続学習フレームワークを提案した。

詳しい要約

1. どんなもの？

OrthoSkillVLAは、事前学習済みのVision-Language-Action (VLA)モデルを複数のスキルに順次適応させる際の破滅的忘却を防ぐための、パラメータ効率的な継続的スキル学習フレームワークである。VLMとActionHeadの表現の異質性を考慮し、それぞれに異なる部分空間制約を課すことで、再利用可能な意味的容量を保持しつつ、局所的な速度パターンを保護する。出力層には、各スキルに軽量なエキスパートを割り当て、トレーニング不要のルータが特徴空間の親和性に基づいてエキスパートを選択する、特徴認識型MoEデコーダを導入する。デモンストレーションのリプレイを必要としない。

2. 先行研究と比べてどこがすごい？

従来のアーキテクチャベースのアプローチはスキルを分離して保持するが、推論時のフットプリントが増加する。最近の部分空間制約法は、パラメータ更新を直交部分空間に制限して干渉を最小化するが、モデル全体に統一された制約を課す。OrthoSkillVLAは、VLAの内部コンポーネントの役割の違いを分析し、VLMとActionHeadに別々の制約を課すことで、容量枯渇と速度パターンの感度の問題に対処する。また、出力層の凍結による表現ボトルネックと、更新による過去の速度マッピングの上書きリスクを、MoEデコーダで解決する。

3. 技術・手法の肝は？

手法の肝は、VLAモデルの内部構造を考慮した部分空間制約の分離と、出力層のMoEデコーダである。VLMは広範な意味表現を維持するため、容量枯渇を防ぐ制約を課し、ActionHeadは局所的な速度パターンを保護する制約を課す。出力層の速度デコーダは、凍結すると表現のボトルネックになり、更新すると過去の速度マッピングを上書きするため、軽量な特徴認識型MoEデコーダを導入する。各スキルにコンパクトなエキスパートを割り当て、トレーニング不要のルータが特徴空間の親和性に基づいてエキスパートを選択する。

4. どうやって有効だと検証した？

広範なシミュレーションと実世界の評価、およびアブレーション研究を通じて、OrthoSkillVLAが以前のスキルをより良く保持しながら新しいスキルを獲得することを実証した。具体的なベンチマークやタスクの詳細は要旨からは不明。

5. 議論はある？

要旨からは、議論の余地や限界についての具体的な記述は不明。ただし、提案手法はデモンストレーションのリプレイを必要としないが、MoEデコーダの導入によりモデルサイズが増加する可能性があり、また、ルータの設計やエキスパートの割り当てに関する詳細な分析が今後の課題となるかもしれない。

6. 次に読むべき論文は？

要旨で参照されている先行研究として、アーキテクチャベースのアプローチ、部分空間制約法、VLAモデルに関する研究が挙げられる。具体的には、Vision-Language-Actionモデルの継続的学習に関する論文や、部分空間適応を用いた継続学習の研究を読むことが推奨される。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Jiaqi Wang, Zhou Fang, Qiongfeng Shi, Yi Zhou

分類: cs.RO, cs.CV

原文アブストラクト

Pretrained Vision-Language-Action models provide a strong foundation for robot learning, but sequentially adapting them to diverse skills can perturb the representations and velocity mappings used by previous skills, leading to catastrophic forgetting. Architecture-based approaches improve retention by isolating skills but lead to increased inference footprint. Recent subspace-constrained methods restrict parameter updates in an orthogonal subspace to minimize interference but impose a unified constraint on the entire model. We analyze the distinct roles of internal VLA components and identify two VLA-specific challenges. First, the VLM maintains broad semantic representations, making it vulnerable to capacity exhaustion, whereas the ActionHead refines semantics into localized velocity patterns that are highly sensitive to perturbations. Second, the final velocity decoder serves as a readout layer. Freezing it forms an output-stage expressivity bottleneck, while updating it risks overwriting previous velocity mappings. To this end, we propose OrthoSkillVLA, a parameter-efficient framework for continual skill learning in pretrained VLA models without demonstration replay. Given the representation heterogeneity, we impose separate subspace constraints on the VLM and ActionHead, preserving reusable semantic capacity while protecting localized velocity patterns. For the output layer, we introduce a lightweight feature-aware MoE decoder, where each skill is allocated a compact expert and a training-free router selects the expert according to feature-space affinity. Extensive simulated and real-world evaluations, together with ablations, demonstrate that OrthoSkillVLA better preserves prior skills while acquiring new ones.

arXivで原文を読む →arXiv概要ページ

← 論文一覧