DeltaForge: マルチドメイン自動運転のための事後Mixture-of-Experts VLA

- 複数の運転ドメイン向けに個別 finetune された VLA (vision-language-action) モデル群を、事後的に単一の multi-domain モデルへ統合する手法 DeltaForge の提案。 - 各ドメインの expert の weights と小さな proxy set のみから統合し、N 個の per-domain モデルを 1 つにまとめる。 - 都市・off-road・highway、car・truck・ATV にまたがる 6 ドメインで評価。 - 単一モデルに近いパラメータ・計算コストで動作する post-hoc mixture-of-experts VLA。

- weight merging は heterogeneous なドメインが増えると精度が落ち、dense mixture-of-experts routing は統合コストが過大という課題があった。 - DeltaForge は merging・routing・centralized・federated の全 baseline を上回ると主張。 - per-domain expert の精度に迫りつつ、ほぼ単一モデルのパラメータ・計算コストを実現。 - 新ドメイン追加時に end-to-end retraining 不要で、shared basis へ weight update を射影するだけで済む点が新しい。 - 学習していないドメイン組合せにも汎化する。

- 同一 base model への finetune で得られる weight update が多くの構造を共有する性質を利用。 - 全 update をまとめて singular value decomposition (SVD) で分解し、共有部分 (全ドメイン共通) と小さなドメイン固有部分に分離。 - router はこの小さなドメイン固有部分のみを扱うため効率的。 - VLM reasoning experts 用と flow-matching dynamics experts 用の 2 つの協調する clip-level blind router を、proxy dataset 上の soft label から学習。 - 新ドメインは weight update を shared basis に射影するだけで追加可能。

- 都市・off-road・highway と car・truck・ATV にまたがる 6 つの多様なドメインで検証。 - per-domain expert の精度に迫る結果を示し、merging・routing・centralized・federated の各 baseline を上回った。 - 単一モデルに近いパラメータ・計算コストでの達成を報告。 - 明示的に学習していないドメイン組合せへの汎化も確認。

- 要旨からは不明 (具体的な限界・失敗ケース・ablation の議論は記述なし)。 - 主張として、heterogeneous ドメイン蓄積時の weight merging 精度低下と dense MoE routing のコスト問題を、SVD による共有/固有分解と軽量 router で緩和。 - proxy set 依存性や router の blind 性の影響などは要旨からは不明。

- weight merging 系 (model merging / task arithmetic など一般名) の比較対象。 - mixture-of-experts routing 系 (dense MoE routing) の比較対象。 - centralized 学習および federated learning の baseline。 - VLA の base model および flow-matching dynamics model に関する先行研究。 - singular value decomposition (SVD) を用いた低ランク分解・weight 分解の関連手法。