日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

週刊ニュースレター購読
マルチタスク学習arXiv:2610.36337

低ランク行列によるマルチタスク学習の競合解消

CRLoMTL: Conflict-Resolution through Low-rank matrices for Multi-Task Learning

シェア:XThreadsFacebookLINEはてブBluesky

タスクごとのLoRA更新をSVDで共通低次元部分空間に射影・統合し、推論時の追加分岐なしでマルチタスクの負の転移を抑える手法を提案。

詳しい要約

1. どんなもの？

- Multi-Task Learning (MTL) における negative transfer を低ランクパラメータ更新空間で緩和するパラメータ効率的フレームワーク CRLoMTL を提案。 - 各タスクが自身の LoRA 更新を task-specific pass で学習し、global shared-subspace fusion で統合する。 - 推論時は更新を backbone に折り込め、追加の runtime branch を持たない。

2. 先行研究と比べてどこがすごい？

- 既存の conflict-mitigation 手法は主に gradient space で動作し、明示的な task-gradient 操作と追加最適化ステップを要する。 - CRLoMTL は gradient 空間ではなく低ランク parameter-update 空間で干渉を緩和する点が異なる。 - 推論構造を変えずに済む点も従来手法との差異として示唆される。

3. 技術・手法の肝は？

- タスクごとに task-specific pass で自身の LoRA 更新を学習。 - SVD resolver と呼ばれる shared-subspace resolver を導入し、task adapters 間の共通低次元 orthonormal basis を singular value decomposition (SVD) で抽出。 - 各タスク更新をこの共有空間へ射影してから統合し、単一の deployment-time update にマージ。 - 統合後の更新は backbone に折り込み可能で、推論時 branch を追加しない。

4. どうやって有効だと検証した？

- Swin Transformer backbone を用い、PASCAL-Context、NYUD-v2、CelebA で実験。 - single-task baseline に対し最大 2.77% (PASCAL-Context)、5.03% (NYUD-v2)、3.50% (CelebA) の改善。 - single-task model が使うパラメータのごく一部のみを学習しつつ、良好な accuracy-parameter trade-off を達成。

5. 議論はある？

- 要旨からは不明。negative transfer 緩和の定量的分析や SVD resolver の設計選択に関する議論は要旨に記載なし。 - 推論時 branch 不要という利点は述べられているが、限界や失敗ケースの議論は要旨からは不明。

6. 次に読むべき論文は？

- 比較対象として示唆される gradient-space の conflict-mitigation 手法 (gradient surgery 系、PCGrad 等の一般名) を参照。 - 基盤技術として LoRA および singular value decomposition (SVD) 関連研究。 - 実験で用いられた Swin Transformer、PASCAL-Context、NYUD-v2、CelebA 関連の MTL ベンチマーク研究。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Ahmed Agiza, Tasneem Shaffee, Rahil Badkul, Sherief Reda

分類: cs.CV

原文アブストラクト

Multi-task learning (MTL) improves model efficiency by sharing representations across related vision tasks, but it often suffers from negative transfer when task updates interfere with one another. Existing conflict-mitigation methods typically operate in gradient space, requiring explicit task-gradient manipulation and additional optimization steps. We propose Conflict-Resolution through Low-Rank Matrices for Multi-Task Learning (CRLoMTL), a parameter-efficient framework that mitigates task interference in the low-rank parameter-update space. CRLoMTL learns task-specific LoRA updates through task-specific passes, where each task updates its own low-rank matrices, and integrates these updates through global shared-subspace fusion. Specifically, we introduce a shared-subspace resolver based on singular value decomposition (SVD), referred to as the SVD resolver, which extracts a common low-dimensional orthonormal basis across task adapters and projects task updates into this shared space before merging them into a single deployment-time update. The resulting update can be folded into the backbone, preserving the inference structure of the original model without additional runtime branches. Experiments with Swin Transformer backbones on PASCAL-Context, NYUD-v2, and CelebA show that CRLoMTL achieves a favorable accuracy-parameter trade-off, improving over single-task baselines by up to 2.77% on PASCAL-Context, 5.03% on NYUD-v2, and 3.50% on CelebA, while training only a small fraction of the parameters used by single-task models.

arXivで原文を読む →arXiv概要ページ

関連論文

← 論文一覧
PR本紙発行元 EmplifAI