日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

週刊ニュースレター購読
生涯学習/模倣学習arXiv:2610.36374

リプレイ不要の生涯模倣学習のための階層的二重ルーティング注意機構

HIDRA: Hierarchical Dual-Routing Attention for Replay-Free Lifelong Imitation Learning

シェア:XThreadsFacebookLINEはてブBluesky

過去データを保存・再訪できない単一パス生涯模倣学習において、専門家選択の劣化を階層的二重注意とキー幾何正則化で抑え、LIBEROでリプレイ有無の既存手法を上回った研究。

詳しい要約

1. どんなもの?

- 実世界で連続的にマルチモーダル示範から適応するロボットエージェント向けの、replay-free・single-passのlifelong imitation learning設定を扱う研究。 - 過去データの保存・再訪ができない制約下で、逐次更新が表現空間を歪め、expert-based手法のrouting interferenceによりexpert選択が劣化する問題に着目。 - これを緩和するstructured routing framework「HIDRA」を提案。 - hierarchical dual-attention mechanismにより、instruction-levelのexpert retrievalとcontext-dependentなrefinementを分離する。 - key-level geometric regularizationを導入し、task内のalignmentとtask間のseparationを強制する。 - 拡張可能なexpert集合を備え、継続的適応を可能にする。

2. 先行研究と比べてどこがすごい?

- 先行研究との具体的比較は要旨からは不明。 - ただしreplay-freeおよびreplay-basedの両baselineに対して一貫して優位と報告。 - AUCとforward transferを改善しつつ、低いforgettingを維持。 - 特にhigh interferenceおよびlanguage variationの条件下でより大きな利得を示す点が特徴。 - replay-free設定でありながらreplay-based手法も上回る点が主張されている。

3. 技術・手法の肝は?

- hierarchical dual-attention mechanismが中核。 - instruction-levelのexpert retrievalとcontext-dependentなrefinementを分離(decouple)する。 - key-level geometric regularizationを導入。 - task内のalignmentを強制。 - task間のseparationを強制。 - これにより表現drift下でもroutingを安定化させる。 - 拡張可能なexpert集合をサポートし、継続的適応を可能にする構造。 - replay-free・single-passの逐次更新設定に対応。

4. どうやって有効だと検証した?

- LIBERO benchmark suites上で評価。 - より困難なvariantも含む。 - heterogeneousなtask sequences。 - paraphrased language instructions。 - replay-freeおよびreplay-basedのbaselineと比較。 - 指標はAUC、forward transfer、forgetting。 - 結果として一貫してbaselineを上回り、AUCとforward transferを改善しつつ低いforgettingを維持。 - high interferenceおよびlanguage variation下でより強い利得を確認。

5. 議論はある?

- 要旨からは不明。 - ただしrouting interferenceとrepresentation driftへの対処が中心的議論と推察される範囲で述べられている。 - replay-free・single-pass設定の制約下でのexpert選択の信頼性が焦点。 - 限界や失敗事例、計算コスト等の議論は要旨からは不明。

6. 次に読むべき論文は?

- 要旨で参照・比較されている研究:replay-free baselines、replay-based baselines(個別名称は要旨からは不明)。 - 評価に用いられたLIBERO benchmark suites。 - 関連手法として、lifelong imitation learning、expert-based routing、hierarchical attention、geometric regularizationを用いる継続学習手法。 - 同分野の定番として、experience replayを用いるcontinual learning、parameter isolation型の継続学習、mixture-of-experts型のrouting手法。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Fanqi Yu, Matteo Tiezzi, Cigdem Beyan, Tommaso Apicella, Vittorio Murino

分類: cs.RO, cs.AI

原文アブストラクト

Robotic agents operating in real-world environments must adapt continuously from a stream of multimodal demonstrations, often under constraints that preclude storing or revisiting past data. In this replay-free, single-pass lifelong imitation learning setting, sequential updates can progressively distort the representation space, making expert-based approaches particularly sensitive to routing interference, causing expert selection to degrade over time. We propose HIDRA, a structured routing framework that mitigates this issue through a hierarchical dual-attention mechanism, which decouples instruction-level expert retrieval from context-dependent refinement. To further stabilize routing under representation drift, HIDRA introduces a key-level geometric regularization that enforces both alignment within tasks and separation across tasks. The resulting approach enables reliable expert selection while supporting an expandable set of experts for continual adaptation. We evaluate HIDRA on several LIBERO benchmark suites, including more challenging variants with heterogeneous task sequences and paraphrased language instructions. Our approach consistently outperforms both replay-free and replay-based baselines, improving AUC and forward transfer while maintaining low forgetting, with stronger gains under high interference and language variation. The code is available at: https://github.com/yfqi/HIDRA.

関連論文

PR本紙発行元 EmplifAI