日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

VLAarXiv:2611.25400

Dune:VLAのテスト時適応のための時間条件付き履歴誤差回帰を用いたゼロ次最適化器

Dune: A Zeroth-Order Optimizer with Time-Conditioned Historical Error Regression for VLA Test-Time Adaptation

シェア:XThreadsFacebookLINEはてブBluesky

VLAモデルのテスト時適応において、過去の最適化履歴から誤差を予測してゼロ次勾配推定と融合することで、逆伝播なし・低メモリで長期的な適応を安定化させる最適化手法を提案した。

詳しい要約

1. どんなもの?

- VLA(Vision-Language-Action)モデルのdeployment時のdistribution shiftに対処するTest-Time Adaptation(TTA)向けのzeroth-order(ZO)optimizer「Dune」を提案する研究。 - backpropagationベースの適応はメモリ負荷が大きく、ZOは推定varianceが高いという課題に対し、オンラインのhistorical error predictionと現在のperturbation観測を組み合わせて長期的な適応を安定化させる。 - LIBEROと実機ロボットで評価し、低メモリで高いsuccess rateを示すと主張。

2. 先行研究と比べてどこがすごい?

- backpropagationベースのTTAはresource-constrainedなロボットではメモリオーバーヘッドが大きい。 - 既存ZO手法は限られたperturbation budget下で推定varianceが高く、長期的な更新で停滞・劣化する。 - Duneはbackpropagationや追加のforward passなしにvariance reductionを実現し、長期的適応の安定性を改善する点が差分。

3. 技術・手法の肝は?

- 過去のoptimization dynamicsから軽量なtime-conditioned error predictorを学習。 - その予測をinstantaneousなZO推定と融合し、varianceを低減。 - backpropagationも追加forward passも不要。 - 高次元・小population領域で推定varianceが収束を制限することを理論的に特徴づけ、historical statistics利用の動機づけを与える。

4. どうやって有効だと検証した?

- LIBEROおよび実機ロボットでの実験でsuccess rateを評価。 - 低メモリフットプリントでの性能を確認。 - ablationによりclosed-loop stabilityとpost-disturbance recoveryの改善を確認。

5. 議論はある?

- ZO推定が初期には急速な改善を示すが長期更新で停滞・劣化する現象を出発点に、historical statisticsの有効性を議論。 - 理論的には高次元・小populationでのvarianceと収束の関係を特徴づけるが、具体的な限界や失敗ケースは要旨からは不明。

6. 次に読むべき論文は?

- zeroth-order optimization(ZO)関連手法。 - Test-Time Adaptation(TTA)関連研究。 - Vision-Language-Action(VLA)モデル関連研究。 - LIBEROベンチマーク。 - 要旨で個別に参照・比較されている論文名は不明。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Chengyang Dong, Ze Chen, Kai Ye, Chutian Wang, Heng Xu, Wei Mo, Maomao Li, Jiayan Xu, Jiayuan Wu, Yihao Xiao, Linhua Ye, Zhonghua Peng, Ruize Han, Jialong Sun

分類: cs.RO, cs.AI

原文アブストラクト

Test-Time Adaptation (TTA) enables Vision-Language-Action (VLA) models to handle distribution shifts during deployment without source-domain retraining. However, backpropagation-based adaptation incurs heavy memory overhead on resource-constrained robots, whereas zeroth-order (ZO) methods suffer from high estimation variance under limited perturbation budgets. We observe that while ZO estimation enables low-memory adaptation with rapid initial gains, it often stalls or degrades over long-horizon updates due to noisy gradient estimates. To address these limitations, we propose Dune, a zeroth-order optimizer that stabilizes long-horizon adaptation by coupling online historical error prediction with current perturbation observations. Specifically, Dune learns a lightweight, time-conditioned error predictor from past optimization dynamics and fuses its predictions with instantaneous ZO estimates, achieving effective variance reduction without backpropagation or extra forward passes. Additionally, we theoretically characterize how estimation variance restricts convergence in high-dimensional, small-population regimes, motivating the use of historical statistics. Extensive experiments on LIBERO and real-world robots demonstrate that Dune achieves superior success rates under a low memory footprint, with ablations confirming improved closed-loop stability and post-disturbance recovery.

関連論文

  1. 1パナソニックHDなど、触覚に即応する両手作業AI「T-Rex」を共同開発研究・技術
  2. 2川崎重工業のロボット外販を報道新製品・発表
  3. 3Boston Dynamics、GlobalFoundriesでAtlasを試験へ 半導体製造で2027年初頭から半導体・GPU
  4. 4丸文、RealManのロボットアームやヒューマノイドを国内販売提携・買収
  5. 5NVIDIA、SC26で科学研究向けAIエージェントとHPC基盤を発表新製品・発表

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI