日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

週刊ニュースレター購読
マニピュレーションarXiv:2611.00634

予測規制メモリによるロボットマニピュレーション

PREM: Prediction-Regulated Memory for Robot Manipulation

シェア:XThreadsFacebookLINEはてブBluesky

行動条件付き未来予測を活用して視覚メモリの学習と更新を制御するPREMを提案し、動的・記憶依存タスクでの成功率を大幅に向上させた。

詳しい要約

1. どんなもの?

- ロボット操作のための視覚記憶フレームワーク PREM (Prediction-Regulated Memory) の提案 - 現在の観測に含まれない過去の視覚情報や直近の動きを、visual state として保持する仕組み - action-conditioned future prediction を用いて、記憶の学習と更新の両方を制御する - vision-language-action policies に組み込む形で動作する

2. 先行研究と比べてどこがすごい?

- recurrent visual-memory architecture は履歴を visual state に保持できるが、その表現内容と更新方法が課題だった - PREM は未来予測を記憶学習の時間的 supervision と更新制御の両方に使う点が新しい - 単純な再帰記憶ではなく、予測誤差に基づき空間位置ごとに更新を調整する - ベースの $π_{0.5}$ に対し DOMINO で 9.63%→20.74%、RMBench M(1) で 14.4%→83.8% と大幅改善

3. 技術・手法の肝は?

- 訓練時: 未来の視覚特徴を予測させることで memory learning への temporal supervision を与える - 実行時: 前回決定時の予測と現在の視覚特徴を比較し、spatially normalized prediction discrepancy を算出 - その discrepancy を用いて各空間位置の visual state の更新を調整する - 更新後の visual state を現在の観測と併せて action generation の時間的文脈として供給 - 基盤は $π_{0.5}$

4. どうやって有効だと検証した?

- DOMINO の dynamic manipulation タスクで平均成功率 9.63%→20.74% - RMBench の M(1) memory-dependent 設定で 14.4%→83.8% - LIBERO と LIBERO-Pro で一般操作と空間摂動への頑健性の改善を確認 - 単一 NVIDIA H800 GPU で平均推論オーバーヘッド 7.7 ms

5. 議論はある?

- 推論オーバーヘッドは 7.7 ms と報告され、実時間性への影響が議論点になり得る - 予測誤差に基づく更新制御の有効性は示されるが、失敗事例や限界の詳細は要旨からは不明 - 空間摂動への頑健性改善の機序や一般化範囲は要旨からは不明 - 他タスク・他ロボットへの適用可能性は要旨からは不明

6. 次に読むべき論文は?

- $π_{0.5}$ (PREM の基盤となる vision-language-action policy) - recurrent visual-memory architecture を用いた既存の memory-based VLA 研究 - DOMINO (dynamic manipulation ベンチマーク) - RMBench (memory-dependent 操作ベンチマーク) - LIBERO / LIBERO-Pro (一般操作・頑健性評価ベンチマーク)

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Xiao Huang, Ya Zhang, Weidi Xie

分類: cs.RO, cs.CV

原文アブストラクト

A robot's next action can depend on recent motion or earlier visual evidence absent from its current observation. A recurrent visual-memory architecture can retain this history in a visual state, but its usefulness depends on what the state represents and how it is updated with new observations. We introduce Prediction-Regulated Memory (PREM), a framework that uses action-conditioned future prediction to guide both memory learning and updating in vision-language-action policies. During training, predicting future visual features provides temporal supervision for memory learning. During execution, PREM compares current visual features with the prediction made at the preceding decision and uses the spatially normalized prediction discrepancy to regulate updates to the visual state at each spatial location. The updated visual state supplies temporal context for action generation alongside current observations. Built on $π_{0.5}$, PREM improves average success rate from 9.63% to 20.74% on DOMINO dynamic manipulation tasks and from 14.4% to 83.8% on the RMBench M(1) memory-dependent setting. Further evaluations on LIBERO and LIBERO-Pro show improvements in general manipulation and robustness to spatial perturbations. PREM incurs a mean inference overhead of 7.7 ms on a single NVIDIA H800 GPU.

関連論文

PR本紙発行元 EmplifAI