Reflex: 過去の行動を再利用・補正する高速ロボットポリシー配信

- ロボット政策の推論を高速化する serving layer「Reflex」の提案。 - 過去の政策実行結果をキャッシュし、backbone と action head を迂回する。 - 対象は action chunk を生成する現代的なロボット政策。 - リアルタイム制御の latency とマルチロボット serving の throughput を改善する。

- 画像・動画・音声生成の caching 成功に倣った中間 denoising state 再利用型の高速化と比較。 - 中間状態の再利用は、cache なしで denoising steps を減らすのと比べ利点が小さいことを発見。 - denoising 高速化では backbone が残り、GPU 時間の 70% を占め得る点を指摘。 - Reflex は中間計算でなく完全な action chunk をキャッシュし backbone と action head の両方を迂回する点が新しい。

- 過去の政策実行を backbone-free な経路に変換する serving layer。 - 完全な action chunk をキャッシュし backbone と action head を回避。 - 課題1: 類似観測でも異なる action が必要な場合がある。 - 課題2: 再利用時の小さな action 誤差が実行 stall に累積し得る。 - 対策は two-level cache correction。 - action level: 過去の政策決定から action-aware similarity を学習し、compatible な chunk を組み立て、軽量な residual correction で action mismatch を抑制。 - execution level: task progress を捉え、元の政策を適応的に refresh して累積誤差を抑え推論コストを均衡。 - 基盤政策自体は変更しない。

- 代表的な workload と実機ロボットで評価。 - 推論 latency を 1.4x〜11x 改善。 - throughput を 2.0x〜2.2x 改善。 - 同等の task success を維持。 - 詳細なベースラインやデータセットは要旨からは不明。

- 中間 denoising state 再利用の利点が限定的であるという知見を提示。 - backbone が GPU 時間の大部分を占め得ることを議論。 - 類似観測と異なる action の対応、誤差累積による stall を two-level correction で扱う。 - 基盤政策を変更せずに適用可能とする点を主張。 - 限界や失敗事例の詳細は要旨からは不明。

- 中間 denoising state を再利用する caching 型ロボット政策高速化研究（個別名は要旨からは不明）。 - action chunk を生成する現代のロボット政策（diffusion policy 系を含む、具体名は要旨からは不明）。 - 画像・動画・音声生成における caching 研究。 - 関連手法として diffusion policy、action chunking、residual correction、adaptive policy refresh が挙げられる。