日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

週刊ニュースレター購読
VLAarXiv:2610.41625

RTPolicy:エッジデバイス上で動作するリアルタイム多視点視覚運動ポリシー

RTPolicy: Real-Time (32.9 Hz) Multi-View Visuomotor Policy for Robotic Manipulation on Edge Devices

シェア:XThreadsFacebookLINEはてブBluesky

視点認識型の特徴融合と視覚圧縮により計算コストを削減し、エッジデバイス上で32.9Hzのリアルタイム推論を実現した多視点視覚運動ポリシー。

詳しい要約

1. どんなもの?

- ロボットマニピュレーション向けの visuomotor policy「RTPolicy」 - 複数視点(multi-view)のカメラ入力を用いる - edge device 上での低遅延・リアルタイム推論を狙う - 非同期推論(asynchronous inference)下での action chunk 更新を意識 - 推論遅延の削減を主要課題として設定 - 実機バイマニュアル(bimanual)プラットフォームとベンチマークで評価 - RoboTwin 2.0 と実機の両方で検証

2. 先行研究と比べてどこがすごい?

- 既存 visuomotor policy は計算コストの高い visual backbone に依存 - 推論遅延と deployment overhead が大きい点を問題視 - RTPolicy は視覚表現と action 生成の計算コストを削減しつつ精度を維持 - RoboTwin 2.0 single-task clean の 50 タスクで平均成功率 52.26% - 最強の leaderboard baseline である π0(46.4%)を上回る - 実機非同期ストリーミング推論で平均成功率 72.0% - RDK S600 で 30.35 ms(32.9 Hz)、RDK S100 で 149.72 ms(6.7 Hz) - いずれも INT16 での実時間推論を達成

3. 技術・手法の肝は?

- view-aware feature fusion と visual compression を組み合わせる - 複数カメラ視点の相補情報を compact token representation に集約 - 集約表現が flow-matching action generator を条件付け - robot state と flow time を条件入力として使用 - action 生成コストを削減 - 設計意図は視覚表現と action 生成の双方の計算コスト削減 - マニピュレーションに必要な視覚情報は保持 - 詳細なネットワーク構成や学習手順は要旨からは不明

4. どうやって有効だと検証した?

- RoboTwin 2.0 single-task clean 評価を 50 タスクで実施 - 平均成功率 52.26% を記録し π0(46.4%)と比較 - 実機バイマニュアルプラットフォームで非同期ストリーミング推論を評価 - 平均成功率 72.0% - edge device 上の推論速度を計測 - RDK S600 で 30.35 ms(32.9 Hz)、RDK S100 で 149.72 ms(6.7 Hz)、INT16 - 計算コスト削減と視覚情報保持の両立を実験的に示すと主張

5. 議論はある?

- 非同期推論における action chunk の即時更新の重要性を動機として提示 - 蓄積した偏差の補正を狙う - 視覚表現と action 生成のコスト削減と精度維持のトレードオフを議論 - ただし詳細な限界や失敗事例は要旨からは不明 - edge device 間の速度差(RDK S600 と S100)が示される - 計算資源差の影響に関する詳細な考察は要旨からは不明 - 実機評価はバイマニュアル環境に限定 - 他プラットフォームへの一般化は要旨からは不明

6. 次に読むべき論文は?

- π0(leaderboard baseline として比較) - flow-matching を用いた action generation 関連手法 - visuomotor policy における visual backbone 圧縮・効率化研究 - RoboTwin 2.0 ベンチマーク関連のマニピュレーション研究 - 非同期推論(asynchronous inference)下の action chunking 研究

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Xianbao Hou, Zehao Ni, Yonghao He, Lingfeng Qian, Xin Shi, Hu Su, Wei Sui, Cong Yang

分類: cs.RO

原文アブストラクト

Low inference latency is critical for closed-loop robotic manipulation, especially under asynchronous inference, where action chunks must be updated promptly to correct accumulated deviations. However, existing visuomotor policies rely on computationally expensive visual backbones, resulting in high inference latency and deployment overhead. In this paper, we propose RTPolicy, a multi-view visuomotor policy that attains accurate manipulation with high inference efficiency. Its core design combines view-aware feature fusion with visual compression to aggregate complementary information across camera views into a compact token representation. The representation conditions a flow-matching action generator with the robot state and flow time, reducing the cost of action generation. Extensive experiments demonstrate that this design reduces the computational cost of visual representation and action generation while preserving visual information required for manipulation. On the RoboTwin~2.0 single-task clean evaluation across 50 tasks, RTPolicy attains a mean success rate of 52.26\%, outperforming the strongest leaderboard baseline $π_0$ (46.4\%). We further evaluate RTPolicy under asynchronous streaming inference on a real bimanual platform, where RTPolicy attains a mean success rate of 72.0\% and sustains real-time inference at 30.35 ms (32.9 Hz) on the RDK S600 and 149.72 ms (6.7 Hz) on the RDK S100, both in INT16. Project Page: https://d-robotics-ai-lab.github.io/RTPolicy.project.

関連論文

PR本紙発行元 EmplifAI