日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

週刊ニュースレター購読
VLAarXiv:2611.02600

世界事前知識を行動モデルに蒸留するリアルタイムロボット制御

W2A: Distilling World Priors into Action Models for Real-Time Robotic Control

シェア:XThreadsFacebookLINEはてブBluesky

動画拡散モデルの中間表現を訓練時に行動モデルへ蒸留し、テスト時は動画モデルを捨てることでリアルタイム制御を可能にした二段階フレームワーク。LIBEROで95.9%の成功率を達成し、推論を約21倍高速化した。

詳しい要約

1. どんなもの?

- ロボット制御向けの新手法 **W2A** を提案した論文。 - 大規模pretrained video modelの未来想像能力を活用する **World Action Models (WAMs)** の枠組みに着想。 - 既存WAMsの推論時latency問題を解決するため、video modelをtest時に完全に捨てる **two-stage distillation framework**。 - リアルタイムなrobotic manipulationを対象とする。

2. 先行研究と比べてどこがすごい?

- 既存のWAMsはtest時にfuture statesを明示的にimagineする必要があり、計算overheadとlatencyが大きい。 - W2Aはvideo modelをtest時に完全に破棄し、action modelのみで推論する点が大きく異なる。 - LIBEROで平均成功率 **95.9%** を達成しつつ、代表的なWAM baseline比で約 **21x** 高速な推論を実現。 - 精度と効率の両立を示した点が先行研究に対する貢献。

3. 技術・手法の肝は?

- **two-stage distillation framework** を採用。 - 学習時にvideo diffusion modelの中間denoising representationsをaction modelへdistillする。 - 仮説として、video latent representationsは高次元だが、圧縮された低次元subspaceでaction生成への有効なsupervisionが可能と主張。 - これによりvideo modelの情報をaction modelへ効率的に転移し、test時はvideo model不要とする。

4. どうやって有効だと検証した?

- simulationとreal-worldの両設定でextensive experimentsを実施。 - LIBEROベンチマークで平均成功率 **95.9%** を報告。 - 代表的なWAM baselineと比較して約 **21x** の推論高速化を確認。 - competitiveな成功率と推論効率の改善を実験的に示した。

5. 議論はある?

- video latent representationsの高次元性に対し、低次元subspaceで十分という仮説を提示しているが、その理論的根拠の詳細は要旨からは不明。 - real-world設定での具体的なタスクや条件、失敗事例の分析は要旨からは不明。 - 蒸留される中間denoising representationsの選択や圧縮方法の詳細は要旨からは不明。

6. 次に読むべき論文は?

- 比較対象として言及される代表的な **World Action Models (WAMs)** のbaseline論文。 - 基盤となる **video diffusion model** および大規模pretrained video modelに関する研究。 - ベンチマークとして用いられた **LIBERO** の関連論文。 - robotic manipulation向けの **action model** やdistillation関連手法。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Xiaopeng Zhang, Yongjin Mu, Yueyang Weng, Chengzhi Zhao, Yanjie Li

分類: cs.RO

原文アブストラクト

World Action Models (WAMs) have recently shown great promise in robotic control, benefiting from the future imagination capability of large-scale pretrained video models. However, most existing WAMs require explicitly imagining future states at test time, incurring substantial computational overhead and latency that make them unsuitable for real-time robotic control. In this paper, we propose W2A, a two-stage distillation framework for real-time robotic manipulation that distills intermediate denoising representations from a video diffusion model into an action model during training, while entirely discarding the video model at test time. We hypothesize that although video latent representations are high-dimensional, a compressed low-dimensional subspace is sufficient to provide effective supervision for action generation. This makes it possible to transfer such information effectively into an action model. Extensive experiments in both simulation and real-world settings demonstrate competitive success rates while significantly improving inference efficiency. On LIBERO, W2A achieves a 95.9% average success rate. More importantly, W2A achieves about 21x faster inference than the representative WAM baseline.

関連論文

PR本紙発行元 EmplifAI