日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

VLAarXiv:2611.25595

LoopedWAM:弾力的推論のためのループ型ワールドアクションモデル

LoopedWAM: Looped World Action Models for Elastic Inference

シェア:XThreadsFacebookLINEはてブBluesky

映像生成と行動予測を統合したワールドアクションモデルを、重み共有のループ構造で小型化し、推論コストに応じて深さを変える弾力的自己蒸留を提案した論文。

詳しい要約

1. どんなもの?

- LoopedWAM は video modeling と robotic action prediction を結合した World Action Models (WAMs) の軽量版 - 各 expert で共有された six-block core を再帰的に適用 - 30 transformer layers を実行しつつ、expert あたり 12 blocks のみ保存 - video expert と action expert を異なる深さで運用可能 - visual features は query ごとに1回計算 - action computation は sampling step ごとに繰り返す - elastic self-distillation による単一チェックポイント LoopedWAM-E も提案 - action-depth と sampling-step の予算を横断して学習 - 0.58B policy parameters、robot pretraining なし

2. 先行研究と比べてどこがすごい?

- 従来の WAMs は大規模な video/action transformers を必要とし deployment efficiency が低い - LoopedWAM は weight-shared な再帰構造でパラメータ保存量を削減 - 30 layers 実行に対し expert あたり 12 blocks のみ保持 - Fast-WAM と比較し、matched inference measurements で peak GPU memory を 7.4× 削減 - robot pretraining なしで LIBERO 96.1%、RoboTwin 2.0 91.9%、RoboCasaGR1 52.2% を達成 - LoopedWAM-E は単一チェックポイントから複数の accuracy-latency operating points を提供

3. 技術・手法の肝は?

- 各 expert 内で共有 six-block core を recurrently 適用する looped 構造 - video と action の非対称な推論コストを考慮した depth 設計 - visual features は query ごとに1回 - action は sampling step ごとに再計算 - elastic self-distillation により action-depth と sampling-step の予算を変えながら単一モデルを学習 - budget-aware training が aggressive な action-depth 削減に必要と ablation で示唆

4. どうやって有効だと検証した?

- LIBERO、RoboTwin 2.0、RoboCasaGR1 の benchmark で評価 - Fast-WAM との matched inference measurements で peak GPU memory を比較 - H100 上で LoopedWAM-E の latency-accuracy を測定 - 27.6 ms で 96.0%、24.7 ms で 95.2% on LIBERO - two sampling steps と four action loops で全3 benchmark で LoopedWAM から 0.5 points 以内 - 実機 AgileX PiPER arm で4タスク・80 trials 中 71.3% 成功 - weight-shared depth と action-depth 削減に関する ablation を実施

5. 議論はある?

- weight-shared depth は competitive performance を維持すると ablation で確認 - aggressive な action-depth 削減には explicit な budget-aware training が必要 - video と action の推論コスト非対称性を踏まえた depth 配分が設計上の論点 - 実機評価は AgileX PiPER arm の4タスク・80 trials に限定 - 他の robot platform やタスクへの一般化は要旨からは不明

6. 次に読むべき論文は?

- Fast-WAM(peak GPU memory 比較の対象) - World Action Models (WAMs) の代表的研究 - LIBERO、RoboTwin 2.0、RoboCasaGR1 の benchmark 関連研究 - elastic self-distillation や budget-aware training に関連する elastic inference 研究 - AgileX PiPER arm を用いた実機ロボット学習研究

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Anh Dao, Xinxin Liu, Hang Yu, Jeffrey A Chan Santiago, Yuzhang Shang

分類: cs.CV, cs.RO

原文アブストラクト

World action models (WAMs) couple generative video modeling with robotic action prediction but typically require large video and action transformers, limiting deployment efficiency. We present LoopedWAM, a compact WAM that recurrently applies a shared six-block core in each expert, executing 30 transformer layers while storing only 12 blocks per expert. To account for their asymmetric inference costs, the video and action experts can operate at different depths: visual features are computed once per query, whereas action computation repeats at every sampling step. We further propose elastic self-distillation, which trains a single elastic checkpoint, LoopedWAM-E, across action-depth and sampling-step budgets. With only 0.58B policy parameters and no robot pretraining, LoopedWAM achieves 96.1% success on LIBERO, 91.9% on RoboTwin 2.0, and 52.2% on RoboCasaGR1, while using $7.4\times$ less peak GPU memory than Fast-WAM under matched inference measurements. On LIBERO, LoopedWAM-E achieves 96.0% success in 27.6 ms or 95.2% in 24.7 ms on an H100, providing multiple accuracy-latency operating points from a single checkpoint; with two sampling steps and four action loops, it stays within 0.5 points of LoopedWAM on all three benchmarks. Ablations demonstrate that weight-shared depth preserves competitive performance, while aggressive action-depth reduction requires explicit budget-aware training. On a real AgileX PiPER arm, LoopedWAM succeeds in 71.3% of 80 trials across four tasks.

関連論文

  1. 1パナソニックHDなど、触覚に即応する両手作業AI「T-Rex」を共同開発研究・技術
  2. 2川崎重工業のロボット外販を報道新製品・発表
  3. 3Boston Dynamics、GlobalFoundriesでAtlasを試験へ 半導体製造で2027年初頭から半導体・GPU
  4. 4NVIDIA、ヒトの動きをロボットに適応する「SOMA Retargeter」を紹介研究・技術
  5. 5丸文、RealManのロボットアームやヒューマノイドを国内販売提携・買収

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI