日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

週刊ニュースレター購読
VLAarXiv:2610.26564

PrismWAM:ワールドアクションモデルにおける状態表現の分離

PrismWAM: Decoupling State Representations in World Action Models

シェア:XThreadsFacebookLINEはてブBluesky

外観(意味)と物理状態を分離し、意味計画→深度空間での物理ロールアウト→実行可能行動のパイプラインで操作タスクを解くワールドアクションモデルを提案。大規模事前学習なしで高い操作性能を示す。

詳しい要約

1. どんなもの?

- 本論文は World Action Models (WAMs) における『状態表現』の設計を問い直す研究。 - 従来 WAMs は pretrained video models の latent embeddings で世界を表現し、見た目(texture/color)と物理的配置(occupancy/pose)が絡み合う問題を指摘。 - 世界状態を『見え方(semantics)』と『行動下での変化(physics)』に分離すべきと主張。 - 提案手法 PrismWAM は physics と semantics を切り離しつつ state と action を同時にモデル化する。 - Semantic Planning → Physical Rollout → Executable Action のパイプラインで embodied task を分解する枠組み。

2. 先行研究と比べてどこがすごい?

- 従来 WAMs は video model の latent embedding に外観と物理配置が混在し、状態の構成要素が未検討だった点を問題化。 - PrismWAM は『世界がどう見えるか』ではなく『行動にどう応答するか』をモデル化する方向へ再定義する点が新しい。 - embodied action pretraining や追加の data augmentation を用いずに、simulation と real world で強い manipulation 性能を達成。 - 大規模 embodied action pretraining を持つ OpenWAM-α など幅広いモデルを上回ったと報告。 - ただし具体的な比較対象や数値の詳細は要旨からは不明。

3. 技術・手法の肝は?

- 初期 RGB 観測のみを入力とし、Semantic Planning で最終 goal image を予測する。 - Physical Rollout では goal に向かう fine-grained な変化を depth space で予測する。 - depth rollout から executable actions を生成する三段構成。 - 設計の肝は semantics(見え方・文脈)と physics(物理状態・変化)の分離、および state と action の同時モデリング。 - 具体的なネットワーク構成や学習損失の詳細は要旨からは不明。

4. どうやって有効だと検証した?

- simulation と real world の両方で manipulation 性能を評価したと記載。 - embodied action pretraining や追加 data augmentation なしで強い性能を達成したと報告。 - OpenWAM-α を含む大規模 embodied action pretraining モデル群を上回ったと主張。 - 具体的なタスク設定、ベースライン、評価指標、定量結果は要旨からは不明。

5. 議論はある?

- 世界状態を『見え方』と『行動への応答』に分ける設計思想の妥当性が中心的議論。 - WAMs を how the world looks から how it responds to action へ再枠組みする提言。 - occupancy、flow、tactile sensing、proprioception などに基づく action-centric world models への拡張可能性を示唆。 - 限界や失敗事例、depth 表現の十分性、real world 評価の詳細は要旨からは不明。

6. 次に読むべき論文は?

- OpenWAM-α(要旨で比較対象として明示)。 - pretrained video models を latent state に用いる一般的な World Action Models (WAMs)。 - depth を用いた manipulation や physical rollout に関する研究(具体名は要旨からは不明)。 - occupancy・flow・tactile sensing・proprioception に基づく action-centric world models 関連研究。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Tianyu Xin, Wanqi Zhong, Bowen Hu, Zhangchi Guo, Lijie Wang, Yiming Wang, Haoran Liao, Heyang Yu, Xiaoyu Tian, Zhiding Yu, Yiming Li

分類: cs.CV

原文アブストラクト

World Action Models (WAMs) typically represent the world through latent embeddings from pretrained video models, which entangle heterogeneous aspects of the world, from how it looks (e.g., texture and color) to how it is physically configured (e.g., occupancy and pose). This raises an underexplored question: $\textbf{what should constitute the state of a WAM?}$ We argue that the world state should separate how the world appears from how the world evolves under action: the former captures semantic context, while the latter is governed by physical state. To this end, we propose $\textbf{PrismWAM}$, which decouples physics from semantics while jointly modeling state and action. PrismWAM factorizes an embodied task into a $\mathrm{Semantic\ Planning}\rightarrow\mathrm{Physical\ Rollout}\rightarrow\mathrm{Executable\ Action}$ pipeline: given only the initial RGB observation, semantic planning learns to predict the final goal image, while physical rollout predicts the fine-grained evolution toward this goal in depth space; executable actions are then generated from the depth rollout. Without any embodied action pretraining or additional data augmentation, PrismWAM achieves strong manipulation performance in both simulation and the real world. Notably, PrismWAM even surpasses a broad range of models with large-scale embodied action pretraining (e.g., OpenWAM-$α$). More broadly, we reframe World Action Models from modeling how the world looks to how it responds to action, paving the way for action-centric world models grounded in occupancy, flow, tactile sensing, proprioception, and beyond.

関連論文

PR本紙発行元 EmplifAI