日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

週刊ニュースレター購読
ワールドモデルarXiv:2611.04870

PrimeSim: 大規模クロスエンボディメント実演から構築する汎用ワールドモデルシミュレータ

PrimeSim: A Generalist World Model Simulator from Large-Scale Cross-Embodiment Demonstrations

シェア:XThreadsFacebookLINEはてブBluesky

22種類のロボット実演3万時間超で学習し、行動追従・多視点一貫性・長期的整合性を備えた行動条件付きワールドモデルシミュレータを構築した論文。

詳しい要約

1. どんなもの?

- PrimeSimは、action-conditionedなmultiview world model simulator - 事前学習済みvideo generatorを出発点とする - 30,110時間・22プラットフォームのrobot demonstrationsでmidtrain - 高速なautoregressive simulatorとして長horizon rolloutを実現 - 主な特徴 - 指示actionへの忠実な追従 - camera view間の一貫性維持 - 長時間のcoherentなrollout - 10.1 FPSで動作 - model weights・inference code・training codeを公開

2. 先行研究と比べてどこがすごい?

- 5つのopen-source action-conditioned world modelsと比較 - WorldSimProbeの5スイート中4つでリード - EWMBenchで総合最高スコア - 従来のvideo generatorとの違い - 単なるplausibleなvideo生成ではなく、action追従・multiview一貫性・長horizon整合性を重視 - 転移性能 - held-out platformsへ100〜200 gradient stepsで転移可能 - pretrained backboneでは転移できない設定でも成立 - 限界 - fine-grained local calibrationは依然として他手法に劣る

3. 技術・手法の肝は?

- 段階的学習 - pretrained video generatorからのprogressive midtrainingとposttraining - action追従の強化 - unified cross-embodiment action representation - frame-aligned dual-path conditioningでaction-frame対応を強化 - multiview一貫性 - view-aware interleaved attentionに明示的camera identitiesを導入 - cross-view情報交換とview固有表現の保持を両立 - 長horizon化 - fast-video, slow-memory posttraining framework - bidirectional video generatorをefficient autoregressive simulatorへ変換 - fast causal generation・self-rollout training・hier…

4. どうやって有効だと検証した?

- 定量ベンチマーク - 5つのopen-source action-conditioned world modelsとの比較 - WorldSimProbe 5スイート中4つでリード - EWMBenchで総合最高スコア - 動作性能 - 10.1 FPSで動作 - 長horizon安定性 - rigidおよびdeformable manipulation tasksで長horizon rolloutの安定性を確認 - 転移検証 - held-out platformsへ100〜200 gradient stepsで転移 - 下流利用 - rolloutがGRPO-based policy optimizationを支える忠実度を持つことを確認

5. 議論はある?

- 強み - action追従・multiview一貫性・長horizon整合性の同時達成 - 高速推論と転移性 - GRPO-based policy optimizationへの応用可能性 - 課題・限界 - fine-grained local calibrationは依然として分野他手法に劣る - 具体的な誤差要因や改善方策は要旨からは不明 - 再現性 - model weights・inference code・training codeを公開

6. 次に読むべき論文は?

- 比較対象の5つのopen-source action-conditioned world models(個別名称は要旨からは不明) - WorldSimProbeおよびEWMBench(評価スイート) - GRPO-based policy optimization(関連するpolicy最適化手法) - 背景としてvideo generationのpretrained model、autoregressive video generation、hierarchical temporal memory関連研究

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Travis Davies, Wentao Ma, Lihao Guo, Tengfei Ma, Xiaowen Chang, Jiafeng Xu, Shilong Wang, Yiqi Deng, Shaowen He, Xiaoqi Li, Qian Zhu, Ran Cheng, Hao Dong

分類: cs.RO

原文アブストラクト

A robot world model that serves as a simulator must do more than generate plausible videos: it must faithfully follow commanded actions, maintain consistency across camera views, and sustain coherent long-horizon rollouts. We present PrimeSim, an action-conditioned, multiview world model simulator that addresses these challenges through progressive midtraining and posttraining. Starting from a pretrained video generator, we midtrain on 30,110 hours of robot demonstrations spanning 22 platforms. To improve action following, we introduce a unified cross-embodiment action representation and frame-aligned dual-path conditioning to strengthen action-frame correspondence. To maintain multiview consistency, we develop view-aware interleaved attention with explicit camera identities, enabling cross-view information exchange while preserving view-specific representations. We further introduce a fast-video, slow-memory posttraining framework that transforms the bidirectional video generator into an efficient autoregressive simulator. By combining fast causal generation, self-rollout training, and hierarchical temporal memory, PrimeSim mitigates error accumulation from self-generated histories and supports coherent long-horizon simulation. PrimeSim runs at 10.1 FPS, remains stable over long-horizon rollouts on rigid and deformable manipulation tasks, and transfers to held-out platforms within 100 to 200 gradient steps where the pretrained backbone does not. Against five open-source action-conditioned world models it leads four of the five WorldSimProbe suites and posts the best overall EWMBench score, while fine-grained local calibration still trails the field; its rollouts are faithful enough to support GRPO-based policy optimization. We release the model weights, inference code, and training code.

関連論文

PR本紙発行元 EmplifAI