日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

世界モデルarXiv:2611.12557

WanderBench:動画から動的世界を探索する世界モデルのベンチマーク

WanderBench: Can World Models Explore Dynamic Worlds from Video?

シェア:XThreadsFacebookLINEはてブBluesky

動画を入力とする世界モデルが、被写体の同一性や事象の進行、再訪時の一貫性を保ちながら動的シーンを探索できるかを評価するベンチマークWanderBenchを提案し、訓練不要の改善手法WanderLandも示した。

詳しい要約

1. どんなもの?

- 入力動画を条件として、記録済みの実世界の動的シーンを探索できる video world model のためのベンチマーク。 - 名称は WanderBench。実写および AI 生成の単一ショット動画 745 本を含む。 - 難易度 3 段階(3〜25 秒)で構成され、カメラ経路を keyboard actions として与える。 - 6 次元・24 個の human-validated な sub-metrics で評価する。 - 用途として re-shooting、free-viewpoint replay、real-to-sim 環境を想定。

2. 先行研究と比べてどこがすごい?

- 既存 benchmark は単一画像や text prompt を起点とするものが中心。 - video-conditioned 生成の評価は主に perceptual quality と camera following に限られていた。 - WanderBench は探索時に subject identity、event progression、再訪時の scene consistency が保たれるかを直接評価する点が新しい。 - 動画を起点に動的シーンを探索する設定そのものを benchmark 化している。

3. 技術・手法の肝は?

- 745 本の single-shot source videos(実写・AI 生成)と、keyboard actions 形式の camera routes を対にする。 - 6 次元・24 sub-metrics の評価体系を human validation 付きで設計。 - 8 モデルを benchmark 上で比較評価。 - 併せて WanderLand を提案。training-free framework で、frozen model の各フレームを同一時刻の source に条件付け、再訪時には自身の以前の静的コンテンツに条件付ける。

4. どうやって有効だと検証した?

- 8 モデルの benchmark 評価により、clip が長くなると静的 scene と visual quality は保たれるが camera control と source dynamics を失うことを示す。 - どのモデルも再訪地点の consistency を保てないことを報告。 - WanderLand は 5 モデルで全次元を改善し、source-dynamics fidelity で最大 8.3 points 向上。 - sub-metrics は human-validated と記載。

5. 議論はある?

- 長尺化に伴う camera control と source dynamics の劣化が主要な課題として示唆される。 - 再訪時の scene consistency は現行モデルでは未解決。 - WanderLand は training-free で改善するが、対象は 5 モデルでの評価に留まる。 - 詳細な議論や限界は要旨からは不明。

6. 次に読むべき論文は?

- 要旨で参照・比較されている個別研究は明示されていない。 - 関連手法として video world models、video-conditioned generation、camera control を用いる生成モデル、real-to-sim 向け world model を挙げる。 - 具体的な論文名は要旨からは不明。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Yuhang Chen, Jiheng Li, Jiale Wang, Zai Wang, Guangyue Liu

分類: cs.CV, cs.AI

原文アブストラクト

Video world models conditioned on an input video make it possible to explore real, recorded dynamic scenes, enabling re-shooting of footage, free-viewpoint replay, and real-to-sim environments for embodied agents. Such uses require the generated rollout to stay faithful to the recorded world, yet existing benchmarks start from a single image or a text prompt, and video-conditioned generation is evaluated mainly on perceptual quality and camera following. These evaluations do not directly assess whether exploration preserves subject identity, event progression, and scene consistency upon revisiting a location. We introduce WanderBench, a benchmark for exploring dynamic worlds from video. It comprises 745 single-shot source videos of real and AI-generated content in three difficulty tiers (3-25 s), paired with camera routes given as keyboard actions, and evaluates six dimensions with 24 human-validated sub-metrics. Benchmarking eight models, we find that as clips grow longer, models keep the static scene and visual quality but lose camera control and the source dynamics, and that none keeps revisited places consistent. We further propose WanderLand, a training-free framework that conditions each frame of a frozen model on the same-instant source and, on revisits, on its own earlier static content. WanderLand improves five models on every dimension, by up to 8.3 points in source-dynamics fidelity.

関連論文

  1. 1パナソニックHDら、ロボット操作AI「T-Rex」を共同開発 12タスクで平均成功率65%研究・技術
  2. 2Hugging Face、ロボット学習基盤「LeRobot v0.7.0」を公開 対話操作と大規模データ学習に対応新製品・発表
  3. 3NVIDIA、Vera CPUのエージェント処理性能を公表 x86比で速度・電力効率を比較半導体・GPU
  4. 4Agility、SPAC合併でナスダック上場資金調達
  5. 5智元、清華大学などとCELを発表 96台のロボットで群体学習を検証研究・技術
PR本紙発行元 EmplifAI