日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

週刊ニュースレター購読
身体性ビデオ生成arXiv:2611.06120

ReactWorld: 構造化された相互作用応答による身体性ビデオ生成

ReactWorld: Structuring Interaction Responses for Embodied Video Generation

シェア:XThreadsFacebookLINEはてブBluesky

ロボット行動による物体の応答を予測する身体性ビデオ生成モデル。相互作用の展開を事前に構造化して予測し、その予測を生成過程のフィードバックに用いることで、タスク意図や接触力学に整合した映像生成を実現した。

詳しい要約

1. どんなもの?

- ロボット行動によるシーン変化を予測する Embodied video world model - 生成される物体応答がタスク意図や接触ダイナミクスと不整合になる問題に対処 - 構造化された interaction anticipation で生成を導くモデル ReactWorld を提案 - 応答は局所領域・特定時間区間に集中する点に着目

2. 先行研究と比べてどこがすごい?

- 先行研究として PhysisForcing と比較 - RBench で平均 77.51、PhysisForcing を 3.29 点上回る - 9 カテゴリすべてで改善 - EZS-Bench で Domain score 86.98、平均 81.87 を達成 - chain-of-thought reasoning に着想を得た構造化 anticipation が特徴

3. 技術・手法の肝は?

- 生成 backbone の feature space に interaction response field predictor を導入 - participant roles、future motion response intensity、local motion changes を明示的に予測 - response feedback adapter が predicted と zeroed local dynamics 入力の差分から物体特徴の増分を形成 - 予測変位を temporal attention の positional bias に変換 - 物体特徴更新とフレーム間情報検索の二機構で生成を誘導

4. どうやって有効だと検証した?

- RBench で平均 77.51 を記録し PhysisForcing を 3.29 点上回る - 9 カテゴリすべてで改善を確認 - EZS-Bench で Domain score 86.98、平均 81.87 を達成 - 詳細な実験設定や被験者評価は要旨からは不明

5. 議論はある?

- 局所領域・特定時間区間への応答集中を前提とした設計の妥当性 - interaction anticipation と generative feedback の寄与分解は要旨からは不明 - 失敗ケースや限界、計算コストの議論は要旨からは不明

6. 次に読むべき論文は?

- PhysisForcing(比較対象の embodied video generation 手法) - chain-of-thought reasoning 関連研究 - Embodied video world model 分野の定番手法(例: video diffusion model 系) - RBench および EZS-Bench のベンチマーク論文

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Hanwei Liu, Huijia Zhang, Hanzhang Wang, Guangyu Liu, Hanbei Zhan, Linjie Hu, Bin Xiao, Xuan Zhou, Dong Zhang

分類: cs.CV, cs.RO

原文アブストラクト

Embodied video world models predict scene changes caused by robot actions, yet generated object responses may remain inconsistent with task intent and contact dynamics. Critical responses in embodied scenes often concentrate in local regions and specific time intervals. Inspired by chain-of-thought reasoning, we introduce ReactWorld, an embodied video generation model guided by structured interaction anticipation. In the generation backbone's feature space, an interaction response field predictor anticipates how the interaction will unfold, explicitly describing participant roles, future motion response intensity, and local motion changes. A response feedback adapter forms increments to object features from the difference between the object branch's outputs with predicted and zeroed local dynamics inputs. It also converts predicted displacements into positional biases for temporal attention. These two mechanisms guide object feature updates and information retrieval across frames, respectively. Through interaction anticipation and generative feedback, ReactWorld achieves an average score of 77.51 on RBench, outperforming PhysisForcing by 3.29 points with improvements in all nine categories. On EZS-Bench, it achieves a Domain score of 86.98 and an average score of 81.87.

PR本紙発行元 EmplifAI