日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

週刊ニュースレター購読
動画生成評価arXiv:2610.31121

RGraph-Eval:タスク接地型シーングラフによるロボット動画生成の評価

RGraph-Eval: Task-Grounded Scene Graphs for Evaluating Robot Video Generation

シェア:XThreadsFacebookLINEはてブBluesky

生成されたロボット動画を、タスクに基づく時系列シーングラフで参照実演と比較し、物体・関係変化・3D軌道の観点から解釈可能に評価する枠組みを提案した論文。

詳しい要約

1. どんなもの?

- 生成されたロボット動画を評価するための参照ベースのフレームワーク RGraph-Eval を提案 - task-grounded な temporal scene graph を用いて、生成動画と参照デモの差異を明示化 - タスクの entity・interaction・motion を単一の解釈可能な scene graph 表現に統合 - 生成動画と参照デモに適用し、visible-object・relation-change・3D path-shape からなる解釈可能な RGraph-Eval score を算出 - 併せて ShareRobot-SG(10 の ShareRobot ソース由来 1,000 manipulation scenes に multimodal 表現を付与したデータセット)を導入

2. 先行研究と比べてどこがすごい?

- 評価次元ごとに別々の evidence representation を構築する従来手法と異なり、統一された解釈可能な scene graph 表現に整理 - 見た目の説得力ではなく、どの object が動いたか・grasp の消失・placement の逸脱といった interaction の誤りを明示的に捉える - 適応した SVG2 や SG-Ego との比較、3 つの video generator のベンチマークを含む - graph 注釈を評価以外にも再利用可能にする点が特徴(要旨より) - 具体的な先行研究の性能差の数値は要旨からは不明

3. 技術・手法の肝は?

- foundation-model pipeline により manipulation roles を特定 - 持続的な object masks を ground する - state transitions と action intervals を推論・検証 - 操作対象 object の motion を 3D で再構成 - この表現を生成動画と参照デモに適用し、visible-object・relation-change・3D path-shape の成分から RGraph-Eval score を算出 - ShareRobot-SG では同 multimodal 表現を注釈として付与

4. どうやって有効だと検証した?

- graph-generation quality と human video judgments への一致度を分離して評価 - 適応した SVG2 および SG-Ego との比較を実施 - 3 つの video generator からなるベンチマークで比較 - 具体的な評価指標の数値や被験者数は要旨からは不明

5. 議論はある?

- ロボット動画評価を、タスクの背後にある観測可能な entity と interaction に結びつける枠組みを提示 - graph 注釈が評価を超えて再利用可能である点を主張 - 限界・失敗ケース・計算コスト・foundation-model 依存性に関する議論は要旨からは不明

6. 次に読むべき論文は?

- 比較対象として挙げられている SVG2(適応版) - SG-Ego - ShareRobot(ShareRobot-SG の元データソース) - 関連する scene graph 生成・video generation evaluation の定番手法(具体名は要旨からは不明)

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Aleksandr Lazarev, Sofia Zimina, Roman Kuznetsov, Tatiana Zemskova, Iaroslav Koshelev, Dmitry Yudin

分類: cs.RO

原文アブストラクト

Generated robot videos can look convincing while depicting the wrong interac- tion: a different object is moved, a grasp disappears, or a placement ends out- side its destination. We introduce RGraph-Eval, a reference-based framework that makes these discrepancies explicit through task-grounded temporal scene graphs. Unlike approaches that construct separate evidence representations for different evaluation dimensions, we organize task entities, interactions, and motion within a unified, interpretable scene graph representation. A foundation-model pipeline identifies manipulation roles, grounds persistent object masks, infers and verifies state transitions and action intervals, and reconstructs manipulated- object motion in three dimensions. Applying this representation to a generated video and a reference demonstration supports an interpretable RGraph-Eval score with visible-object, relation-change, and 3D path-shape components. We also introduce ShareRobot-SG, a collection of 1,000 manipulation scenes from ten ShareRobot sources annotated with the multimodal representation. Our eval- uation separates graph-generation quality from agreement with human video judgments, and includes comparisons with adapted SVG2 and SG-Ego, a bench- mark of three video generators. The framework connects robot-video assessment to the observable entities and interactions underlying a task, while making the graph annotations reusable beyond evaluation. Code will be publicly available at https://github.com/SashaDance/rgraph-eval.

関連論文

PR本紙発行元 EmplifAI