日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

週刊ニュースレター購読
ベンチマークarXiv:2611.01934

TriPhysBench:身体性エージェントの物理的知能を評価するベンチマーク

TriPhysBench: Evaluating Physical Intelligence for Embodied Agents

シェア:XThreadsFacebookLINEはてブBluesky

物理的知覚・知識検索・推論を統合評価する410問のベンチマークTriPhysBenchを提案し、さらにツール統合軌跡から統合方策を学習するTriPhysを導入した。

詳しい要約

1. どんなもの?

- 物理的知能を評価する新 benchmark『TriPhysBench』と学習 framework『TriPhys』の提案 - Popper の Three Worlds に着想、physical perception・physical knowledge retrieval・physical reasoning を同一評価設定に統合 - 200 本の動画から作成した 410 問 - measurement-grounded と knowledge-grounded の補完的 subtask で構成 - 観測取得と外部仕様獲得を定量問題へ適用する能力を測る - TriPhys は tool 統合 trajectory から unified policy を学習 - 中間推論で retrieval と computation を導き、tool feedback を後続の物理推論に取り込む - 事象認識を超え物理過程を理解・推論する embodied agents を目指す

2. 先行研究と比べてどこがすごい?

- 既存 benchmark は physical understanding や general-purpose tool use を進展させたが、物理シナリオでの能力協調は十分に特徴づけられていなかった - TriPhysBench は 3 能力を shared evaluation setting に持ち込む点が新しい - measurement-grounded と knowledge-grounded の subtask で観測取得と外部仕様獲得に相補的要求を課す - 代表的な vision-language model 6 種の最良でも answer accuracy は 50.38% にとどまり、協調を要する課題の難しさを明示 - TriPhys は完全な tool-integrated trajectory から unified policy を学習 - 学習外動画の 110 問で 3 つの Qwen 構成すべての answer/solution score を改善 - TriPhys-27B は Qwen3.6-27B backbone 比で answer…

3. 技術・手法の肝は?

- TriPhysBench の設計 - 200 本の動画から 410 問を作成 - Popper の Three Worlds に基づき 3 能力を shared setting で評価 - measurement-grounded / knowledge-grounded の subtask を設定 - TriPhys の学習 - 完全な tool-integrated trajectory から physical perception・knowledge retrieval・quantitative reasoning の unified policy を学習 - 中間推論が retrieval と computation を導く - tool feedback を後続の physical inference に組み込む - 具体的な model 構成・学習アルゴリズムの詳細は要旨からは不明

4. どうやって有効だと検証した?

- TriPhysBench 上で代表的な vision-language model 6 種を評価 - 最良でも answer accuracy は 50.38% - TriPhys を学習に用いていない動画由来の 110 問で評価 - 3 つの Qwen 構成すべてで answer score と solution score が改善 - TriPhys-27B は Qwen3.6-27B backbone に対し answer accuracy が相対 17.7% 向上 - 具体的な被験 model 名や評価指標の定義の詳細は要旨からは不明

5. 議論はある?

- 既存 benchmark では物理シナリオでの能力協調が十分に特徴づけられていないという問題意識を提示 - 最良 VLM でも 50.38% という結果から、複数能力の協調を要する課題の難しさを示唆 - TriPhys の改善は tool 統合 trajectory からの学習が有効である可能性を示す - benchmark の規模・被験 model 数・汎化範囲に関する限界や失敗要因の分析は要旨からは不明 - 倫理面・実世界適用時の安全性への言及は要旨からは不明

6. 次に読むべき論文は?

- 要旨で直接参照/比較されている研究は明示されていない - 関連手法として general-purpose tool use の benchmark、physical understanding の benchmark が言及されるが個別名は不明 - 同分野の定番として次に読む候補 - vision-language model の embodied 推論 benchmark(embodied question answering 系) - tool-augmented / tool-integrated reasoning の学習手法 - physical reasoning を扱う benchmark(physical commonsense / intuitive physics 系) - Popper の Three Worlds に関する哲学的背景 - 個別論文名は要旨からは不明

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Zhongxiang Sun, Chenghao Yang, Haojie Ding, Boheng Zhang, Fan Yang, Qingsong Wen, Kun Wang

分類: cs.AI, cs.CV

原文アブストラクト

Embodied agents need physical intelligence to understand their surroundings through physical perception, physical knowledge retrieval, and physical reasoning. These capabilities must work together to interpret events and make quantitative judgments. Existing benchmarks advance physical understanding and general-purpose tool use, yet the coordination of these capabilities in physical scenarios remains insufficiently characterized. Inspired by Popper's Three Worlds, we introduce TriPhysBench, a benchmark of 410 questions from 200 videos that brings physical perception, physical knowledge retrieval, and physical reasoning into a shared evaluation setting. Its measurement-grounded and knowledge-grounded subtasks impose complementary demands on obtaining observations and acquiring external specifications, then applying them to quantitative problems. Among six representative vision-language models, the best achieves an answer accuracy of only 50.38%, revealing limited performance on tasks that require these capabilities to work together. We further introduce TriPhys, a framework that learns a unified policy for physical perception, knowledge retrieval, and quantitative reasoning from complete tool-integrated trajectories. The policy uses intermediate reasoning to guide retrieval and computation, then incorporates tool feedback into subsequent physical inference. On 110 questions from videos excluded from training, TriPhys improves answer and solution scores across three Qwen configurations, with a 17.7% relative gain in answer accuracy for TriPhys-27B over its Qwen3.6-27B backbone. This work provides a benchmark and a learning pathway toward embodied agents that move beyond recognizing events to understanding and reasoning about the physical processes behind them.

関連論文

PR本紙発行元 EmplifAI