日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

週刊ニュースレター購読
sim2realarXiv:2610.36592

LabWorld: 単眼動画から実験室の対話可能な4D世界を再構築するフレームワーク

LabWorld: Learning Interactive 4D Worlds for Scientific Experimentation

シェア:XThreadsFacebookLINEはてブBluesky

単眼RGB動画から実験器具の3Dアセット・シーン・物体の時系列状態・操作イベントを復元し、ピペッティングやボルテックス操作を再現可能な4D実験室世界を構築するReal2Sim手法を提案。

詳しい要約

1. どんなもの?

- LabWorld は、単眼 RGB 動画から対話可能な 4D 実験室世界を再構成する agent-driven な Real2Sim framework。 - 再利用可能な 3D asset、metric scene、時間変化する物体状態、procedure event を復元する。 - 出力は geometry・motion・articulation・event を明示的で編集可能な状態として持ち、replay・inspection・将来の embodied scientific system に供する。 - 対象は pipetting や vortexing などの実験操作。

2. 先行研究と比べてどこがすごい?

- 既存の laboratory simulator は手作業で構築した asset と事前定義 procedure に依存していた。 - laboratory video は実機材・配置・相互作用を含むが、情報が pixel に暗黙的に留まっていた。 - LabWorld は動画から asset・scene・状態・event を明示的に取り出す点で異なる。 - 汎用 agentic baseline と専用 reconstruction baseline を上回る性能を報告。

3. 技術・手法の肝は?

- 単眼 RGB 動画を入力とする agent-driven Real2Sim framework。 - 多フレーム観測を相補的な証拠として asset と scene の再構成に用いる。 - motion reconstruction では視覚・幾何観測に、実験操作の空間的・時間的要件を表す event constraint を組み合わせる。 - 出力として再利用可能 3D asset、metric scene、時間変化する物体状態、procedure event を復元。

4. どうやって有効だと検証した?

- 自研究室で収集した実 pipetting 動画と vortexing 動画で評価。 - pipetting では mean Mask IoU 0.501 で最強 baseline を 0.033 上回る。 - vortexing では mean Tube-Length-Normalized PCK-AUC 0.638 で最強 baseline を 0.035 上回る。 - pipetting 動画 5 本で、event-conditioned reconstruction により満たされる物理制約の割合が 14.3%(5/35)から 100%(35/35)へ向上。

5. 議論はある?

- 再構成された世界は geometry・motion・articulation・event を明示的・編集可能な状態として公開し、replay・inspection・将来の embodied scientific system に資する。 - 評価は pipetting と vortexing の実動画に限られ、他操作や他環境への一般化は要旨からは不明。 - 単眼 RGB 動画由来の再構成精度や event constraint の設計依存性についての議論は要旨からは不明。

6. 次に読むべき論文は?

- 比較対象の general-purpose agentic baseline と dedicated reconstruction baseline の原論文。 - Real2Sim 系の再構成手法(例: 単眼動画からの 3D/4D reconstruction)。 - laboratory simulator や autonomous scientific agent の関連研究。 - pipetting・vortexing 以外の実験操作への拡張を扱う研究。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Suozhi Huang, Kelsey Fu, Binxu Li, Luna Lyu, Kaize Wu, Wenbo Lu, David Smerkous, Jiahan Li, Siqi Zhu, Zhizhou Sha, Jiacheng Guo, Zhixuan Liang, Shilong Liu, Le Cong, Mengdi Wang

分類: cs.CV

原文アブストラクト

Autonomous scientific agents must not only reason about experiments but also interact with the physical environments in which they are executed. Existing laboratory simulators typically rely on manually constructed assets and predefined procedures, while laboratory videos capture real equipment, layouts, and interactions but leave this information implicit in pixels. We introduce LabWorld, an agent-driven Real2Sim framework for reconstructing interactive 4D laboratory worlds from monocular RGB video. LabWorld recovers reusable 3D assets, a metric scene, time-varying object states, and procedure events. Multi-frame observations provide complementary evidence for asset and scene reconstruction, while motion reconstruction combines visual and geometric observations with event constraints encoding the spatial and temporal requirements of laboratory interactions. We evaluate LabWorld on real pipetting and vortexing videos collected in our laboratory against general-purpose agentic and dedicated reconstruction baselines. For pipetting, LabWorld achieves a mean Mask IoU of 0.501, exceeding the strongest baseline by 0.033. For vortexing, it achieves a mean Tube-Length-Normalized PCK-AUC of 0.638, exceeding the strongest baseline by 0.035. On five pipetting videos, event-conditioned reconstruction increases the fraction of modeled physical constraints satisfied from 14.3% (5/35) to 100% (35/35). The resulting worlds expose geometry, motion, articulation, and events as explicit, editable state for replay, inspection, and future embodied scientific systems.

関連論文

PR本紙発行元 EmplifAI