日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

週刊ニュースレター購読
物体探索arXiv:2611.00499

どこを見るべきかを知る:空間・意味融合による対話型物体探索

Knowing Where to Look: Interactive Object Search via Spatial-Semantic Fusion

シェア:XThreadsFacebookLINEはてブBluesky

VLMの意味的な尤もらしさと幾何的な占有証拠をベイズフィルタで3Dボクセル信念場に統合し、視点変更・移動・棚開けなどの行動選択を行う物体探索システムを構築、双腕移動ヒューマノイドで実証した。

詳しい要約

1. どんなもの?

- ロボットによる物体探索(interactive object search)の研究 - 人間が「意味的な直感(どこにありそうか)」と「幾何的な認識(見える/遮蔽/未探索)」を統合して探す点に着想 - 両者を明示的な3D belief上で統合するシステムを構築 - bimanual mobile humanoidにend-to-endで実装し評価

2. 先行研究と比べてどこがすごい?

- 既存のgeometric methodsは空間beliefを持つが深いsemantic理解を欠く - language-model based methodsはcommonsense知識を持つが空間への明示的beliefを持たない - 本研究はsemanticとgeometricの証拠を明示的3D beliefで統合 - geometry-only探索やLLM-based planning手法を上回ることを示した

3. 技術・手法の肝は?

- 物体ごとのVLM plausibility scoresを蓄積 - 幾何的なoccupancy evidenceを取得 - Bayesian log-odds filteringにより両者を統合し3D voxel belief fieldを構築 - 統合belief fieldの高belief領域が各ステップの行動選択を駆動 - 行動例: 別視点からの再観察、未探索領域への移動、閉じたcabinetへの物理的interaction

4. どうやって有効だと検証した?

- bimanual mobile humanoid上にシステムをend-to-endでdeploy - geometry-only searchおよびLLM-based planning methodsとの比較を実施 - 提案システムが両者を上回ることを実験的に確認 - 詳細な評価指標・データセットは要旨からは不明

5. 議論はある?

- semanticとgeometricのjoint reasoningが有効であることを主張 - 明示的3D beliefがhuman-likeな探索を可能にするという立場 - 具体的な限界・失敗事例・議論の詳細は要旨からは不明

6. 次に読むべき論文は?

- 比較対象のgeometry-only search手法(関連研究の詳細は要旨からは不明) - LLM-based planning手法(関連研究の詳細は要旨からは不明) - VLMを用いた物体探索・semantic mapping関連の定番研究 - Bayesian log-odds filteringを用いたoccupancy mapping関連研究

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Aditya Agarwal, Lucy Cai, Kelly Lu, Travis Manderson, Nicholas Roy, Tomás Lozano-Pérez, Leslie Pack Kaelbling

分類: cs.RO

原文アブストラクト

When searching for an object, humans naturally combine semantic intuition - reasoning about where the object is likely to be stored - with geometric awareness of what parts of the space are visible, occluded, or unexplored. Effective robot object search requires the same joint reasoning, yet existing methods rely on only one: geometric methods maintain principled spatial beliefs but lack deep semantic understanding, while language-model based methods leverage commonsense knowledge but maintain no explicit belief over space. We argue that jointly reasoning over semantic and geometric evidence in an explicit 3D belief enables human-like interactive object search that outperforms either modality alone. To test this claim, we build a system that accumulates per-object VLM plausibility scores and geometric occupancy evidence via Bayesian log-odds filtering into a unified 3D voxel belief field. High-belief regions in the combined belief field drive action selection at each step: taking a closer look from a different viewpoint, navigating toward an unexplored region of the workspace, or physically interacting with a closed cabinet. We deploy this system end-to-end on a bimanual mobile humanoid and find that it outperforms geometry-only search and LLM-based planning methods. Project website - https://skymanaditya1.github.io/objsearch-website/

関連論文

PR本紙発行元 EmplifAI