日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

週刊ニュースレター購読
VLAarXiv:2609.18058

Finder: 身体性グラウンディングのためのエージェント型閉ループ物体探索

Finder: Agentic Closed-Loop Object Finding for Embodied Grounding

シェア:XThreadsFacebookLINEはてブBluesky

言語で指定された物体を部分的に観測された3Dシーンから見つけるため、計画・証拠収集・検証・制御を閉ループで回すエージェント型手法を提案し、物体検索や質問応答で精度を向上させた。

詳しい要約

1. どんなもの?

- 部分的に観測された3Dシーンで、言語が指す物体を見つけるembodied groundingのためのagentic closed-loop object-finding primitive「Finder」を提案。 - groundingを固定シーン表現からの受動的retrievalとして扱わず、query-conditioned planning、scoped evidence gathering、candidate verification、accept/continue/abort controlを結ぶtyped loop stateを維持する。 - Habitat/HM3D上のopen-vocabulary embodied Object Retrievalと実世界RGB-Dシーンで評価。

2. 先行研究と比べてどこがすごい?

- 既存手法は、object searchをonline explorationと結合し、関連観測が既にある場合に高コストになり得る。 - あるいはpre-built open-vocabulary mapsやscene graphsを静的・one-shotでqueryする。 - Finderは、証拠が不完全・曖昧な場合にtop retrieved objectを返すだけでなく、後続のperceptionとcomparisonを再方向付けできる点が異なる。 - 強いbaselinesに対しaveraged 1m success rateを15.75ポイント改善。

3. 技術・手法の肝は?

- typed loop stateを維持し、query-conditioned planning、scoped evidence gathering、candidate verification、accept/continue/abort controlをリンクする。 - 証拠が不完全または曖昧な場合、loopが後続のperceptionとcomparisonをredirectする。 - grounding protocolを変えずにsequential object groundingやembodied object-centric question answeringへ転移するprimitive。

4. どうやって有効だと検証した?

- Habitat/HM3D上のopen-vocabulary embodied Object Retrievalで評価。 - 実世界RGB-Dシーンでも評価。 - averaged 1m success rateが強いbaselinesより15.75ポイント改善。 - sequential object groundingとembodied object-centric question answeringへの転移も確認し、spatial/temporal localizationを改善。

5. 議論はある?

- 要旨からは不明。 - 明示的なlimitationsやfailure cases、計算コスト、loop制御の詳細な議論は要旨に記載されていない。

6. 次に読むべき論文は?

- 要旨で参照/比較されている具体的な研究名は不明。 - 関連手法として、online explorationとobject searchを結合する手法、pre-built open-vocabulary mapsやscene graphsを静的・one-shotでqueryする手法が挙げられている。 - 同分野の定番としてembodied grounding、open-vocabulary object retrieval、Habitat/HM3Dベンチマーク関連の研究を読むとよい。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Shixiong Xu, Zhiyuan Chen, Song Ding, Rui Luo, Xiaowei Liang, Dongxu Miao, Zhiying Du

分類: cs.CV

原文アブストラクト

Finding the object referred to by language in a partially observed 3D scene is a core capability for embodied agents. Existing approaches either couple object search with online exploration, which can be costly when relevant observations have already been captured, or query pre-built open-vocabulary maps and scene graphs in a static, one-shot fashion. We present Finder, an agentic closed-loop object-finding primitive for embodied grounding. Instead of treating grounding as passive retrieval from a fixed scene representation, Finder maintains a typed loop state that links query-conditioned planning, scoped evidence gathering, candidate verification, and accept/continue/abort control. When evidence is incomplete or ambiguous, the loop can redirect subsequent perception and comparison rather than simply returning the top retrieved object. On open-vocabulary embodied Object Retrieval in Habitat/HM3D and real-world RGB-D scenes, Finder improves the averaged 1m success rate by 15.75 points over strong baselines. The same primitive also transfers to sequential object grounding and embodied object-centric question answering, improving spatial and temporal localization without changing the inner grounding protocol. Project page: https://finder-vln.github.io.

関連論文

PR本紙発行元 EmplifAI