日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

週刊ニュースレター購読
ナビゲーションarXiv:2610.20121

HM3D-M3: マルチエージェント・マルチモーダル・マルチオブジェクト目標ナビゲーションのベンチマーク

HM3D-M3: A Benchmark for Multi-Agent, Multi-Modal, Multi-Object Goal Navigation

シェア:XThreadsFacebookLINEはてブBluesky

複数ロボットがカテゴリ名・画像・説明文で与えられた複数の物体目標を屋内で探索する新ベンチマークHM3D-M3を提案し、階層型目標割当手法とVLMエージェントチームの2つのベースラインを構築した。

詳しい要約

1. どんなもの?

- HM3D-M3は、Multi-Agent・Multi-Modal・Multi-Object Goal Navigationを1つのepisodeで統合したbenchmark。 - K体のagentがphotorealisticなindoor sceneの分散位置から開始し、M個のobject goalを探索する。 - 各goalはopen-vocabulary category、instance image、instance descriptionのいずれかで指定される。 - 1,000 validation episodes、379カテゴリ・3,926 goals、100K observation-assignment training samplesを提供。 - team-level metricsとしてgoal-level SRとmakespan-normalized SPLを導入。

2. 先行研究と比べてどこがすごい?

- 既存benchmarkはmulti-agent、multi-modal、multi-object goal navigationを個別に扱うのみ。 - 3要素を同一episodeに統合したbenchmarkは存在しなかった。 - 本benchmarkはそのgapを埋める初の統合benchmark。 - 加えて2つのbaselineを提案し、既存手法を上回る性能を示す。 - 実機heterogeneous 3-robot teamへのdeployも行う点が先行研究と異なる。

3. 技術・手法の肝は?

- HiGA: frozenなopen-vocabulary navigation policy上に構築した学習済みhierarchical goal assigner。 - LaViRA-M3: training-freeなVLM agentsのteam。shared mappingとprogress analysisを備える。 - 各agentはopen-vocabulary category、instance image、instance descriptionのいずれかで与えられたgoalを探索。 - team-level metricsとしてgoal-level SRとmakespan-normalized SPLを定義。 - 100K observation-assignment training samplesを提供し、学習を支援。

4. どうやって有効だと検証した?

- 1,000 validation episodes、3,926 goals、379 open-vocabulary categoriesで評価。 - adapted multi-robotおよびzero-shot手法は16--27% SR。 - 提案baselineは38--41% SRを達成し、相補的な強みと異なるfailure modeを示す。 - LaViRA-M3をheterogeneous 3-robot teamにdeployして検証。 - 詳細な実験設定や統計は要旨からは不明。

5. 議論はある?

- 提案baselineは相補的な強みと異なるfailure modeを持つと述べられている。 - 既存手法と提案手法の性能差(16--27% vs 38--41% SR)が議論の焦点。 - 実機3-robot teamへのdeploy可能性が示唆される。 - 具体的なfailure modeの内容や限界、議論の詳細は要旨からは不明。

6. 次に読むべき論文は?

- HiGA(本論文のbaseline) - LaViRA-M3(本論文のbaseline) - 既存のmulti-agent navigation benchmark - 既存のmulti-modal goal navigation benchmark - 既存のmulti-object goal navigation benchmark - open-vocabulary navigation policy - VLM agents - 要旨で参照/比較されている個別研究は明示されていないため、同分野の関連手法を挙げる。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Hongyu Ding, Kanyu Xu, Mingjia Chen, Zixuan Chen, Jieqi Shi, Jing Huo, Yifan Zhang, Yang Gao

分類: cs.RO

原文アブストラクト

Rapid progress in AI agents and robotics makes it a matter of the near future that humans are served by a team of robots. Such a team will receive several goals at once, each specified in whatever form is convenient for the human, such as a category name, a photo, or a spoken description. Existing benchmarks study multi-agent, multi-modal, and multi-object goal navigation in isolation, and a benchmark that places all three in one episode is missing. To fill this gap, we introduce HM3D-M3. A team of K agents starts at distributed locations in a photorealistic indoor scene and searches for an unordered set of M object goals, each given as an open-vocabulary category, an instance image, or an instance description. HM3D-M3 provides 1,000 validation episodes over 3,926 goals from 379 open-vocabulary categories, 100K observation-assignment training samples, and two team-level metrics, goal-level SR and makespan-normalized SPL. We further contribute two baselines. HiGA is a trained hierarchical goal assigner on top of a frozen open-vocabulary navigation policy, and LaViRA-M3 is a training-free team of VLM agents with shared mapping and progress analysis. Adapted multi-robot and zero-shot methods reach 16--27% SR, while our baselines reach 38--41% with complementary strengths and distinct failure modes. Furthermore, we deploy LaViRA-M3 on a heterogeneous three-robot team. Project page: https://robo-lavira.github.io/hm3d-m3/

関連論文

PR本紙発行元 EmplifAI