日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

週刊ニュースレター購読
VPR/イベントカメラarXiv:2609.21219

イベントカメラによる多視点ジオローカリゼーション

Multi-viewpoint Geo-localization with Event Cameras

シェア:XThreadsFacebookLINEはてブBluesky

フレームベースのデータセットをイベントストリームに変換して視点変化に頑健なイベントベースの位置認識モデルMegaEventを学習し、新規データセットSpringfield-Event-VPRを提案した。

詳しい要約

1. どんなもの?

- Event cameraを用いたvisual place recognition (VPR) システム - 視点変化に頑健な位置推定を目指す - 5つの大規模geo-taggedデータセットをImage-to-Event (I2E) 変換で合成イベントストリーム化 - 事前学習済みevent-based vision transformer backboneをmulti-lossでfine-tune - MegaEventと命名 - 新データセットSpringfield-Event-VPRも導入

2. 先行研究と比べてどこがすごい?

- 既存のevent-based localizerは視点変化への対応が未検討 - 視点変化を強調したevent-basedデータセットも不足 - 既存のevent-based localizationデータセット3つで平均Recall@1 82% - 次点のevent-based手法を20 recall points上回る - frame-based VPRモデルをevent framesに直接適用した場合を8〜26 recall points上回る - Springfield-Event-VPRで最強baselineを9 recall points上回る

3. 技術・手法の肝は?

- 5つの大規模geo-taggedデータセットをImage-to-Event (I2E) 変換で合成event streamsに変換 - 事前学習済みevent-based vision transformer backboneを使用 - multi-loss functionでfine-tune - 視点に頑健な特徴量を学習 - システム名はMegaEvent - コード公開: https://github.com/AdamDHines/megaevent

4. どうやって有効だと検証した?

- 既存のevent-based localizationデータセット3つで評価 - 平均Recall@1 82%を達成 - 次点のevent-based手法を20 recall points上回る - frame-based VPRモデルをevent framesに直接適用した場合を8〜26 recall points上回る - 新データセットSpringfield-Event-VPRで評価 - 3.7kmの歩行ルートを3つのカメラ向きで記録、合計11.1km - 最強baselineを9 recall points上回る

5. 議論はある?

- 要旨からは不明 - 視点変化への頑健性が主な焦点 - 合成event streamsの有効性が示唆される - 実世界のevent-basedデータセットの不足が背景 - 新データセットの詳細な議論は要旨からは不明

6. 次に読むべき論文は?

- 要旨で参照/比較されている研究: - 既存のevent-based localization手法 - frame-based VPRモデル - Image-to-Event (I2E) 変換 - event-based vision transformer - 関連手法: - event-based visual place recognition (VPR) - 大規模geo-taggedデータセット - Springfield-Event-VPR - 同分野の定番: - event cameraを用いたSLAM - visual place recognition

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Adam D. Hines, Michael Milford, Tobias Fischer

分類: cs.CV, cs.RO

原文アブストラクト

Robot localization is an ongoing challenge that demands mapping and positioning systems that are tolerant to viewpoint change. Event cameras are attracting increasing interest and adoption in robotics; however, dealing with viewpoint variance is an under-investigated problem in existing event-based localizers. In addition, event-based datasets that emphasize viewpoint variance for challenging localization situations are scarce. Here, we introduce an event-based visual place recognition (VPR) system that performs robustly under viewpoint changes. We converted five large-scale geo-tagged datasets, conventionally used to train frame-based localization systems, into synthetic event streams using Image-to-Event (I2E) conversion, and used them to fine-tune a pre-trained event-based vision transformer backbone with a multi-loss function, yielding a system we call MegaEvent that learns viewpoint-robust features for place recognition. We achieved an average Recall@1 of 82% across three existing event-based localization datasets, leading the next best event-based method by 20 recall points, and frame-based VPR models applied directly to event frames by 8 to 26 recall points. We introduce a new, challenging dataset - Springfield-Event-VPR - which features a 3.7km walking route recorded in three camera orientations for a total of 11.1km, which MegaEvent outperforms the strongest baseline by 9 recall points. The code for MegaEvent is available at https://github.com/AdamDHines/megaevent.

関連論文

PR本紙発行元 EmplifAI