日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

週刊ニュースレター購読
3D占有予測arXiv:2610.34093

LegoOcc++: 一貫性のあるオープンボキャブラリ3D占有予測に向けて

LegoOcc++: Towards Consistent Open-Vocabulary 3D Occupancy Prediction

シェア:XThreadsFacebookLINEはてブBluesky

言語埋め込みガウシアンを用い、二値占有ラベルのみの幾何 supervision で屋内・屋外のオープンボキャブラリ3D占有予測を行う手法を提案。インスタンスレベルの意味一貫性と共視性を考慮した視点選択で断片化を抑制する。

詳しい要約

1. どんなもの?

- 屋内環境を含む open-vocabulary 3D occupancy prediction の研究 - 高価な voxel-level の意味アノテーションを不要にするため、binary occupancy のみの geometry-only supervision 設定を扱う - Language-Embedded Gaussians を統一表現として、3D geometry と言語整合した semantics を結合する - 屋内に加え outdoor driving シナリオにも拡張し、汎用性を評価するフレームワーク

2. 先行研究と比べてどこがすごい?

- 従来の open-vocabulary occupancy は主に outdoor driving を対象とし、屋内は dense occlusion・複雑な geometry・fine-grained long-tailed semantics のため困難だった - 本研究は屋内環境に取り組み、voxel-level の意味ラベルを必要とせず binary occupancy のみで学習する点が異なる - 単なる適用ではなく、geometry 学習と semantics 学習の双方に工夫を導入している - 屋内・屋外の両ベンチマークで評価し、異なる環境への generality も示す点が特徴

3. 技術・手法の肝は?

- 表現: Language-Embedded Gaussians を geometry と言語整合 semantics の統一表現として用いる - geometry: opacity-aware Poisson-based Gaussian-to-Occupancy formulation を導入し、binary occupancy supervision 下で安定した volumetric aggregation を実現 - semantics: Gaussian features を画像に render し、frozen な open-vocabulary model と align する - Progressive Temperature Decay により Gaussian splatting 時の feature mixing を低減 - Instance-Level Semantic Consistency で物体予測の断片化を緩和 - Covisibility-Aware Support-View Selection で情報量が多く冗長性の少ない m…

4. どうやって有効だと検証した?

- 屋内および屋外のベンチマークで広範な実験を実施 - 屋内・屋外の両方で強い open-vocabulary occupancy 性能を達成したと報告 - これによりフレームワークの有効性と汎用性を検証したと主張 - 具体的なデータセット名・指標・数値は要旨からは不明

5. 議論はある?

- 屋内環境の dense occlusion・複雑 geometry・long-tailed semantics への対処が動機として述べられている - binary occupancy のみの supervision で意味を獲得する設定の難しさが背景にある - 断片化した物体予測や multi-view 監督の冗長性への対処が設計上の論点 - 屋外への拡張で generality を議論 - 定量的な限界や失敗事例、計算コストなどの詳細は要旨からは不明

6. 次に読むべき論文は?

- Language-Embedded Gaussians を用いた occupancy/semantics 研究 - open-vocabulary 3D occupancy prediction の先行研究(屋内・屋外) - frozen open-vocabulary model との feature alignment を用いる手法 - Gaussian splatting を用いた 3D scene understanding - binary occupancy supervision による geometry learning 関連研究 - 具体的な参照論文名は要旨からは不明

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Changqing Zhou, Yueru Luo, Han Zhang, Zeyu Jiang, Changhao Chen

分類: cs.CV

原文アブストラクト

Open-vocabulary 3D occupancy prediction is important for embodied agents operating in complex environments whose semantic categories extend beyond fixed taxonomies. While recent studies have explored open-vocabulary occupancy in outdoor driving scenarios, indoor environments remain challenging due to dense occlusions, complex geometry, and fine-grained long-tailed semantics. To reduce the need for expensive voxel-level semantic annotations, we study a geometry-only supervision setting requiring only binary occupancy labels. We build upon Language-Embedded Gaussians as a unified representation coupling 3D geometry with language-aligned semantics. For geometry learning, we introduce an opacity-aware Poisson-based Gaussian-to-Occupancy formulation that enables stable volumetric aggregation under binary occupancy supervision. For semantic learning, we render Gaussian features into images and align them with a frozen open-vocabulary model, together with Progressive Temperature Decay to reduce feature mixing during Gaussian splatting. Building on this framework, we further introduce Instance-Level Semantic Consistency to alleviate fragmented object predictions, and Covisibility-Aware Support-View Selection to provide informative and less redundant multi-view semantic supervision. We also extend our framework to outdoor driving scenarios to evaluate its generality across substantially different environments. Extensive experiments on indoor and outdoor benchmarks demonstrate that our method achieves strong open-vocabulary occupancy performance, validating the effectiveness and generality of our framework. Code will be available at https://github.com/JuIvyy/LegoOcc.

関連論文

PR本紙発行元 EmplifAI