日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

週刊ニュースレター購読
sim2realarXiv:2610.29432

物理に基づくノイズ分離と意味・幾何協調による現実的な深度学習

PRISM: Learning Realistic Depth via Physics-Grounded Noise Disentanglement with Semantic-Geometric Collaboration

シェア:XThreadsFacebookLINEはてブBluesky

深度ノイズを「センシング無効化」と「測定不正確さ」に物理的に分離し、3D基盤モデルの特徴を活用して現実的なノイズ付き深度を合成するPRISMを提案。実機ロボットで92.1%の成功率を達成。

詳しい要約

1. どんなもの?

- 実世界の depth sensor が示す複雑で異種的な noise を扱うための、physics-grounded な depth noise 合成フレームワーク PRISM の提案。 - monolithic(単一の黒箱的)な noise ではなく、noise を sensing invalidation と measurement inaccuracy の2つの modality に disentangle する点が中心。 - 3D Visual Foundation Model の特徴を spatial-semantic prior として活用する tripartite 構成。 - 目的は sim-to-real transfer における現実的な noisy depth の合成忠実度向上と、下流ロボティクス性能の改善。

2. 先行研究と比べてどこがすごい?

- 既存の sensor modeling は depth noise を monolithic な black-box 過程として扱い、異なる error modality を支配する物理機構の違いを無視していた。 - 本研究は noise を物理的起源に基づき sensing invalidation と measurement inaccuracy に分離し、それぞれに tailored な扱いを可能にする点が新しい。 - さらに 3D Visual Foundation Model の特徴を physics-based reasoning の prior として蒸留する点、および invalidation 領域の sparsity・class imbalance に対処する supervision 設計を導入する点が先行研究と異なる。 - ベンチマークで noisy depth synthesis の state-of-the-art fidelity を達成し、実世界ロボット実験で 92.1% の平均成功率を示したと主張。

3. 技術・手法の肝は?

- physics-grounded paradigm により monolithic noise を sensing invalidation と measurement inaccuracy の2 modality に disentangle。 - PRISM は tripartite framework として構成され、3D Visual Foundation Model の特徴を spatial-semantic prior として蒸留し physics-based reasoning に利用。 - invalidation 領域の sparsity と class imbalance に対処するため Hierarchical Positive-Prioritized Supervision を開発。 - 同 supervision は multi-scale positive-weighted objectives と positive-preserving dynamic hard mining strategy を統合し、artifact の精密な delineation…

4. どうやって有効だと検証した?

- Extensive benchmarks により、PRISM が noisy depth synthesis において state-of-the-art fidelity を達成したと報告。 - 下流の robotic experiments を実施し、実世界で 92.1% の平均成功率を達成。 - monolithic baselines と比較して有意な改善であると主張。 - ベンチマークの具体的データセット名、評価指標、ロボットタスクの詳細は要旨からは不明。

5. 議論はある?

- sensing invalidation と measurement inaccuracy への disentangle が有効であることを主張しているが、各 modality の分離精度や誤分離時の影響に関する議論は要旨からは不明。 - 3D Visual Foundation Model 特徴の寄与度や、Hierarchical Positive-Prioritized Supervision の各要素の ablation は要旨からは不明。 - 92.1% の成功率のタスク依存性、baseline の詳細、実環境のばらつきに対する頑健性は要旨からは不明。 - sim-to-real transfer の限界や、他の sensor modality への一般化可能性についても要旨からは不明。

6. 次に読むべき論文は?

- 要旨で直接参照・比較されている個別研究名は明示されていない。 - 関連手法として、3D Visual Foundation Model(例: DINOv2 系の 3D 拡張や VGGT など一般名としての 3D foundation model)に関する論文。 - depth sensor noise modeling や sim-to-real depth synthesis の代表的手法(例: CycleGAN 系の image translation、GAN-based depth noise synthesis、physics-based sensor simulation)。 - class imbalance 下の dense prediction に関する hard mining / positive-prioritized supervision の関連研究。 - 実世界ロボット操作における sim-to-real transfer のベンチマーク論文。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Xiujian Liang, Jiacheng Liu, Mingyang Sun, Qichen He, Anda Cheng, Cewu Lu, Jianhua Sun

分類: cs.RO

原文アブストラクト

Real-world physical sensing exhibits complex, heterogeneous noise patterns that deviate significantly from idealized simulation, posing a fundamental bottleneck for sim-to-real transfer. Existing sensor modelings typically treat depth noise as a monolithic black-box process, overlooking the distinct physical mechanisms that govern different error modalities. In this work, we introduce a physics-grounded paradigm that disentangles monolithic noise into two complementary modalities: \textbf{sensing invalidation} and \textbf{measurement inaccuracy}, enabling a tailored treatment of noise sources based on their physical origins. Building on this insight, we propose \textbf{PRISM}, a tripartite framework that distills 3D Visual Foundation Model features as rich spatial-semantic priors for physics-based reasoning. To address the inherent sparsity and class imbalance of invalidation regions, we develop Hierarchical Positive-Prioritized Supervision, integrating multi-scale positive-weighted objectives with a positive-preserving dynamic hard mining strategy to enforce precise artifact delineation. Extensive benchmarks demonstrate that PRISM achieves state-of-the-art fidelity in noisy depth synthesis. Furthermore, downstream robotic experiments show that PRISM facilitates a \textbf{92.1\%} average success rate in the real world, marking a significant improvement over monolithic baselines. Our project page is available at: \resizebox{\linewidth}{!}{\href{https://shawnleung-sii.github.io/prism-icml2026/}{https://shawnleung-sii.github.io/prism-icml2026/}.}

関連論文

PR本紙発行元 EmplifAI