日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

週刊ニュースレター購読
3D再構成arXiv:2608.02191

DerainSplat: スパースな雨天視点からのフィードフォワードによるクリーンな3Dガウススプラッティング

DerainSplat: Feed-Forward Clean 3D Gaussian Splatting from Sparse Rainy Views

シェア:XThreadsFacebookLINEはてブBluesky

雨天の少数視点からクリーンな3Dシーンを再構成するフィードフォワード型フレームワークを提案し、天候要因の予測と整合性を利用して高品質な再構成を実現した。

詳しい要約

1. どんなもの?

DerainSplatは、まばらな雨天ビュー(sparse rainy views)からクリーンな3Dシーンをフィードフォワードで再構成するフレームワーク。画像デレイニングの進歩を3Dシーン再構成に拡張し、雨天条件下でも高品質な3D Gaussian Splatting (3DGS)を生成する。

2. 先行研究と比べてどこがすごい?

既存のフィードフォワード3DGS手法はクリーンな入力を仮定し、雨天条件では性能が低下する。また、従来のデレイニング手法は2D画像復元に焦点を当てており、3Dシーン再構成には対応していない。DerainSplatは、雨天ビューから直接クリーンな3Dシーンを再構成する初のフィードフォワード手法であり、天候要因の予測と利用により、この課題を解決する。

3. 技術・手法の肝は?

手法の肝は、天候ネット(weather net)が雨天コンテキストから天候要因(weather factors)を予測し、シーンサポート(scene support)と放射輝度サポート(radiance support)の2つのサポートマップを生成すること。シーンサポートはクロスビューコストボリュームマッチングを変調し、放射輝度サポートは深度整合された外観融合を駆動して破損ピクセルを補完する。さらに、導出された幾何学的証拠がガウシアンの不透明度を減衰させ、偽構造を抑制する。また、予測された要因を用いてクリーンビューを再レンダリングし、雨天入力と整合させる雨天サイクル一貫性(rainy cycle consistency)を導入。

4. どうやって有効だと検証した?

RealEstate10K、ACID、Mip-NeRF360、および実世界の雨天シーンを含む複数のデータセットで評価し、既存手法を上回る性能を確認。さらに、クロスデータセット一般化の強さも示した。

5. 議論はある?

要旨からは、限界や議論についての詳細は不明。ただし、合成データセットで訓練されているため、実世界の多様な雨天条件への一般化には課題が残る可能性が示唆されるが、実世界シーンでの検証も行われている。

6. 次に読むべき論文は?

要旨で参照されている関連研究として、フィードフォワード3D Gaussian Splatting手法(例:pixelSplat、MVSplatなど)や、画像デレイニング手法(例:Raindrop Removal、DerainNetなど)が挙げられる。また、3Dシーン再構成のベースラインとして、NeRFや3DGS関連の論文も関連する。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Fuzhen Jiang, Changyue Shi, Chuxiao Yang, Xinyuan Hu, Wenjie Ye, Minghao Chen

分類: cs.CV

原文アブストラクト

Although image deraining has advanced substantially, existing methods mainly focus on 2D image restoration. As spatial intelligence applications such as embodied AI and autonomous driving continue to emerge, reconstructing clean 3D scenes from sparse rainy views in a feed-forward manner becomes increasingly important. Existing feed-forward 3D Gaussian Splatting (3DGS) methods often assume clean inputs and collapse under rainy conditions. To this end, we present \textbf{\textit{DerainSplat}}, a feed-forward framework that reconstructs clean 3D scenes from only a few rainy views. To support this task, we build a large-scale multi-view derain dataset through a four-stage synthesis pipeline that sequentially models overcast illumination, depth-dependent haze, rain streaks, and lens raindrops, producing privileged weather factors. We introduce a weather net that predicts the weather factors from rainy context and yields two support maps. Scene support modulates cross-view cost-volume matching, while radiance support drives depth-aligned appearance fusion to fill corrupted pixels. The derived geometry evidence further attenuates Gaussian opacity to reduce spurious structures. A rainy cycle consistency re-renders clean views using the predicted factors and aligns them with rainy inputs. Extensive experiments show that \textbf{\textit{DerainSplat}} outperforms existing methods on various datasets, including RealEstate10K, ACID, Mip-NeRF360, and real-world rainy scenes, with strong cross-dataset generalization.

関連論文