PRISM: 幾何学的ワープ残差モデリングによる単一画像からのフィードフォワード3D再構成
PRISM: Feed-Forward Single-Image 3D Reconstruction via Geometric Warp-Residual Modeling
単一画像から3Dシーンを再構成する際、幾何学的な前方ワープで大部分をカバーし、残りの残差のみを学習するフィードフォワード手法を提案。拡散モデルを使わずに高速で高品質な再構成を実現した。
著者: Zhijie Zheng, Xinhao Xiang, Jiawei Zhang
分類: cs.CV
原文アブストラクト
Reconstructing 3D scenes from a single image is a fundamental challenge in computer vision, with broad applications in virtual reality, robotics, and content creation. Recent methods achieve outstanding performance by leveraging camera-controlled video diffusion models, but rely on iterative diffusion sampling, which greatly limits their practical deployment. We observe that geometric forward warping alone can cover the majority of a target view directly from the input image, with only a compact residual left for the encoder to correct. Motivated by this observation, we propose PRISM, a feed-forward framework that decomposes multi-view latent prediction into a parameter-free geometric prior and a learned residual correction, with no diffusion sampling required at inference. To enable generalization from purely synthetic training data, we devise a two-stage training strategy combining latents supervised distillation for geometric generalization and perceptual fine-tuning for appearance quality optimization. Extensive experiments on three benchmarks demonstrate that PRISM achieves competitive reconstruction quality compared with diffusion-based methods, while reducing inference time dramatically to only 36 seconds per scene.
関連論文
- MV-dVRK: 空間的外科知覚のための多視点ベンチマーク3D再構成
- 大規模再構成モデルを用いた人と物体のインタラクション再構成3D再構成
- PIVOT: 実世界3D再構成における姿勢・内部パラメータ・新視点評価のためのマルチ軌道データセットとテストベッド3D再構成
- OccamView: フレーム予算制約下のアクティブ3Dガウス再構成のためのオブジェクト条件付き視点選択3D再構成
- DerainSplat: スパースな雨天視点からのフィードフォワードによるクリーンな3Dガウススプラッティング3D再構成
- Stipple: 視覚慣性トラッキングによるリアルタイムインクリメンタルガウシアンスプラッティング3D再構成