日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

週刊ニュースレター購読
時系列予測arXiv:2611.06652

時空間予測のための動的状態空間拡散モデル

Dynamical State-Space Diffusion for Spatiotemporal Prediction

シェア:XThreadsFacebookLINEはてブBluesky

拡散過程のノイズに状態空間モデル由来の時間相関を導入し、時系列予測の精度を向上させる手法を提案。

詳しい要約

1. どんなもの？

- 時系列予測のための拡散モデル - 各未来フレームに独立ノイズを付加する従来の Diffusion に対し、ノイズ付加過程そのものに時間構造を学習させる手法 - Dynamical State-Space Diffusion (DSSD) と命名 - 時間カーネルを安定対角 state-space model の減衰振動モードから構築 - 学習された decay rates と frequencies が複数 timescale と振動相関を捉える - denoiser アーキテクチャは変更しない

2. 先行研究と比べてどこがすごい？

- 従来の temporal prediction 向け Diffusion は各フレームを独立ノイズで corrupt し、時間依存性を denoiser に完全に委ねていた - DSSD は corrupt 過程自体に時間構造を学習させる点が新しい - denoiser をそのまま流用できる - 有限クリップでの未観測初期状態問題を stationary covariance の Cholesky factor で解決 - 因果性・厳密可逆性・各フレームのノイズ分散が標準 Diffusion と等しいことを証明 - Kalman innovations form と厳密に一致することも示す

3. 技術・手法の肝は？

- 安定対角 state-space model の減衰振動モードから temporal kernel を構築 - 学習される decay rates と frequencies が複数 timescale・振動相関を表現 - 有限クリップの初期状態未観測問題への対処 - ゼロ状態開始だと初期フレームのノイズが schedule より少なくなる - モデルの stationary covariance の Cholesky factor を temporal operator として使用 - 証明された性質 - causal、exactly invertible、各フレームのノイズ分散が標準 Diffusion と等しい、clean 端で identity に帰着 - state-space model の Kalman innovations form と厳密一致 - denoiser は時間相関ノイズを予測するよう訓練 - サンプリング時に各ステップで temporal mixing を除去・再適用

4. どうやって有効だと検証した？

- scientific-field データセットと robot-video データセットで評価 - 同一 denoiser を共有する Diffusion ベースラインを上回る性能 - 訓練中の学習モードの進化を観察 - temporal operator が各データセットに適応していることを示す

5. 議論はある？

- 要旨からは不明 - 計算コスト、長系列へのスケーラビリティ、他タスクへの汎化性についての議論は記述なし

6. 次に読むべき論文は？

- 要旨で参照/比較されている研究 - 標準的な Diffusion ベースの temporal prediction 手法（独立ノイズ付加型） - Kalman innovations form に関連する state-space model 文献 - 関連手法として - 対角 state-space model（S4 系） - Cholesky factor を用いた時間相関ノイズの拡散モデル

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Woojun Lee, Hankyeol Kim, Pilsung Kang

分類: cs.CV

原文アブストラクト

Diffusion models for temporal prediction typically corrupt each future frame with independent noise, leaving temporal dependence entirely to the denoiser. We propose Dynamical State-Space Diffusion (DSSD), which learns the temporal structure of the corruption process itself. DSSD builds a temporal kernel from the damped oscillatory modes of a stable diagonal state-space model, whose learned decay rates and frequencies let the corruption capture multiple timescales and oscillatory correlations, while the denoiser architecture remains unchanged. Running this model on a finite clip, however, requires the state before the first frame, which is unobserved; starting from a zero state leaves the early frames with less noise than the diffusion schedule prescribes. We avoid this by using the Cholesky factor of the model's stationary covariance as the temporal operator. We prove that this operator is causal, exactly invertible, keeps each frame's noise variance equal to that of standard diffusion, and reduces to the identity at the clean end of the process, and that it is exactly the Kalman innovations form of the state-space model. The denoiser is trained to predict the temporally correlated noise, and sampling removes and reapplies the temporal mixing at each step. On scientific-field and robot-video datasets, DSSD outperforms diffusion baselines that share its denoiser, and the evolution of its learned modes during training shows that the temporal operator adapts to each dataset.

arXivで原文を読む →arXiv概要ページ

関連論文

← 論文一覧
PR本紙発行元 EmplifAI