日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

週刊ニュースレター購読
arXiv:2006.11239

Denoising Diffusion Probabilistic Models

Denoising Diffusion Probabilistic Models

シェア:XThreadsFacebookLINEはてブBluesky
🏛 フィジカルAI 必読論文被引用 34,144基盤技術(ロボット基盤モデルが依拠)
本論文は、拡散確率モデル(Denoising Diffusion Probabilistic Models, DDPM)を提案した。これは、データに段階的にノイズを加える拡散過程と、その逆過程であるノイズ除去過程を学習することで、データ分布を生成する手法である。従来の生成モデル(GANやVAE)とは異なり、敵対的学習や変分下界の近似に頼らず、単純な目的関数で高品質な画像生成を実現した点が新しい。 仕組みは以下の通りである。まず、拡散過程では、元の画像にガウスノイズを徐々に加え、最終的に完全なノイズへと変換する。この過程は固定されたスケジュールに従い、各ステップでノイズが加わる。逆過程では、ニューラルネットワーク(通常はU-Net)が、与えられたノイズ画像とタイムステップから、元の画像に戻るためのノイズを予測する。学習は、予測されたノイズと実際に加えられたノイズの二乗誤差を最小化することで行われる。生成時には、純粋なノイズから始めて、学習済みの逆過程を繰り返し適用し、徐々にノイズを除去して画像を生成する。 この手法が画期的だった理由は、それまでの生成モデルの課題を解決したからである。GANは学習が不安定でモード崩壊を起こしやすく、VAEは生成画像がぼやける傾向があった。DDPMは、安定した学習が可能で、多様な画像を高品質に生成できることを示した。また、拡散過程と逆過程の理論的な裏付け(変分推論との関連)があり、目的関数が単純であるため実装も容易だった。これにより、生成モデルの分野で大きなブレークスルーとなり、その後の多くの拡散モデル研究の基盤となった。 フィジカルAIへの影響は大きい。DDPMは画像生成に留まらず、ロボットの知覚や制御にも応用されている。例えば、ロボット基盤モデルや視覚言語行動モデル(VLA)において、拡散モデルは行動生成や将来予測に使われる。具体的には、ロボットの行動系列を生成する際に、ノイズから行動を復元する過程として拡散モデルを利用できる。また、シミュレーション環境での画像生成やデータ拡張にも応用され、実世界の多様なシーンを生成することでロボットの学習を支援する。さらに、拡散モデルは不確実性を扱うのに適しており、ロボットの行動計画において複数の候補を生成し、その中から最適な行動を選択するといった使い方も研究されている。このように、DDPMは生成モデルの枠を超え、ロボットの知覚・制御・学習の幅広い領域に影響を与えている。

※ 解説はAIが生成。被引用数はOpenAlex由来(取得できた論文のみ表示)。詳細は原論文をご確認ください。

著者: Jonathan Ho, Ajay Jain, P. Abbeel

分類: landmark

原文アブストラクト

We present high quality image synthesis results using diffusion probabilistic models, a class of latent variable models inspired by considerations from nonequilibrium thermodynamics. Our best results are obtained by training on a weighted variational bound designed according to a novel connection between diffusion probabilistic models and denoising score matching with Langevin dynamics, and our models naturally admit a progressive lossy decompression scheme that can be interpreted as a generalization of autoregressive decoding. On the unconditional CIFAR10 dataset, we obtain an Inception score of 9.46 and a state-of-the-art FID score of 3.17. On 256x256 LSUN, we obtain sample quality similar to ProgressiveGAN. Our implementation is available at this https URL

関連論文基盤技術(ロボット基盤モデルが依拠)