自己回帰型ビデオ拡散モデルのドリフト軽減手法「BAgger」を提案

何が起きたか

arxiv.orgに2025年12月12日付で掲載された論文「BAgger: Backwards Aggregation for Mitigating Drift in Autoregressive Video Diffusion Models」は、自己回帰型ビデオ拡散モデルのドリフト問題に対処する新しい自己教師あり手法「BAgger」を提案した。著者らは、因果拡散トランスフォーマーにBAggerを実装し、テキストからビデオ生成、ビデオ拡張、マルチプロンプト生成の各タスクで評価し、長期的な動きの安定性と視覚的一貫性の向上を確認したとしている。

詳細

論文は、自己回帰型ビデオモデルが次フレーム予測を通じて世界モデルとして有望である一方、クリーンな文脈で訓練されるのに対し推論時には自己生成フレームを入力とするため、誤差が複合し時間とともに品質が劣化する「露出バイアス」に悩まされると指摘する。提案手法BAggerは、モデル自身のロールアウトから修正軌道を構築する自己教師ありスキームであり、モデルが自身の誤りから回復することを学習させる。従来の少数ステップ蒸留や分布マッチング損失を用いるアプローチとは異なり、BAggerは標準的なスコアマッチングまたはフローマッチングの目的関数で訓練され、大規模な教師モデルや長いチェーンにわたる時間方向の逆伝播を回避する。

Key Facts

本紙の見方

今回の提案は、自己回帰型ビデオ拡散モデルにおける露出バイアスという既知の問題に対し、新たな訓練手法を導入した点で新規性がある。従来の対策が少数ステップ蒸留や分布マッチング損失に依存し、品質や多様性を損なう可能性があったのに対し、BAggerは標準的な目的関数を維持しつつ、モデル自身のロールアウトを利用する点が特徴的である。これにより、大規模な教師モデルや長い時間方向の逆伝播を避けながら、ドリフトを軽減できる可能性が示唆される。 本紙の過去報道との接続は、関連記事が提供されていないため直接的な言及はできないが、ビデオ生成モデルの分野では、長期一貫性の確保が常に課題となっており、今回の手法はその解決策の一つとして位置づけられる。 業界構造への含意としては、ビデオ生成AIの実用化において、長時間の動画生成時の品質劣化は大きな障壁であり、BAggerのような訓練手法の改善は、モデルの性能向上に寄与する可能性がある。また、標準的な目的関数を用いることで、既存の拡散モデル基盤に適用しやすく、実装コストを抑えられる点も重要である。 未確定の論点としては、提案手法が実際の大規模モデルや多様なデータセットでどの程度効果を発揮するか、また計算コストや収束性に関する詳細な評価が不足している。さらに、自己回帰型モデル特有の誤差蓄積問題に対する理論的な保証や、他のアーキテクチャへの適用可能性も今後の検証が待たれる。

なぜ重要か

ビデオ生成AIの実用化には、長時間の動画生成における品質の安定性が不可欠であり、本手法はその課題に対する新たなアプローチを提供する。標準的な訓練手法を維持しながらドリフトを軽減できる可能性は、今後のビデオ生成モデルの発展に影響を与えるとみられる。