何が起きたか
2026年6月24日にarXivで公開された論文「Causal-rCM: A Unified Teacher-Forcing and Self-Forcing Open Recipe for Autoregressive Diffusion Distillation in Streaming Video Generation and Interactive World Models」において、研究チームは自己回帰ビデオ拡散のための新しい蒸留レシピを提案した。この手法は、教師強制と自己強制の補完性を活用し、2ステップの蒸留でWan2.1-1.3BモデルがVBench-T2Vスコア84.63を達成したと報告している。
詳細
論文では、rCMフレームワークを自己回帰ビデオ拡散に拡張し、教師強制（TF）と自己強制（SF）の補完性を利用する。教師強制はオフラインの前方ダイバージェンスに基づく因果トレーニングパラダイムであり、自己強制はオンラインの逆ダイバージェンスの洗練に対応する。実験により、教師強制CMが自己強制DMDの初期化戦略として最適であることを示した。また、カスタムマスクFlashAttention-2 JVPカーネルを用いて、教師強制ベースの連続時間CM（sCM/MeanFlow）を自己回帰ビデオ拡散に初めて実装し、離散時間CMと比較して10倍の収束速度を達成した。蒸留された2ステップのWan2.1-1.3Bモデルは、1または2サンプリングステップでVBench-T2Vスコア84.63を記録した。さらに、Causal-rCMをCosmos 3に適用し、アクション条件付き生成を可能にするインタラクティブなワールドモデルを実現した。
Key Facts
| Causal-rCMは、自己回帰ビデオ拡散の蒸留手法であり、教師強制と自己強制を組み合わせる。 | [1] |
| 蒸留された2ステップのWan2.1-1.3Bモデルは、VBench-T2Vスコア84.63を達成した。 | [1] |
| 教師強制ベースの連続時間CMは、離散時間CMと比較して10倍の収束速度を達成した。 | [1] |
| Causal-rCMはCosmos 3に適用され、アクション条件付き生成を可能にするインタラクティブなワールドモデルを実現した。 | [1] |
| 論文は2026年6月24日にarXivで公開された。 | [1] |
本紙の見方
今回の発表は、自己回帰ビデオ拡散の蒸留において、教師強制と自己強制の補完性を体系的に活用した点で新規性がある。従来の拡散蒸留は、一貫性モデル（CM）や分布マッチング蒸留（DMD）を個別に適用することが多かったが、Causal-rCMはこれらを統合し、初期化戦略として教師強制CMが最適であることを実験で示した。これは、自己回帰設定における因果トレーニングとオンライン洗練の組み合わせが、収束速度と生成品質の両方で優位性を持つことを示唆する。特に、カスタムマスクFlashAttention-2 JVPカーネルによる連続時間CMの実装は、計算効率の面で大きな進展であり、10倍の収束速度は実用上のインパクトが大きい。 本紙の過去報道との接続はないが、この技術はビデオ生成のリアルタイム性とインタラクティブ性を高める可能性がある。特に、Cosmos 3への適用は、物理AI向けのワールドモデルとして、アクション条件付き生成を可能にする点で、ロボティクスやシミュレーション分野への応用が期待される。ただし、論文では合成データのみでトレーニングされたとされており、実データでの性能や汎化性は未検証である。 業界構造への含意として、この手法はビデオ生成モデルの推論コストを大幅に削減する可能性がある。2ステップのサンプリングで高品質な出力を実現できれば、リアルタイムストリーミングやインタラクティブなアプリケーションへの応用が加速するだろう。競合他社は、同様の蒸留技術を開発するか、この手法を採用する必要に迫られるかもしれない。また、オープンレシピとして公開されている点は、コミュニティ全体の研究開発を促進する可能性がある。 未確定の論点としては、実データでの性能、スケーラビリティ、他のモデルへの適用可能性が挙げられる。特に、VBench-T2Vスコア84.63がどのような条件で達成されたのか、また、Cosmos 3での具体的な性能評価は論文の要約からは不明である。今後の詳細な実験結果やベンチマークの公開が待たれる。
なぜ重要か
この技術は、ビデオ生成のリアルタイム性と効率性を飛躍的に向上させる可能性があり、エンターテインメントから物理AIまで幅広い分野に影響を与える。特に、2ステップの蒸留で高品質な生成を実現することは、実用化への大きな一歩となる。