拡散モデル/推論高速化2026/8/3arXiv:2608.01845

WorldDynCache：拡散ワールドモデルのためのリスク制御型潜在ダイナミクス近似

WorldDynCache: Risk-Controlled Latent Dynamics Approximation for Diffusion World Model

拡散ワールドモデルの推論を高速化するため、潜在状態遷移のリスクを推定し、条件やフェーズに応じた軽量サロゲートで潜在ダイナミクスを近似するフレームワークを提案。既存のキャッシュ手法より高品質で高速。

詳しい要約

1. どんなもの？

WorldDynCacheは、拡散ワールドモデルの推論を高速化するためのリスク制御型の潜在ダイナミクス近似フレームワークである。拡散ワールドモデルは高品質な未来予測を生成するが、Transformerの繰り返し評価により推論が非常に遅い。既存のキャッシュ手法は中間特徴の再利用やトークンの選択的更新、局所的なドリフトや短いネイティブ空間履歴に基づく出力の再利用・外挿を行うが、スキップされたステップにわたって蓄積する近似誘発の潜在遷移欠陥や、条件・フェーズに依存した潜在進化の方向変化を見逃す可能性がある。WorldDynCacheは、軽量な潜在遷移リスク推定器と、条件・フェーズを考慮したリフトされた潜在サロゲートを用いて、Transformer評価を追加せずに潜在進化を近似する。

2. 先行研究と比べてどこがすごい？

先行研究のキャッシュ手法は、局所的なドリフトや短い履歴に基づいて近似を行うため、スキップされたステップにわたって蓄積する近似誘発の潜在遷移欠陥や、条件・フェーズに依存した潜在進化の方向変化を捉えられない。WorldDynCacheは、リスク推定器が近似欠陥の将来影響を追跡し、正確なアンカーで観測された反事実欠陥に対して予測を較正することで、これらの問題に対処する。さらに、条件・フェーズを考慮したリフトされた潜在サロゲートにより、追加のTransformer評価なしで潜在進化を近似する点が新しい。

3. 技術・手法の肝は？

手法の核は2つの要素からなる。第一に、軽量な潜在遷移リスク推定器が、近似欠陥の蓄積された将来影響を追跡し、正確なアンカーで観測された反事実欠陥に対して予測を較正する。第二に、条件・フェーズを考慮したリフトされた潜在サロゲートが、追加のTransformer評価なしで潜在進化を近似する。これにより、リスクを制御しながらキャッシュを効果的に活用する。

4. どうやって有効だと検証した？

HunyuanVoyager-13BとAether-5Bの2つのモデルで検証した。WorldDynCacheはそれぞれ4.92倍と2.15倍の高速化を達成し、比較したキャッシュ手法の中でWorldScore、PSNR、SSIM、LPIPSの指標で最高の生成品質を達成した。

5. 議論はある？

要旨からは、提案手法の限界や潜在的な欠点についての議論は不明である。また、比較したキャッシュ手法の具体的な名称や、実験設定の詳細（データセットやタスクの種類）も要旨からは不明である。

6. 次に読むべき論文は？

要旨で参照されている先行研究は明示されていないが、関連する手法として、拡散モデルの推論高速化のためのキャッシュ手法（例：中間特徴の再利用、トークンの選択的更新、出力の再利用・外挿）が挙げられる。また、拡散ワールドモデル自体の研究（例：HunyuanVoyagerやAether）も関連する。具体的な論文名は要旨からは不明である。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Leyang Chen, Junyi Wu, Shaoqiu Zhang, Yulun Zhang

分類: cs.LG, cs.CV

原文アブストラクト

Diffusion world models generate high-quality futures, but re- peated transformer evaluations make inference prohibitively slow. Existing caches reuse intermediate features, selectively update tokens, or reuse and extrapolate denoising outputs ac- cording to local drift or short native-space histories. These criteria can miss both approximation-induced latent transition defects that accumulate across skipped steps and phase- or condition-dependent changes in the direction of latent evo- lution. We propose WorldDynCache, a risk-controlled latent dynamics approximation framework with two core compo- nents. First, a lightweight latent-transition risk estimator tracks the accumulated future impact of approximation defects and calibrates its predictions against counterfactual defects ob- served at exact anchors. Second, a condition- and phase- aware lifted latent surrogate approximates latent evolution without extra transformer evaluations. On HunyuanVoyager- 13B and Aether-5B, WorldDynCache achieves 4.92 times and 2.15 times speedups, respectively, while attaining the best gen- eration quality among the compared caching methods across WorldScore, PSNR, SSIM, and LPIPS.

arXivで原文を読む →arXiv概要ページ

← 論文一覧