未来を保持し、ロールアウトを捨てる：ワールドアクションモデルのためのRIFT

本論文は、World Action Models (WAMs) における反復的なビデオロールアウトの必要性を問い、ロールアウトなしで将来の表現を構築する手法 RIFT (Rollout-free Imagination via Future Tokens) を提案する。WAMs は予測された未来をロボットの行動生成に条件付けするが、反復的なビデオロールアウトは展開時のレイテンシを増大させる。著者らは、行動生成に必要なのはロールアウトの軌跡そのものではなく、その未来表現（K/V cache）であると仮定し、固定された最終クリーンな K/V cache を再利用しても性能が維持されることを示す。RIFT は学習された anticipation tokens を用いて、1回のバックボーンパスで完全な未来 K/V cache を構築し、元の未来読み取りインターフェースを保持する。これにより、反復的なビデオ生成なしでロールアウトフリーの未来条件付けを実現する。

先行研究の WAMs は、行動生成のために反復的なビデオロールアウトを必要とし、展開時のレイテンシが課題であった。本研究は、ロールアウトの軌跡全体ではなく、その未来表現（K/V cache）のみが行動生成に重要であることを示し、固定キャッシュの再利用可能性を発見した点が新しい。さらに、学習された anticipation tokens を用いてキャッシュを直接構築する RIFT を提案し、ロールアウトを排除しながら同等以上の成功率を達成する。これにより、展開時のレイテンシを大幅に削減できる点が先行研究と比べて優れている。

手法の肝は、WAMs の将来条件付けが K/V cache の値とその位置に敏感であることを利用し、ロールアウトを介さずにキャッシュを構築すること。具体的には、まず閉ループ介入実験により、固定された最終クリーンな K/V cache を再利用しても性能が維持されることを確認する。次に、RIFT では学習された anticipation tokens を導入し、これらをバックボーンに通すことで、1回のパスで完全な未来 K/V cache を生成する。このキャッシュは元の未来読み取りインターフェースに適合するため、モデルのアーキテクチャを変更せずにロールアウトを置き換えることができる。

有効性は、LIBERO ベンチマークの全40タスクと RoboTwin 2.0 で検証された。まず、4つの WAMs に対して閉ループ介入を行い、キャッシュのマスキングや再割り当てが成功率を低下させる一方、固定キャッシュの再利用がほぼ元の性能を維持することを示した（Joint と Cosmos-2 で成功率 97.9%〜98.2%、平均変位誤差 1.7〜1.9 cm）。次に、RIFT を LIBERO で評価し、成功率 98.8% を達成し、ロールアウトベースの Joint、IDM、LingBot-VA（98.4%〜98.6%）と同等であることを示した。さらに、action-chunk レイテンシを 68.2%〜89.1% 削減した。RoboTwin 2.0 では、クリーン/ランダム化シーンで 92.9%/92.6% の成功率を達成し、評価した手法の中で最高を記録した。

議論として、固定キャッシュの再利用が可能なモデル（Joint と Cosmos-2）とそうでないモデルが存在することが挙げられる。これは、モデルによってキャッシュの消費方法が異なることを示唆しており、RIFT の適用可能性に影響する。また、RIFT はキャッシュ構築を学習するため、ロールアウトで得られるキャッシュと完全に一致するとは限らず、性能の僅かな差が生じる可能性がある。さらに、本研究は主にシミュレーション環境で検証されており、実世界での有効性は要旨からは不明である。

次に読むべき論文は、要旨で比較されている Joint、IDM、LingBot-VA などのロールアウトベースの WAMs に関する研究、および Cosmos-2 などの基盤モデルを利用した世界モデルの研究が挙げられる。また、将来のキャッシュ構築に関する類似手法として、学習された anticipation tokens を用いた手法や、効率的なビデオ生成を目指す研究も関連する。