世界モデルのように考え、VLAのように行動する：世界モデル表現をコンパクトなロボット方策に蒸留

VLAモデルは観測から行動を写像するが、世界の応答を考慮する目的関数を持たないため、頑健性はデータ被覆に律速される。一方World Modelはその目的関数を持ち物理的接地が良いが、未来を展開すると1決定に秒単位の計算を要し制御ループに使えない。本論文は両者を分離可能と示す。World Modelが物理シーンについて知る内容は内部特徴に宿り、未来生成はその特徴を生む目的関数に過ぎないため、生成機構を捨てて接地だけを継承できる。通常のVLA訓練に特徴アラインメント項を1つ加えるだけで、凍結World Modelを訓練フレーム上で一度走らせキャッシュし、学生がそのキャッシュに一致するよう学習する。

従来のVLAは世界の応答を考慮する目的関数を持たず、頑健性がデータ被覆に縛られる。World Modelは物理的接地に優れるが未来展開が遅く制御ループに不適。本手法は両者を分離し、World Modelの内部特徴のみを継承して生成機構を捨てる。訓練時に教師をロードせず、投影器も後で破棄し、展開方策は蒸留なしベースラインと同一で、消費者向けRTX 5090上32ms・1.86GBで動作する。よって利得は追加容量やテスト時計算ではなく表現に帰属する。

通常のVLA訓練に特徴アラインメント項を1つ追加する。凍結したWorld Modelを訓練フレーム上で一度だけ走らせ、その内部特徴をキャッシュする。学生方策はそのキャッシュに一致するよう学習する。訓練中に教師をロードせず、投影器は学習後に破棄する。展開される方策は蒸留なしベースラインと同一アーキテクチャで、追加容量やテスト時計算を伴わない。

0.8Bの学生がLIBEROで97.9%に到達。RoboCasa-GR1ヒューマノイド操作で48.2%から50.5%へ改善。同一目的関数が実機にも移行し、単腕と双腕の両プラットフォームで有効。利得は学生スケール、バックボーン、アラインメント層、教師を変えても持続し、特定2ネットワーク間の脆い整合ではなく広範な表現事前であることを示す。

利得が学生スケール、バックボーン、アラインメント層、教師の変更に耐えることから、特定ネットワーク対の脆い整合ではなく広範な表現事前であると論じる。展開方策が蒸留なしベースラインと同一で32ms・1.86GBで動くため、利得は追加容量やテスト時計算ではなく表現に帰属すると主張。ただし要旨からは限界や失敗事例の詳細は不明。

要旨で参照・比較されている研究は明示されていない。関連手法としてWorld Model、VLA、LIBERO、RoboCasa-GR1、特徴蒸留・表現アラインメントの定番を挙げる。要旨からは個別論文名は不明。