WorldToken、ロボット模倣学習で新方式を提案 時間優先の系列モデルが59.45%の成功率

何が起きたか

arxiv.orgに2026年8月23日付で投稿された論文で、ロボットの模倣学習向けの新しい系列モデル「WorldToken」が提案された。この方式は、各ポリシーのタイムステップ内で多視点画像、プロプリオセプション、タスク条件を融合し、1つの「ワールドトークン」にまとめる。因果的Transformerがトークン系列をモデル化し、拡散アクションヘッドがアクションチャンクを生成する。23のRoboCasaタスクで、85.3Mパラメータのポリシーが、タスクあたり2,900件の生成デモを使用して平均59.45%の閉ループ成功率を達成した。

詳細

WorldTokenは、各タイムステップの観測を1つのトークンに融合する「時間優先」の系列モデルである。モデルは、凍結された事前学習済みCLIPテキストエンコーダを除き、スクラッチから訓練された85.3Mパラメータのポリシーで構成される。拡散アクションヘッドがアクションチャンクを生成する。実験では、5つのデータセットサイズ、5つのモデルサイズ、2つのトレーニングシードにわたる完全な要因スイープを実施し、追加のターゲットドメインデータによる一貫した利得と、中程度のモデルサイズを超える収穫逓減を示した。同じチェックポイントの履歴切り詰めでは、可視履歴を1〜2ポリシータイムステップに減らすと、50のRoboCasaポリシーすべてで閉ループ成功率が低下した。RMBench Blocks Rankingでは、可視履歴を146秒から8秒に減らすと、評価者の成功率が95%から28%に低下した。探索的な拡張ロールアウトでは、参照スワップシーケンスを850秒以上維持した。

Key Facts

本紙の見方

今回の提案は、ロボットの模倣学習における系列モデルの入力構成に一石を投じるものだ。従来の系列モデルは、観測を時間軸に沿って並べることが一般的だが、WorldTokenは各タイムステップ内で異種の観測を融合し、時間軸を優先する点が新しい。この設計は、ロボットが各ステップで受け取る多様な情報を、時間的な文脈を保ちながら効率的に処理することを目指している。 本紙の過去報道との接続はないが、ロボット学習におけるデータ効率とスケーリングの議論は、近年のロボット基盤モデルの発展と軌を一にする。WorldTokenの実験は、データ量の増加が一貫した性能向上をもたらす一方、モデルサイズの増加には限界があることを示しており、これは大規模モデル偏重の流れに対する一つの実証的データポイントとなる。 業界構造への含意として、この研究はロボットの模倣学習における「時間的コンテキスト」の重要性を定量化した点が大きい。履歴を短くすると成功率が劇的に低下するという結果は、実世界のロボットが長期的な文脈を必要とするタスク（例えば、物体の配置換えなど）において、メモリ管理や履歴の設計が重要な要素であることを示唆する。また、データセットサイズのスイープは、シミュレーションデータの生成が依然として性能向上の鍵であることを再確認させ、データ生成の効率化が今後の競争軸になる可能性がある。 未確定の論点としては、WorldTokenが他の系列組織（例えば、時間優先でないもの）と比較して優れているかどうかは、この論文では実証されていない。著者らも「代替の系列組織に対する優位性を確立するものではない」と明言している。また、完全な実装のどのコンポーネントが性能に寄与しているかの切り分けも今後の課題だ。さらに、実ロボットでの検証や、より複雑なタスクでのスケーラビリティは未確認であり、次に確認すべき点である。

なぜ重要か

この研究は、ロボットの模倣学習における系列モデルの設計に新たな選択肢を提示し、時間的コンテキストの重要性をデータで示した。実世界のロボットが長期的な文脈を必要とするタスクに取り組む際、履歴管理の設計指針となる可能性がある。