ゲーム世界で身体性エージェントをスケールする：多様な仮想世界での継続事前学習

- 本論文は、embodied agents のための continued pre-training (CPT) を、多様な virtual worlds にまたがってスケールさせる研究。 - データ量・多様性・モデルサイズの3軸で制御実験を実施。 - 120 の training configurations を構築。 - モデルサイズ: 0.8B〜27B の4種。 - データ予算: 50〜1,600 時間の6段階。 - データ混合: Minecraft-only から多world混在まで5種。 - 評価は3段階の validation losses と gameplay benchmarks で、in-corpus worlds から unseen worlds までを対象。

- 従来の embodied learning のスケーリング研究は、多様な経験が共通の物理法則に基づく physical environments が中心だった。 - 本研究は、visual styles・dynamics・controls・objectives が異なる virtual worlds でも同様のスケーリング利得が得られるかを問う点が新しい。 - データ量・多様性・モデルサイズを同時に振った大規模な制御実験 (120 configurations) を実施。 - 単一world学習と多world学習の汎化差を、近いworldと遠いworldに分けて分析。 - 経験的な scaling law をフィットした点も先行研究との差分。

- continued pre-training (CPT) を3軸で系統的に変化させる制御実験。 - 軸: data volume、diversity、model size。 - モデルサイズ 0.8B〜27B、データ予算 50〜1,600 時間、5種のデータ混合。 - 3段階の validation losses と gameplay benchmarks で性能と汎化を評価。 - in-corpus worlds、related worlds、distant worlds への転移を比較。 - validation loss をデータ量・多様性・モデルサイズに関連づける経験的 scaling law をフィット。 - 学習過程を early interface phase と later world phase に分けて分析。

- 120 の training configurations による制御実験で検証。 - 3段階の validation losses と gameplay benchmarks を使用。 - in-corpus worlds から unseen worlds までの汎化を評価。 - 結果として、データ量増加は in-corpus 性能を改善。 - 多様性は related worlds への転移を改善するが distant worlds への利得は限定的。 - モデルサイズはデータ効率を改善するが、single-world training では distant worlds への汎化が悪化。 - Minecraft specialists や frontier models と競合し、real-time settings で最良。

- early interface phase では cross-world の広い利得、later world phase では in-corpus と related worlds に利得が狭まる現象を報告。 - 経験的 scaling law をフィットし、validation loss とデータ量・多様性・モデルサイズの関係を示す。 - 限界として、imitation の限界と distant worlds における持続的なギャップを指摘。 - 汎用 embodied agents の構築には、CPT を超えたより豊かな training stages が必要と議論。 - ただし具体的な代替手法や詳細な要因分析は要旨からは不明。

- 要旨で直接参照・比較されている研究は明示されていない。 - 関連手法として、Minecraft を対象とした specialists や frontier models との比較が言及されている。 - 次に読むべき候補としては、embodied agents の continued pre-training、multi-world training、imitation learning の限界を扱う研究、および scaling law 関連の文献が考えられるが、具体的な論文名は要旨からは不明。