世界モデル2026/9/2arXiv:2609.02339v1

AGI迷路予測データセット：トランスフォーマーによる世界ダイナミクス学習のためのコンパクトなベンチマーク

AGI Maze Prediction Datasets: A Compact Benchmark for Learning World Dynamics with Transformers

手続き的に生成されたグリッドワールドを用いて、トランスフォーマーの世界モデル能力を評価するための軽量ベンチマークを提案し、空間メモリを持つアーキテクチャが有効であることを示した。

詳しい要約

1. どんなもの？

AGI Maze Prediction Datasets and Benchmarkは、Transformerなどの予測モデルにおける世界モデリング能力を研究するための軽量な制御テストベッドである。手続き的に生成された状態付きグリッドワールドから導出され、ステップごとの遷移予測、固定ホライズンの状態予測、逐次的なテキスト観測予測の3つのタスクで構成される。ソース迷路と非重複の訓練/検証分割と、貪欲な完全一致評価により、学習可能な行動条件付きダイナミクスの転移と、既知のレイアウトでの遷移の記憶を区別することを目的とする。

2. 先行研究と比べてどこがすごい？

先行研究と比べて、このベンチマークはコンパクトで制御された環境を提供し、Transformerの世界モデリング能力を評価するための明確なプロトコルを確立している点が優れている。特に、ソース迷路と非重複の分割を用いることで、モデルが訓練中に見た迷路の記憶ではなく、転移可能なダイナミクスを学習しているかを検証できる。また、バイトレベルのTransformerベースラインと、作業記憶を強化した2つのアーキテクチャを比較し、構造化された空間記憶の有用性を示している点が新しい。

3. 技術・手法の肝は？

手法の肝は、2つの作業記憶強化アーキテクチャの比較にある。1つは汎用的な補助潜在記憶Transformerで、訓練セットを完全に適合できるが、保持性能は一貫して向上しない。もう1つは擬似ビデオ空間記憶Transformerで、入力マップから2次元の潜在ワークスペースを初期化し、中間マップや位置、状態ラベルを受け取らずに行動履歴から更新する。この構造化された空間記憶が、バイトベースや非構造化メモリのベースラインを上回る性能を達成する鍵となっている。

4. どうやって有効だと検証した？

有効性は、同じデータ、目的関数、評価プロトコルの下で、選択された固定ホライズンタスクにおいて、バイトベースおよび非構造化メモリのベースラインが達成できない完全な検証精度を、擬似ビデオ空間記憶Transformerが達成したことにより検証された。また、逐次テキストトレース予測の性能も大幅に向上した。

5. 議論はある？

議論としては、構造化されたタスク整合的な作業記憶が、追加の潜在容量だけよりも有用である可能性が示唆されている。また、言語接地は永続的なデータ構造とその計算によって媒介されるという広範な主張がなされており、テキストインターフェースと学習された構造化状態を結合するアーキテクチャをテストするためのコンパクトな設定を提供する。ただし、要旨からは、この主張の一般化や限界についての詳細は不明である。

6. 次に読むべき論文は？

要旨で参照されている関連研究としては、Transformerベースの世界モデルや、作業記憶を強化したアーキテクチャ（例えば、Memory-Augmented TransformerやSpatial Memory Networks）が挙げられる。また、世界モデリングの分野では、DreamerやMuZeroなどのモデルベース強化学習手法も関連する。具体的な論文名は要旨に明記されていないため、これらの一般名で示す。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Alexey Potapov

分類: cs.LG, cs.AI

原文アブストラクト

World modeling requires a predictive model to maintain and update an internal state adequate for reasoning about the consequences of actions. We introduce the AGI Maze Prediction Datasets and Benchmark, a lightweight controlled testbed for studying this capability in Transformers and other predictive models. Derived from procedurally generated, stateful grid worlds, the benchmark comprises per-step transition prediction, fixed-horizon state prediction, and sequential textual-observation prediction. Source-maze-disjoint training and validation splits, together with greedy exact-match evaluation, distinguish learning transferable action-conditioned dynamics from memorizing transitions in familiar layouts. We establish from-scratch byte-level Transformer baselines and compare them with two working-memory-augmented architectures. A generic auxiliary latent-memory Transformer can fit some training sets perfectly but does not consistently improve held-out performance. In contrast, a pseudo-video spatial-memory Transformer initializes a two-dimensional latent workspace from the input map and updates it from action history without receiving intermediate maps, positions, or state labels. Under the same data, objectives, and evaluation protocol, this model reaches perfect validation accuracy on selected fixed-horizon tasks where the byte and unstructured-memory baselines do not, and substantially improves sequential text-trace prediction. These results suggest that structured, task-aligned working memory can be more useful than additional latent capacity alone. More broadly, we argue that language grounding is mediated by persistent data structures and computations over them; the benchmark offers a compact setting for testing architectures that couple textual interfaces to learned structured state.

arXivで原文を読む →arXiv概要ページ