A Generalist Agent

本論文は、DeepMindが2022年に発表したGatoを提案したものである。Gatoは、テキスト、画像、操作、ナビゲーション、ゲームプレイなど、多様なタスクを単一のニューラルネットワークで処理できる汎用エージェントである。従来のロボットやAIエージェントはタスクごとに個別に学習・設計されていたが、Gatoは一つのモデルで604種類のタスクをこなすことを示した。新規性は、異なるモダリティ（テキスト、画像、行動）を統一的なトークン列として扱い、Transformerアーキテクチャで処理する点にある。 仕組みの核心は、すべての入出力を離散トークンに変換することである。画像はパッチに分割してトークン化し、テキストは既存のトークナイザーを使用し、ロボットの行動やゲームの操作は連続値を離散化してトークン化する。これにより、あたかも言語モデルが次の単語を予測するように、エージェントは次の行動トークンを自己回帰的に予測する。学習は、収集したオフラインデータ（人間のデモやシミュレーション）を用いて、教師あり学習で行われる。モデルは約12億パラメータを持ち、Transformerのデコーダー構造を採用している。 画期的だった点は、タスク特化の設計を一切せずに、単一のモデルでこれほど多様なタスクを達成したことである。以前は、ロボット制御には強化学習や模倣学習をタスクごとに調整する必要があり、汎化が難しかった。Gatoは、大規模なデータとTransformerのスケーリング則を利用することで、異なるタスク間で知識を共有し、少数のデモからでも新しいタスクに適応できる可能性を示した。また、言語と行動を同じ枠組みで扱うことで、将来のマルチモーダル基盤モデルの方向性を切り開いた。 フィジカルAIの観点では、Gatoはロボット基盤モデルの先駆けとなった。その後のRT-1、RT-2、PaLM-EなどのVLA（Vision-Language-Action）モデルは、Gatoのアイデアを発展させ、特に言語指示によるロボット制御や、大規模な事前学習を活用した汎化性能の向上に寄与した。Gatoは、ロボットが単なる専用プログラムではなく、大規模データで事前学習された汎用モデルとして動作しうることを実証し、身体性AIにおける基盤モデルの重要性を確立した。ただし、Gato自体は実世界の複雑な操作タスクで高い成功率を達成したわけではなく、あくまで概念実証としての意義が大きい。それでも、その後の研究に多大な影響を与え、ロボット学習のパラダイムを転換させた点で、フィジカルAIの歴史における重要なマイルストーンである。