SimpleMemVLA、専用メモリなしで長期記憶ベンチマーク4件でSOTA

何が起きたか

arXivで2026年9月2日に公開された論文は、専用メモリモジュールを置かないVLA「SimpleMemVLA」を提案した。サンプリングした履歴を切り捨てず、バックボーンが事前学習したタイムスタンプ付き動画形式のまま入力し、生成したサブタスクの隠れ状態だけを標準のflow-matching action headに渡す構成である。著者らは、連続する意思決定で履歴の大半が共通するため、推論時に共有プレフィックスをプリフィルすれば単一フレームVLAに近い遅延を保てるとしている。

詳細

論文は、既存のメモリ機構として retrieval banks、learned compressors、recurrent states を挙げ、それらは「将来どの情報が必要になるかを知る前に、過去の何を保持するかを決めなければならない」と位置づけた。そのうえで、modern VLM backbones では minute-scale history を直接扱えないという前提が成り立たなくなっていると説明している。 性能面では、SimpleMemVLA が general-purpose control にコストをかけずに 4 つの memory benchmarks で new state of the art を示したとしている。また、backbone と training setup を固定した比較では、retrieval、compression、recurrent-state の各機構を大きく上回り、causal interventions により policy が履歴を実際に読むことも確認したとしている。Code は GitHub で公開されている。

Key Facts

本紙の見方

今回の論文で新しいのは、長期記憶を別モジュールとして足すのではなく、VLMバックボーンが元々受け取れるタイムスタンプ付き動画表現をそのまま使って履歴を保持する点である。既存の retrieval、compression、recurrent-state は「何を残すか」を先に決める必要があるが、SimpleMemVLAは履歴を保持したまま後段の action head に渡す。構成の主役はメモリの追加ではなく、入力形式と隠れ状態の受け渡し方にあるとみられる。 本紙の関連記事はないため直接の連続報道はないが、論文の主張は「専用メモリをどう設計するか」という従来の発想をずらしている点で意味がある。minute-scale history を直接処理できないという前提が弱まったのであれば、記憶圧縮の巧拙よりも、バックボーン自体が長い動画履歴をどこまで保持・解釈できるかが焦点になる。これは、VLAの性能差がメモリ機構の有無だけでなく、前段の表現と後段の制御頭の接続仕様に左右されることを示唆する。 業界構造への含意としては、計算資源を追加して記憶を外付けするより、既存VLMの入出力仕様を活かして実装を簡素化する方向が見える。一方で、論文が示したのはベンチマーク4件での結果であり、実機の長時間タスクやより雑音の多い環境で同じ構成が維持できるかは別問題である。今後は、どのタスクで共有プレフィックスのプリフィルがどこまで効くのか、学習時と推論時で履歴長が変わった場合に性能がどう動くのか、そしてgeneral-purpose controlへのコストが本当に増えないのかを確認する必要がある。

なぜ重要か

論文は、専用メモリを持たない構成でも4つのメモリベンチマークで最先端性能を示したとしており、VLA設計で「履歴を別途圧縮する」前提を見直す材料になる。推論時の共有プレフィックスを使って遅延を抑えられるとしているため、長期履歴を扱う制御系でレイテンシ制約が厳しい用途に関係する可能性がある。