日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

VLAarXiv:2611.16589

STVLA:空間認識と時間記憶を統合した視覚言語行動モデル

STVLA: Spatial-aware and Temporal-memory forVision-Language-Action Models

シェア:XThreadsFacebookLINEはてブBluesky

事前学習済みの視覚幾何モデルの特徴を時間記憶に組み込み、過去のシーン構造を現在の行動決定の文脈として参照できるVLAフレームワークを提案。複数ベンチマークで最高成功率を達成し、実機タスクでも大幅な改善を示した。

詳しい要約

1. どんなもの?

- ロボット操作のための VLA(Vision-Language-Action)ポリシー「STVLA」 - 現観測だけでなく、空間構造とタスク履歴を明示的に統合する枠組み - 事前学習済み visual geometry foundation model の特徴を時系列メモリに組み込む - 過去のシーン構造を想起し、現在の行動決定の文脈として利用 - 対象タスク - 空間精度とタスク履歴の両方が必要な操作 - 例:block stacking、object organization、phone packaging

2. 先行研究と比べてどこがすごい?

- 従来 VLA の課題 - 多くは現在の観測に主に依存し、空間構造やタスク履歴を明示的に統合しない - 見た目ベースのメモリは occlusion や視点変化に敏感 - 現シーンの空間表現だけでは実行中のシーン変化を保持できない - STVLA の差分 - 時系列メモリに visual geometry foundation model の特徴を併用 - 過去のシーン構造を現在の行動判断の文脈として想起 - 数学的根拠のあるスコアリングで履歴を選択 - 結果 - LIBERO、LIBERO-Mem、MIKASA-Robo、SimplerEnv Bridge の各ベンチマークで比較手法中最高の平均成功率 - 実世界タスクで $π_{0.5}$ 比 +58.33 / +30.00 / +35.00 ポイント

3. 技術・手法の肝は?

- 中核 - 事前学習済み visual geometry foundation model の特徴を temporal memory に統合 - 視覚表現と並べて空間構造の履歴を保持 - 履歴選択 - 現在観測との関連性とメモリからの補完的証拠のバランスを取るスコアリング規則 - 数学的根拠に基づく選択 - 目的 - 過去のシーン構造を現在の行動決定の文脈として利用 - occlusion や視点変化に強い履歴表現 - 詳細なアーキテクチャ・学習手順は要旨からは不明

4. どうやって有効だと検証した?

- ベンチマーク評価 - LIBERO - LIBERO-Mem - MIKASA-Robo - SimplerEnv Bridge - 各ベンチマークで比較手法中最高の平均成功率 - 実世界評価 - block stacking、object organization、phone packaging - $π_{0.5}$ に対し成功率 +58.33、+30.00、+35.00 ポイント - プロジェクトサイト: https://stvla.github.io/

5. 議論はある?

- 主張 - 空間精度とタスク履歴の両方が必要な操作には、シーン幾何を時系列メモリに統合することが有効 - 示唆 - 見た目ベースのメモリの occlusion・視点変化への弱さを緩和 - 現シーンの空間表現だけでは失われるシーン変化を保持 - 限界・議論 - 失敗事例、計算コスト、メモリ容量、長期履歴の扱いは要旨からは不明 - visual geometry foundation model への依存度や汎化性の詳細は要旨からは不明

6. 次に読むべき論文は?

- $π_{0.5}(比較対象の VLA ポリシー) - visual geometry foundation model 関連(具体的名称は要旨からは不明) - LIBERO / LIBERO-Mem / MIKASA-Robo / SimplerEnv Bridge の各ベンチマーク論文 - 時系列メモリを用いる VLA・ロボット操作の関連研究(具体的名称は要旨からは不明)

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Zhuo Han, Yeqiang Wang, Xinran Wang, Hongwei Han, Yi Xiong, Zunian Wan, Jianbo Mao, Huan Peng, Yongcheng Liu, Wei Shan, Maoqing Yao

分類: cs.RO

原文アブストラクト

Robotic manipulation often requires both spatial scene understanding and task history. However, many vision-language-action (VLA) policies rely primarily on current observations, without explicitly integrating spatial structure and task history. Appearance-based memories can be sensitive to occlusion and viewpoint changes, while spatial representations of the current scene alone do not preserve how the scene has changed during task execution. We introduce STVLA, a framework that incorporates features from a pretrained visual geometry foundation model into temporal memory alongside visual representations. This allows the policy to recall past scene structure as context for current action decisions. To select informative history, STVLA uses a mathematically grounded scoring rule that balances relevance to the current observation with complementary evidence from memory. Across evaluations on LIBERO, LIBERO-Mem, MIKASA-Robo, and SimplerEnv Bridge, STVLA achieves the highest average success rate among the compared methods on each benchmark. On real-world block stacking, object organization, and phone packaging, it improves success over $π_{0.5}$ by $58.33$, $30.00$, and $35.00$ percentage points, respectively. These results support integrating scene geometry into temporal memory to improve manipulation requiring both spatial precision and task history. Project website: \href{https://stvla.github.io/}{https://stvla.github.io/}

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2Hugging Face、ロボット学習基盤「LeRobot v0.7.0」を公開 対話操作と大規模データ学習に対応新製品・発表
  3. 3UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
PR本紙発行元 EmplifAI