何が起きたか

研究チームは、arXivに2025年9月29日付で論文『Emergent World Representations in OpenVLA』を公開した。この論文では、視覚言語行動モデル(VLA)の一種であるOpenVLAが、環境の状態遷移に関する潜在的な知識を内部に持つかどうかを検証している。具体的には、連続する環境状態の埋め込み間の差分(遷移ベクトル)が、モデルの中間活性化から回復可能かどうかを、線形および非線形プローブを用いて測定した。その結果、統計的に有意な予測能力がベースライン(埋め込み)を上回り、OpenVLAが内部世界モデルを符号化していることが示された。

詳細

本研究は、ポリシーベースの強化学習(RL)で訓練されたVLAが、環境ダイナミクスを明示的にモデル化せずに複雑な行動を符号化する一方で、モデルベースRLの特徴である世界モデルを暗黙的に学習するかどうかを問うものである。提案手法では、状態表現に対する埋め込み演算を用いて、OpenVLA(現時点で最先端のVLA)の内部に状態遷移の知識が存在するかを調べた。 実験では、モデルの各層の活性化に基づいて訓練されたプローブが、状態遷移を予測できるかどうかを検証。その結果、プローブが状態遷移を学習しているのではなく、OpenVLA自体が内部世界モデルを符号化していることが示唆された。さらに、OpenVLAの初期チェックポイントを調査し、訓練が進むにつれて世界モデルが出現するという手がかりも得られた。 また、研究チームはスパースオートエンコーダ(SAE)を用いてOpenVLAの世界モデルを分析するパイプラインも提案している。

Key Facts

論文『Emergent World Representations in OpenVLA』がarXivに2025年9月29日に公開された。[1]
研究対象は視覚言語行動モデル(VLA)のOpenVLAで、現時点で最先端のVLAとされる。[1]
実験では、連続する環境状態の埋め込み間の差分(遷移ベクトル)を中間活性化から回復できるかを測定した。[1]
線形および非線形プローブを用いた分析で、状態遷移の予測能力がベースライン(埋め込み)を統計的に有意に上回った。[1]
結果は、OpenVLAが内部世界モデルを符号化していることを示す(プローブが状態遷移を学習しているのではなく)。[1]
OpenVLAの初期チェックポイントの調査から、訓練が進むにつれて世界モデルが出現する手がかりが得られた。[1]
研究チームはスパースオートエンコーダ(SAE)を用いてOpenVLAの世界モデルを分析するパイプラインを提案している。[1]

なぜ重要か

この研究は、VLAが明示的な環境モデルなしに世界モデルを獲得しうることを示すもので、ロボット制御や意思決定タスクにおけるモデルの解釈可能性と効率性に影響を与える可能性がある。また、SAEを用いた分析パイプラインは、VLAの内部表現の理解を深める手法として注目される。