再構築の迷子：視覚-言語-行動モデルにおける行動表現と言語の整合

本論文は、Vision-Language-Action Models (VLAs) における行動表現の言語的意味の整合性を扱う。行動動詞は物理的結果だけでなく実行方法も記述するが、既存のVLAは生の行動空間でのL1/L2損失による再構成のみで最適化され、数値的近接性が言語的に意味のある区別を反映しない。BridgeV2データセットで、行動軌跡が視覚状態変化を超えた動詞接地情報を含むこと、再構成のみの離散トークン化がこの情報を体系的に消失させることを示す。この問題に対し、VQ-VAEスタイルのトークナイザに補助目的を追加し、凍結したVision-Language Modelが量子化された行動潜在変数からエピソード命令を復元できるようにするSemantically ALigned action Tokenizer (SALT) を導入する。

先行研究のVLAは行動表現を再構成損失のみで学習し、言語的意味を考慮しない。SALTは、行動トークン化に言語接地を明示的に組み込む点で新規。再構成のみのVQ-VAEトークナイザやFASTと比較して、SimplerEnvでの成功率が大幅に向上（71.9% vs 42.7% vs 31.2%）。また、SALTは動詞特化コードを発達させつつ再構成忠実度を維持することを示し、行動表現と言語の整合が言語条件付き制御を改善することを実証。

SALTはVQ-VAEスタイルのトークナイザに補助目的を追加する。具体的には、量子化された行動潜在変数から凍結したVision-Language Modelがエピソード命令を復元できるように学習する。これにより、行動トークンが言語的に意味のある情報を保持するよう促される。再構成損失と言語復元損失を組み合わせて最適化し、行動表現の言語的整合を図る。

BridgeV2データセットで行動軌跡が動詞接地情報を含むことを示し、再構成のみの離散トークン化が情報を消失させることを確認。SimplerEnv環境で、SALTで訓練したポリシーが平均成功率71.9%を達成し、再構成のみのVQ-VAEトークナイザ（42.7%）やFAST（31.2%）を大幅に上回った。また、SALTが動詞特化コードを発達させつつ再構成忠実度を維持することを検証。

要旨からは、SALTの補助目的が言語復元に依存するため、命令が不明確な場合や多様なタスクでの汎用性に限界がある可能性が示唆されるが、詳細は不明。また、凍結したVision-Language Modelの選択や、行動表現と言語の整合が他のタスクや実ロボットに与える影響については要旨からは不明。

要旨で参照されている研究として、FAST（おそらく行動トークン化の関連手法）とVQ-VAE（ベースとなるトークナイザ）が挙げられる。また、Vision-Language Model（VLM）の詳細や、言語条件付き制御の関連研究として、既存のVLAモデル（例：RT-2、Octoなど）が関連する可能性があるが、要旨からは特定できない。