ニューラル内省ゲーティングによる視覚言語行動モデルの適応的KVキャッシュ再利用

本論文は、Vision-Language-Action (VLA) モデルにおけるKV-Cache再利用の適応的制御手法「Gated VLA-Cache」を提案する。VLAモデルはカメラ画像と言語指示から直接モーターコマンドを生成するが、隣接フレーム間で視覚トークンのKV表現がほぼ変化しないにもかかわらず再計算に計算コストを費やす。既存のVLA-Cacheは視覚的類似性に基づき静的パッチのKV状態を再利用するが、観測空間のヒューリスティックのみに依存し、モデル自身の不確実性を考慮しない。提案手法は、視覚的類似性キャッシュにニューラル内省（neural introspection）を追加する軽量で訓練不要な拡張であり、デコード中に利用可能なゼロコストの信頼度信号（トップ2の予測アクショントークン間のロジットマージン）を監視し、マージンが閾値を下回るとキャッシュを無効化して完全な再計算をトリガーする。

先行研究のVLA-Cacheは視覚的類似性のみに基づいてKV再利用を行い、モデルの不確実性を考慮しないため、キャッシュが誤った場合に精度が低下する可能性がある。提案手法は、モデル自身の信頼度信号（ロジットマージン）を導入することで、キャッシュ再利用の適応性を高め、ブラインドキャッシュが害を及ぼす状況での信頼性を改善する。訓練不要で軽量な点も優れており、追加の学習やパラメータを必要とせずに既存のVLAモデルに適用できる。

手法の核心は、視覚的類似性に基づくKVキャッシュ再利用に、モデルの内部状態（ロジットマージン）をゲーティング信号として組み合わせること。具体的には、デコード時にトップ2の予測アクショントークン間のロジットマージンを計算し、それが閾値未満の場合、モデルが不確かであると判断してキャッシュを無効化し、全視覚トークンのKVを再計算する。これにより、キャッシュ再利用による計算削減を維持しつつ、不確実な状況での精度低下を防ぐ。閾値はハイパーパラメータであり、訓練は不要。

4つのLIBEROベンチマークスイート（LIBERO-Goal、LIBERO-Longなど）で、OpenVLAとOpenVLA-OFTの2つのVLAモデルを用いて評価した。結果、ブラインドキャッシュが精度を損なう状況で信頼性が向上し、LIBERO-GoalとLIBERO-Longでは失われた精度の100%以上を回復しつつ、計算削減の80%を維持した。

要旨からは、閾値の設定方法やモデルやタスクによる最適な閾値の違い、またロジットマージンが常に信頼性の良い指標であるかどうかについての議論は不明。また、計算削減と精度のトレードオフの詳細や、他のVLAモデルや実ロボットへの適用可能性についても言及がない。

要旨で参照されている先行研究として、VLA-Cache（視覚的類似性に基づくKVキャッシュ再利用）が挙げられる。また、関連する手法として、KV-Cache再利用の一般的な手法や、VLAモデルの不確実性推定に関する研究が考えられるが、要旨からは具体的な論文名は不明。