視覚-言語-行動モデルにおけるトークン圧縮のための最小知覚差モデリング

本論文は、Vision-Language-Action (VLA) モデルにおけるトークン圧縮のための新しい基準である Action-JND を提案している。Action-JND は、人間の視覚系における Just Noticeable Difference (JND) の概念を、機械の知覚、特に VLA ポリシーの言語条件付き行動応答に拡張したものである。トークンの変化が、閉ループ制御における下流の行動偏差を許容範囲内に保つ場合にのみ、その変化を許容可能と定義する。この概念を実現するために、深い視覚特徴空間で動作する軽量なトークン単位の JND 推定器を開発し、ポリシーの応答を維持しながら許容できる最大の摂動を予測する。得られた行動許容スコアは、stale-KV reuse や token pruning などの VLA 圧縮パラダイムにプラグアンドプレイで適用でき、圧縮対象として行動許容なトークンを優先する。

既存のトークン圧縮手法は、冗長性や重要性の手がかり（視覚的類似性、attention score、saliency など）を用いて圧縮を導くが、これらは圧縮の安全性を決定する重要な要素、すなわち「トークンがどれだけ変化しても下流の行動に許容できない偏差を引き起こさないか」を間接的にしか測定していない。Action-JND は、受信者依存の許容度を直接モデル化する点で先行研究と異なる。古典的な JND は人間の視覚系における信号許容度を特徴づけ、機械指向の JND は下流の機械応答に拡張するが、Action-JND はこれを具現化された知覚（embodied perception）に拡張し、VLA ポリシーの行動応答に基づいて許容度を定義する。これにより、圧縮の信頼性を向上させる。

手法の核心は、トークン単位の JND 推定器を深い視覚特徴空間で学習することである。この推定器は、VLA ポリシーの行動応答を維持しながら許容できる最大の摂動を予測する。具体的には、言語条件付きの行動応答を考慮し、トークンの変化による行動偏差が許容マージン内に収まるかどうかを判定する。得られた行動許容スコアは、stale-KV reuse や token pruning などの圧縮手法にプラグアンドプレイで組み込まれ、行動許容なトークンを優先的に圧縮する。これにより、圧縮率が高い場合でもポリシーの応答を維持する。

実験は LIBERO benchmark を用いて、OpenVLA と OpenVLA-OFT の2つの VLA モデルで実施された。Action-JND を既存の圧縮手法（stale-KV reuse と token pruning）に組み込み、圧縮の信頼性を評価した。結果、Action-JND は特に高い圧縮率において、圧縮の信頼性を一貫して向上させることが示された。具体的な評価指標は要旨からは不明だが、行動の正確さやタスク成功率などが考えられる。

要旨からは、Action-JND の限界や議論についての詳細は不明である。ただし、JND 推定器の学習には VLA ポリシーの行動応答が必要であり、その計算コストや汎用性に関する議論が考えられる。また、行動許容スコアの定義がタスクや環境に依存する可能性があり、異なるタスクへの適用には調整が必要かもしれない。さらに、圧縮率が非常に高い場合の性能低下の限界についても議論の余地がある。

要旨で参照されている関連研究として、token pruning や KV-cache reuse の手法、および JND の概念を機械に拡張した研究が挙げられる。具体的には、視覚言語モデルにおけるトークン圧縮の研究や、機械指向の JND に関する研究が関連する。また、VLA モデル自体の研究（OpenVLA など）も次に読むべき論文として考えられる。