VLA2026/8/19arXiv:2608.18410

役割条件付きサブトークンルーティングによる効率的な視覚言語行動ポリシー

Role-Conditioned Sub-Token Routing for Efficient Vision-Language-Action Policies

視覚言語行動モデルの推論コスト削減のため、保持トークンの値表現を役割に応じて圧縮する新しい手法RoleSubを提案。トークン削減と組み合わせ、LIBEROベンチマークで高い性能を達成。

詳しい要約

1. どんなもの？

本論文は、Vision-Language-Action (VLA) モデルの推論コストを削減するための新しい圧縮手法 Role-Conditioned Sub-Token Routing (RoleSub) を提案している。VLA モデルは長いマルチモーダルなトークン列を処理するため、メモリと計算の両面で高コストである。既存の効率化手法は主に視覚トークンの削減に焦点を当てるが、トークン全体を削除するとその表現全体が失われるため、攻撃的な圧縮では脆弱になる。RoleSub は、保持するトークンの数は減らさずに、各トークンの値表現の幅（value width）を圧縮するサブトークン圧縮を採用する。具体的には、視覚トークン削減後、各保持トークンの値表現を直交空間上のグループに分割し、軽量なルーターがどのグループを保持すべきかを決定する。ルーティング決定は、トークン表現、学習された潜在的なロール表現、言語コンテキストに基づいて条件付けられる。このメカニズムは言語値にも適用でき、視覚と言語の表現をトークン削除なしで圧縮できる。

2. 先行研究と比べてどこがすごい？

先行研究の効率化手法は主に視覚トークンの削減に焦点を当てており、トークン全体を削除することで情報が失われる問題があった。RoleSub は、トークンを保持したまま値表現を圧縮するサブトークン圧縮を導入することで、この問題を補完する。さらに、単純なサブトークン圧縮を VLA ポリシーに適用するだけでは、知覚、言語理解、制御に重要な情報がマルチモーダル表現内で異なる分布を持つため効果が低い。RoleSub は、トークンのロール（役割）に応じて圧縮方法を学習することで、この課題に対処している。また、言語値にも同じメカニズムを適用できる点が新しい。

3. 技術・手法の肝は？

RoleSub の手法の肝は、視覚トークン削減後に、各保持トークンの値表現を直交空間上の複数のグループに分割し、軽量なルーターが各グループを保持するかどうかを決定することである。ルーティング決定は、トークン表現、学習された潜在的なロール表現、言語コンテキストに条件付けられる。これにより、タスクに重要な情報を含むグループを選択的に保持し、重要でないグループを圧縮する。同じメカニズムを言語値にも適用することで、視覚と言語の表現をトークン削除なしで圧縮できる。

4. どうやって有効だと検証した？

OpenVLA-OFT-7B モデルを用いて、4つの LIBERO スイートで評価を行った。視覚 KV 予算を一致させた条件下で、RoleSub は 36 設定中 33 設定で、トークンのみを削減する制御手法を上回った。特に攻撃的な圧縮下で最大の改善が見られた。視覚と言語の圧縮を組み合わせると、総 KV を元の 9.2% から 11.3% に削減しながら、ほとんどのタスクで強い制御性能を維持した。

5. 議論はある？

要旨からは、議論の詳細は不明であるが、RoleSub がトークン削減とサブトークン圧縮を組み合わせることで、攻撃的な VLA 圧縮において効果的な補完となることを示している。また、圧縮率が高い場合でも性能を維持できることが示唆されるが、すべてのタスクで完全に性能を維持できるわけではない（「ほとんどのタスク」と記載）。

6. 次に読むべき論文は？

要旨で参照されている研究は、OpenVLA-OFT-7B モデルと LIBERO ベンチマークである。また、関連手法として、視覚トークン削減（token pruning）やサブトークン圧縮（sub-token compression）が挙げられる。次に読むべき論文としては、OpenVLA の元論文や、VLA モデルの効率化に関する他の研究が考えられる。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Wei Jiang, Wei Wang

分類: cs.LG

原文アブストラクト

Vision-Language-Action (VLA) models process long multimodal token sequences, making inference expensive in both memory and computation. Existing efficiency methods mainly reduce visual tokens, but aggressive token pruning becomes fragile because removing a token discards its entire representation. Sub-token compression provides a complementary alternative by retaining more tokens while reducing their value width. However, directly applying sub-token compression to VLA policies is less effective because information important for perception, language understanding, and control is distributed differently across the multimodal representation. We introduce Role-Conditioned Sub-Token Routing (RoleSub), which learns how to compress the value representations of retained tokens. After visual token reduction, RoleSub partitions each retained value representation into groups in an orthogonal space and uses a lightweight router to determine which groups should be preserved. The routing decision is conditioned on the token representation, a learned latent role representation, and language context. The same mechanism can also be applied to language values, allowing visual and language representations to be compressed without removing additional tokens. We evaluate RoleSub on OpenVLA-OFT-7B across the four LIBERO suites. At matched visual-KV budgets, RoleSub outperforms a trained token-only control in 33 of 36 settings, with the largest gains under aggressive compression. Combining visual and language compression reduces total KV to 9.2--11.3% of the original while retaining strong control performance on most tasks. These results show that reducing the representation within retained tokens provides an effective complement to token pruning for aggressive VLA compression.

arXivで原文を読む →arXiv概要ページ