停止タイミングの学習：VLAにおける内部クロスアテンション動態を用いた適応的アクションチャンキング

本論文は、Vision-Language-Action (VLA) モデルにおける固定長の action chunking の限界を克服するため、内部の cross-attention ダイナミクスに基づく適応的な action chunking 手法を提案している。具体的には、action expert 内の action-to-observation cross-attention のエントロピーが予測 horizon の延長とともに上昇しプラトーに達する現象を観察し、これをオンライン信号として利用して、実行 horizon を動的に決定する training-free の切り詰め機構を導入する。

従来の固定 horizon の action chunking は、短い chunk では頻繁な推論による非効率や振動、長い chunk では新しい状態との不整合というトレードオフがあった。先行研究の適応的 chunking 手法は、外部の状態変化や追加のモジュールに依存することが多いが、本手法はポリシーが既に計算する attention weights のみを用いるため、追加のトレーニングや顕著なオーバーヘッドを必要としない点が新しい。

手法の核心は、action expert 内の action-to-observation cross-attention のエントロピーを監視し、それが持続的に高いプラトーに達した時点で open-loop 実行を打ち切ることである。このエントロピーは、予測 horizon が延びるにつれて分散し、プラトーに達する傾向があり、これは action prediction error の増加と関連する。この信号を用いて、推論中に実行 horizon を動的に選択する。追加のトレーニングは不要で、既存の attention 計算を利用するためオーバーヘッドは無視できる。

提案手法は、π0.5 と X-VLA という2つの VLA モデルを用いて、RoboTwin 2.0、LIBERO、および3つの実世界操作タスクで評価された。固定 horizon と適応的 chunking のベースラインと比較して、平均タスク成功率が向上し、効率的な closed-loop 制御を維持できることを示した。

要旨からは、提案手法の限界や潜在的な欠点についての議論は明示されていない。ただし、cross-attention のエントロピーがプラトーに達するという観察が、すべてのタスクやモデルで一貫しているかどうか、また、エントロピー以外の指標がより適切な場合があるかどうかは不明である。また、training-free であるがゆえに、モデル固有の特性に依存する可能性も考えられる。

要旨で参照されている研究は、π0.5 と X-VLA の VLA モデル、および RoboTwin 2.0、LIBERO のベンチマークである。次に読むべき論文としては、これらのモデルやベンチマークの元論文が挙げられる。また、関連する adaptive action chunking の手法や、cross-attention の解釈可能性に関する研究も有用であろう。