日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

VLAarXiv:2611.26385

流れベースVLA方針における放射状注意の再解釈:シンク仮説の検証

Beyond the Sink Interpretation: Radial Attention in Flow-Based VLA Policies

シェア:XThreadsFacebookLINEはてブBluesky

流れベースVLA方針の行動トークン端部への高い注意が「シンク」仮説に合致するか検証し、RoPE由来の過剰注意であることや端部マスクの影響が小さいことを示した。

詳しい要約

1. どんなもの?

flow-based VLA policy($\pi_{0.5}$ checkpoint)におけるaction tokenへのattention集中、特に先頭・末尾action tokenへの高いattentionを『radial action sink』と呼ぶ先行解釈を検証した研究。language modelにおけるsink(高いincoming attention、小さいvalue、出力への影響が小さいtoken)のプロファイルがaction tokenにも当てはまるかを、RoboCasaの5タスクで検証している。

2. 先行研究と比べてどこがすごい?

- 先行研究は先頭・末尾action tokenへの高いattentionをradial action sinkとみなし、実行horizon設定に利用していた - 本研究はそのsinkプロファイル自体を検証対象とし、horizon ruleではなく性質を調べる点が新しい - 両端tokenはaction-key massの5.4%(uniform比+1.4pt)を受けるが、value normは18層すべてでaction-token平均付近に留まりsink profileに合致しないと示す - sink profileに合うのはprefix BOSであると特定し、先行解釈を覆す

3. 技術・手法の肝は?

- 1つの$\pi_{0.5}$ checkpointをRoboCasa 5タスクで分析 - action-key mass、value norm、masking、value zeroing、value direction置換などの介入でtokenの役割を評価 - rotary positional encoding(RoPE)が両端のattention超過を生むことを、浅層では直接、深層では上流のaction-token RoPEを介して示す - action chunk内では他タスクで推定したrelative-offset routing profileを適用し、uniform/shuffled routingと比較

4. どうやって有効だと検証した?

- 250 paired episodesで両端tokenのmaskingやvalue zeroingはsuccess変化4pt未満 - 両端tokenのvalue directionを別observationのものに置換すると3.2〜7.2pt低下(3 donors)、実行prefix内の非端点2 tokenでは28.4pt低下 - prefix BOSのvalue zeroingは2つのpaired runでsuccessを+13.2pt(95% CI [+7.0, +19.4])と+6.0pt([+0.2, +11.8])上昇 - relative-offset routingはaction-token spreadの75%を保持し、held-out 3タスクで42.7%(baseline 38.7%)、uniform/shuffledは3〜4%に低下

5. 議論はある?

- 高いattention massだけではtokenの機能を判断できないと結論 - 両端tokenはsinkではなく、value方向の置換で影響が出ることから機能的役割を持つ可能性 - prefix BOSがsink profileに合致し、そのvalue zeroingがsuccessを上げる点はモデル内部の不要情報の存在を示唆 - 単一checkpoint・限られたタスクでの検証であり、一般化や他VLA policyへの適用は要旨からは不明

6. 次に読むべき論文は?

- radial action sinkを提唱した先行研究(flow-based VLA policyのhorizon設定研究) - language modelにおけるattention sink研究 - RoPE(rotary positional encoding)とattention sinkの関係を扱う研究 - $\pi_{0.5}$およびflow-based VLA policyの原論文 - RoboCasaベンチマーク論文

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Yuxi Zheng, Yueqian Lin, Yudong Liu, Zijia Tang, Junyu Pan, Yiheng Wang, Hai Helen Li, Yiran Chen

分類: cs.RO

原文アブストラクト

Prior work calls the high attention on the first and last action tokens of a flow-based VLA policy a radial action sink, and uses these tokens to set the execution horizon. In language models, a sink is a token with high incoming attention, a small value, and little effect on the output. We test whether that profile holds, not the horizon rule, in one $π_{0.5}$ checkpoint on five RoboCasa tasks. The two endpoints receive 5.4% of action-key mass, 1.4 percentage points above their uniform share, and rotary positional encoding produces this excess: directly in shallow layers and through upstream action-token RoPE deeper in the network. The endpoints do not fit the sink profile. Their value norms stay near the action-token mean in all 18 layers. On 250 paired episodes, masking them or zeroing their values changes success by less than 4 points, and replacing their value directions with those of another observation lowers it by 3.2 to 7.2 points across three donors, whereas the same replacement on two non-endpoint tokens in the executed prefix lowers it by 28.4 points. The token that does fit the sink profile on mass and value norm is the prefix BOS; on this checkpoint, zeroing its value raises success in two paired runs, by +13.2 points (95% CI [+7.0, +19.4]) and +6.0 points ([+0.2, +11.8]). Inside the action chunk, a relative-offset routing profile estimated on other tasks keeps 75% of action-token spread and keeps closed-loop success on three held-out tasks (42.7% against a 38.7% baseline), while uniform or shuffled routing drops success to 3-4%. High attention mass alone does not tell what a token does.

関連論文

  1. 1パナソニックHDなど、触覚に即応する両手作業AI「T-Rex」を共同開発研究・技術
  2. 2川崎重工業のロボット外販を報道新製品・発表
  3. 3Boston Dynamics、GlobalFoundriesでAtlasを試験へ 半導体製造で2027年初頭から半導体・GPU
  4. 4丸文、RealManのロボットアームやヒューマノイドを国内販売提携・買収
  5. 5NVIDIA、SC26で科学研究向けAIエージェントとHPC基盤を発表新製品・発表

PR・アフィリエイト広告

OZ GAMING(GPU搭載BTOゲーミングPC)

OZ GAMING(GPU搭載BTOゲーミングPC)の公式広告バナーOZ GAMINGで完成品PCを見る ↗
PR本紙発行元 EmplifAI