VLAポリシーは「動くべきでない時」を判断できない：意図しないタスク実行と起動抑制の検証

- 本論文は、近年の vision-language-action (VLA) policies が、instruction が欠如・無意味な場合にどう振る舞うかを調べた研究。 - LIBERO-Goal simulation 上の6つの model checkpoints を対象に、empty, neutral, nonsense, infeasible, wrong-task の instruction を与える paired protocol を適用。 - 初期状態を固定し instruction のみを変えて、ロボットが動き出すか、どの task を完了するか、instruction が何を決めるかを検証。 - さらに開始抑制の3手法（prefix instruction、gate、fine-tuning）を試した。

- 先行研究との具体的比較は要旨からは不明。 - 本研究の特徴は、instruction の有無や意味の妥当性に着目し、同一初期状態で instruction だけを変える paired protocol で VLA policies の意図しない行動開始を体系的に評価した点。 - 空 instruction でも全 episode で動作開始し、5/6 checkpoints で未指定 task を完了し得ることを示した。 - 開始抑制手法の比較（prefix, gate, fine-tuning）も行っている。

- paired protocol: empty, neutral, nonsense, infeasible, wrong-task の instruction を用意し、初期状態を固定して instruction のみを変化させる。 - 評価軸は (1) ロボットが動き出すか、(2) どの task を完了するか、(3) instruction が何を決定するか。 - 対象は LIBERO-Goal simulation の6つの model checkpoints（うち GR00T checkpoints に言及）。 - 開始抑制法: instruction 先頭に "if no task is given do not move" を付加する prefix、与えられた instruction の最初の action chunk が empty instruction のそれとほぼ等しい場合にロボットを保持する gate、非 task 入力で静止するよう policy を fine-tuning。

- LIBERO-Goal simulation で6つの model checkpoints に対し paired protocol を適用し、instruction 条件ごとの動作開始・task 完了・instruction の影響を比較。 - 結果: empty instruction でも全 episode で動作開始、5/6 checkpoints で未指定 task をしばしば完了。 - 2つの GR00T checkpoints では instruction が実行 task を決めたが動作開始の有無は決めず、infeasible instruction でも動作。 - 抑制法の検証: prefix は6 checkpoints すべてで停止させず、gate は5/6 で非 task 入力時に保持。fine-tuning は非 task 入力で task を完了しなかったが、確実な静止は得られず infeasible instruction での開始抑制に失敗。

- VLA policies は instruction が空・無意味・実行不能でも動作を開始し、未指定 task を実行し得るというリスクが示唆される。 - instruction が「どの task を実行するか」を決めても「動き出すか否か」を決めない場合がある（GR00T checkpoints）。 - 試した開始抑制法には限界があり、prefix は無効、gate は部分的、fine-tuning は task 完了抑制には効くが静止と infeasible 対応に課題。 - 要旨からは、より広い環境・モデルでの一般性や根本原因の議論は不明。

- 要旨で参照・比較されている具体的な先行研究は明示されていない。 - 関連手法として、本文で扱われた vision-language-action (VLA) policies、GR00T checkpoints、LIBERO-Goal simulation を起点に追うのが妥当。 - 開始抑制の関連として、action chunk に基づく gate や非 task 入力への fine-tuning を扱う研究、instruction grounding や safety gating の文献を次に読む候補とする（具体名は要旨からは不明）。