GUARD: 拡散型VLAのための不確実性とアブレーションに基づくリスク検出

GUARDは、拡散ベースのvision-language-action (VLA)ポリシーに対するテスト時失敗検出手法である。事前学習済みポリシーを変更せずに、視覚と言語の証拠に対する行動予測の接地（grounding）の弱さを測定する。具体的には、最終のvision-language modelのkey-value (KV) cacheにおけるトークンインデックス項目の影響を推定し、顕著なKV項目を除去した反事実キャッシュを構築して、元の条件付けとデノイジング応答を比較する。これにより、感度、注意エントロピー、モダリティバイアス、接地効率を含む診断ストリームを導出し、オンラインで較正して軽量な時間分類器で処理する。

先行研究の失敗検出は、行動の不確実性や予測誤差に基づくものが多いが、GUARDは行動生成時の視覚・言語証拠への依存度を直接プローブする点が新しい。事前学習ポリシーを変更せずに、KV cacheのアブレーションによる反事実比較で接地を定量化するため、ポリシー非依存で転移可能な失敗信号を提供する。また、複数のベンチマークとポリシーにわたって一貫した性能向上を示し、既存のランタイムモニタと比較して優れたROC-AUCを達成している。

手法の核心は、KV cacheのトークンインデックス項目の影響を推定し、顕著な項目をアブレーションした反事実キャッシュを構築して、元の条件付けとデノイジング応答を比較することにある。この比較から、感度、注意エントロピー、モダリティバイアス、接地効率の4つの診断ストリームを導出する。これらのストリームはオンラインで較正され、軽量な時間分類器（temporal classifier）に入力されて失敗を検出する。事前学習ポリシーは変更せず、テスト時のみに動作する。

検証は、5つのポリシーベンチマーク設定（LIBERO, SimplerEnv, MetaWorld, PhysicalAI-AV）で、Pi0, SmolVLA, Alpamayo-1.5の3つのポリシーを用いて、タスクを分割した設定（task-held-out）で行われた。その結果、5つの未見タスク設定のうち4つで最高のROC-AUCを達成し、残りの1つで2位となった。平均未見タスクROC-AUCは、最強の競合ランタイムモニタより5.73パーセントポイント向上し、既知タスク平均では最良から0.19ポイント以内に留まった。

要旨からは、議論の詳細は不明であるが、提案手法がポリシー、タスク、身体性、ドメインを横断して転移可能な失敗信号を提供することを示している。また、既知タスクと未見タスクの間で性能のトレードオフがある可能性が示唆される（既知タスク平均で最良に0.19ポイント差）。さらに、診断ストリームの解釈可能性や、時間分類器の設計に関する議論が考えられるが、要旨には明記されていない。

要旨で参照されている研究は、Pi0, SmolVLA, Alpamayo-1.5などのVLAポリシー、およびLIBERO, SimplerEnv, MetaWorld, PhysicalAI-AVなどのベンチマークである。次に読むべき論文としては、これらのVLAポリシーの元論文や、拡散モデルに基づく行動生成の研究、またテスト時失敗検出の関連研究（例：不確実性推定に基づく手法）が挙げられる。具体的には、Pi0の論文や、拡散ポリシーの失敗検出に関する最近の研究が関連する。