TMT: 未見タスクにおける視覚言語行動ポリシーの実行時バックドア検出

VLA policy に対する runtime backdoor detector「TMT」を提案。benign rollout のみで学習し、unseen task でも backdoor を検出する。 - Token Manifold と latent Transition modeling の2分岐で構成。 - 入力トークン構造と隣接層 latent dynamics の予測誤差を評価。 - 疑わしい rollout を token manifold で特定し、latent 偏差で確認後、transition selection を更新。 - さらに self-distillation による policy purification も探索。

従来の backdoor detector を VLA 向けに適応し、anomaly/failure detection 手法も VLA backdoor detector として再目的化して比較。 - 10 baselines との post-hoc 比較で、3つの VLA backdoor attack に対し unseen task で state-of-the-art の検出性能を達成。 - 個々には plausible な action からなる malicious behavior や、unfamiliar task による正当な変化を区別できる点が優位。

benign rollout のみで学習する2分岐 detector。 - Token Manifold 分岐：入力トークン構造を評価し suspicious rollout を特定。 - Latent Transition 分岐：隣接層 latent dynamics の prediction error を評価し、token 分岐の疑いを確認。 - 確認後、transition selection を更新して後続 monitoring を導く。 - Purification：frozen backdoored policy が benign-input action を提供し、benign/triggered 観測ペアで student を self-distillation 監督。clean reference policy 不要。

3つの VLA backdoor attack に対し unseen task で評価。 - 従来 backdoor detector を適応し、anomaly/failure detection 手法を VLA backdoor detector として再目的化した10 baselines と post-hoc 比較。 - TMT が state-of-the-art の backdoor detection 性能を達成。 - 詳細な実験設定・指標は要旨からは不明。

要旨からは不明。 - 想定される議論：unseen task での汎化、benign rollout のみでの学習限界、self-distillation による purification の有効性と副作用、計算コスト、他 attack への頑健性など。 - これらは要旨に明記されていない。

要旨で参照/比較されている研究：traditional backdoor detectors、anomaly detection methods、failure detection methods、VLA backdoor attacks。 - 関連手法：Token Manifold、latent Transition modeling、self-distillation。 - 同分野の定番：VLA policy、backdoor attack/defense、runtime detection。 - 具体的な論文名は要旨からは不明。