日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

敵対的攻撃/VLAarXiv:2611.23714

ExecGap:コマンドと実行のギャップを突くVLAモデルへのパッチ攻撃

ExecGap: Exploiting Command-Execution Gap for Patch Attacks on Vision-Language-Action Models

シェア:XThreadsFacebookLINEはてブBluesky

VLAモデルが予測したコマンドが下流制御で実現されるまでの「コマンド-実行ギャップ」に着目し、実行しにくい方向へ予測を誘導する敵対的パッチ攻撃を提案した論文。

詳しい要約

1. どんなもの?

- Vision-Language-Action (VLA) モデルに対する新たな adversarial patch attack フレームワーク「ExecGap」を提案する研究。 - VLA が予測した command は直接実行されず、下流の control と robot embodiment を経て実現される点に着目。 - この command-execution gap を悪用し、embodiment 固有の実行脆弱性を顕在化させる。 - ロボット操作タスクにおける VLA の adversarial robustness を扱う。

2. 先行研究と比べてどこがすごい?

- 既存の VLA ロボットへの adversarial attack は主に prediction-level の不一致や rollout-level の逸脱を最適化して操作を妨害するものだった。 - それらは VLA 予測 command が下流 control と embodiment を通じて実現される事実をほとんど考慮していない。 - ExecGap は command-execution gap を明示的に狙う点が新規。 - 複数の VLA policy の simulation 実験で、既存 patch attack より大きな command-execution mismatch と弱い realized execution を誘発すると報告。

3. 技術・手法の肝は?

- adversarial patch attack フレームワーク ExecGap を構築。 - VLA 予測の task-space command を low-executability 方向へバイアスさせる。 - low-executability 方向は kinematic inefficiency と dynamic weak actuation から推定。 - これにより execution degradation を誘発し、予測 command が効果的に実現しにくくなりタスク完了を阻害する。

4. どうやって有効だと検証した?

- 複数の VLA policy に対する simulation 実験を実施。 - ExecGap が既存 patch attack より大きな command-execution mismatch と弱い realized execution を誘発することを示す。 - 実ロボット実験により、展開した patch が物理プラットフォーム上で execution degradation を誘発することを検証。

5. 議論はある?

- 要旨からは不明。 - 想定される論点として、embodiment 依存性や実機展開時の patch の実現可能性、防御策の必要性が考えられるが、要旨には明記されていない。

6. 次に読むべき論文は?

- 要旨で参照/比較されている既存の VLA 向け adversarial patch attack(prediction-level / rollout-level 最適化手法)。 - VLA モデル全般(Vision-Language-Action models)。 - 関連する adversarial patch attack と robot manipulation の robustness 研究。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Keke Tang, Guolin Qiu, Tianyu Hao, Daizong Liu, Yikai Zhang, Peican Zhu, Zhihong Tian

分類: cs.RO

原文アブストラクト

Vision-Language-Action (VLA) models have become a powerful paradigm for robotic manipulation and show strong promise for real-world deployment, making adversarial robustness critical for reliable robot operation. Existing adversarial attacks on VLA-controlled robots mainly optimize prediction-level discrepancies or rollout-level deviations to disrupt manipulation. However, they rarely account for the fact that VLA-predicted commands are not executed directly, but must be realized through downstream control and robot embodiment. In this paper, we propose ExecGap, an adversarial patch attack framework that exploits this command-execution gap to expose embodiment-specific execution vulnerabilities. Specifically, ExecGap biases VLA-predicted task-space commands toward low-executability directions, which are estimated from kinematic inefficiency and dynamic weak actuation. This induces execution degradation, where the predicted command becomes difficult to realize effectively, thereby impairing task completion. Extensive simulation experiments across multiple VLA policies show that ExecGap induces larger command-execution mismatch and weaker realized execution than existing patch attacks. Real-robot experiments further validate that the deployed patch can induce execution degradation on physical platforms.

関連論文

  1. 1パナソニックHDなど、触覚に即応する両手作業AI「T-Rex」を共同開発研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3日経クロステック、NVIDIA取締役会のファンCEO解任議論を報道 同社は同日、辞任を発表業界動向
  4. 4NVIDIA、ヒトの動きをロボットに適応する「SOMA Retargeter」を紹介研究・技術
  5. 5ティアフォーとTUM、Autowareでミュンヘン大型路線バスの自動運転開発を支援提携・買収

PR・アフィリエイト広告

MINISFORUM(ミニPC)

MINISFORUM(ミニPC)の公式広告バナーMINISFORUM公式ストアを見る ↗
PR本紙発行元 EmplifAI