拡散モデルを用いたVLAモデルへの新たな攻撃手法DURAを提案

何が起きたか

研究者らは、VLAモデルに対する拡散ベースの非制限型ロボット攻撃手法DURAを提案した。DURAは、事前学習済み拡散モデルの潜在軌跡に沿って最適化することで、視覚的に自然な敵対的パッチを生成し、ロボットを攻撃者が指定した目標行動へ誘導する。ホワイトボックスとブラックボックスの両方の攻撃設定をサポートし、ブラックボックス設定では被害モデルの予測行動のみを必要とする。

詳細

VLAモデルは多様な操作タスクでロボットを制御する強力な能力を示しているが、その敵対的ロバスト性はほとんど調査されておらず、この弱点を悪用すると物理世界での害を引き起こす可能性がある。既存のVLAモデルへの攻撃は、ピクセル空間の摂動やホワイトボックスアクセスに依存することが多く、目に見えるアーティファクトが生じ、実世界のロボットシステムでの展開性が限られていた。 DURAは、事前学習済み拡散モデルの潜在軌跡に沿って最適化することで、視覚的に自然なパッチを生成しながら、ロボットを攻撃者が指定した目標行動へ向かわせる。ブラックボックス設定では、被害モデルの予測行動のみを必要とするため、実世界での展開が容易である。 シミュレーションと実世界の両方での広範な実験により、DURAは既存手法を一貫して上回る性能を示した。この発見は、物理的に展開されたVLAモデルに対する安全性リスクを明らかにし、より強力な防御策を求めている。

Key Facts

なぜ重要か

この研究は、VLAモデルの敵対的ロバスト性の未解明な側面に光を当て、実世界のロボットシステムにおける安全性リスクを浮き彫りにした。DURAのような攻撃手法の提案は、VLAモデルの防御研究を促進し、物理世界での安全な展開に貢献する可能性がある。