VLAモデルの言語的脆弱性を多様性重視のレッドチーミングで検出 成功率93.33%→5.85%に低下

何が起きたか

研究チームは2026年4月7日、ロボット操作モデル(VLA)の言語的変化に対する脆弱性を検出するフレームワーク「DAERT(Diversity-Aware Embodied Red Teaming)」をarXivで発表した。実験では、2つの最先端VLAモデル(π0とOpenVLA)を対象に、物理シミュレータ上で敵対的指示を生成し、平均タスク成功率を93.33%から5.85%に低下させた。

詳細

DAERTは、多様な指示を生成しつつ攻撃効果を確保する「一様ポリシー」に基づく。標準的な強化学習ベースの敵対的手法は報酬最大化によりモード崩壊を起こし、些細で反復的な失敗パターンに収束しがちだが、DAERTは多様性を重視することで、より広範なリスクを明らかにする。実験は複数のロボットベンチマークで実施され、π0とOpenVLAの2つのVLAモデルに対して、より広範囲で効果的な敵対的指示を発見した。

Key Facts

本紙の見方

今回の研究の新規性は、VLAモデルの言語的脆弱性に着目し、多様性を明示的に組み込んだレッドチーミング手法を提案した点にある。従来のレッドチーミングは報酬最大化に基づくため、攻撃パターンが収束しやすく、リスクの全体像を捉えられないという問題があった。DAERTは一様ポリシーを用いることで、多様な指示を生成しつつ攻撃効果を維持し、成功率を93.33%から5.85%へと劇的に低下させることに成功した。この結果は、VLAモデルが言語のわずかな変化に対して極めて脆弱であることを示しており、実世界展開における安全性の重大な懸念を浮き彫りにしている。 業界構造への含意として、VLAモデルの開発競争が進む中で、安全性評価の手法が重要な競争軸になりつつある。今回の研究は、シミュレーション上でのストレステストが実世界展開前の安全確認に有効であることを示しており、今後のVLA開発において標準的な評価プロセスとなる可能性がある。また、レッドチーミングの自動化は、人手による評価に比べて網羅性と効率性を高めるため、開発サイクルの短縮にも寄与するとみられる。 一方で、未確定の論点も残る。今回の実験は物理シミュレータ上で行われており、実世界のロボットでの検証はまだ行われていない。また、対象としたモデルはπ0とOpenVLAの2つに限られており、他のVLAモデルへの一般化可能性は不明である。さらに、DAERTが生成する指示の多様性が、実際の展開環境で遭遇する言語的変化をどの程度代表しているかも検証が必要だ。今後は、実機での検証や、より多様なモデル・タスクでの評価が待たれる。

なぜ重要か

VLAモデルの言語的脆弱性は、実世界でのロボット操作の安全性に直結する問題であり、今回の研究はそのリスクを定量的に示した点で重要である。DAERTのような自動化されたレッドチーミング手法は、開発者が実世界展開前に安全上の盲点を特定するための実用的なツールとなり得る。