SAFECAST、VLAポリシーの障害検出を改善 対照セット摂動とキャリブレーションを導入

何が起きたか

arXivに投稿された論文で、SAFECASTと呼ばれる手法が提案された。VLAポリシーは、展開時の分布シフト( clutter、妨害物体、照明変化、新規物体、初期状態の変更、指示文の言い換えなど)により失敗することがある。既存の隠れ状態ベースのリスクプローブと関数型コンフォーマル予測はロールアウト失敗を検出できるが、その信頼性はキャリブレーションデータが展開条件と一致することに依存する。SAFECASTは、対照セット摂動を利用して隠れ状態プローブの訓練とキャリブレーションを改善する。実験では、実世界のDROIDとLIBEROシミュレーションの両方で、複数のVLMバックボーンにわたり、最先端のベースラインと比較して障害検出のROC-AUCスコアを統計的に有意に改善した。また、視覚と言語の両方の対照セット摂動をデータ拡張に用いた場合に最も効果が高く、対照セット摂動を用いると、シミュレーションから実世界へのキャリブレーションが実ロールアウトデータのみを用いるよりも優れたプローブをもたらすことが分かった。

Key Facts

なぜ重要か

VLAポリシーはロボット制御などで注目されているが、展開時の環境変化で失敗しやすい。SAFECASTは、障害検出の精度を向上させることで、VLAポリシーの実用性を高める可能性がある。特に、シミュレーションと実世界のギャップを埋めるキャリブレーション手法は、実世界展開の信頼性向上に寄与すると考えられる。