SafeStage: 視覚言語条件付きロボットマニピュレーションの実行前・実行中・実行後の安全性評価

- Vision-language-conditioned robot manipulation の安全性を評価する benchmark「SafeStage」を提案。 - タスク実行の前・中・後の3段階で安全性を診断する lifecycle-structured な枠組み。 - 97個の purpose-built risk scenarios を含む。 - 段階は Initial-State Hazards、Execution-Time Safety、Final-State Hazards。 - タスク成功率と段階別の安全結果を独立に報告する。

- 既存評価は task success、isolated physical constraints、semantic refusal、realized physical damage に偏る。 - closed-loop manipulation 中にどこで安全が破綻するかの洞察が限られていた。 - SafeStage は安全性を実行前・実行中・実行後に分解し、違反発生の時点を局所化できる。 - task success と safety を分離して評価する点が新しい。

- 3段階の risk scenarios を設計: Initial-State Hazards、Execution-Time Safety、Final-State Hazards。 - Execution-Time Safety では unsafe contacts、trajectories、region entries、object interactions を対象。 - Final-State Hazards では nominal task completion 後に残る不安定・不安全状態を対象。 - event-based と state-based の checks で realized interactions を評価。 - 共通の closed-loop protocol で direct-action VLA policies と world-model-based policies を比較。

- representative direct-action Vision-Language-Action (VLA) policies と world-model-based policies を共通 closed-loop protocol で評価。 - nominal task completion が safety violations と頻繁に共存することを示した。 - 異なる policies が3段階で distinct failure profiles を示すことを確認。 - これにより task success と safety の分離評価と違反時点の局所化が有効と検証。

- nominal task completion と safety violations が共存しうる点を指摘。 - policies ごとに failure profiles が異なるため、一律の安全評価では不十分。 - 安全性を段階別に局所化することで診断と改善に資する。 - 具体的な限界や議論の詳細は要旨からは不明。

- 要旨で参照/比較されている研究: direct-action Vision-Language-Action (VLA) policies、world-model-based policies。 - 関連手法として Vision-Language-Action (VLA) モデル、world model ベースのロボット政策。 - 同分野の定番として robot manipulation safety、closed-loop evaluation、semantic refusal に関する研究。 - 個別論文名は要旨からは不明。