日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

VLAarXiv:2611.26239

視覚言語行動モデルに安全な停止を教える

Teaching Vision-Language-Action Models to Stop Safely

シェア:XThreadsFacebookLINEはてブBluesky

実行途中で禁止行動を止め、物を落とさず保持する代替応答を模倣学習で身につけさせるSAFIを提案。

詳しい要約

1. どんなもの?

- Vision-language-action (VLA) モデルにおいて、実行開始後に禁止行為を停止させ、その際の物理的応答を制御する問題を扱う研究。 - タスク抑制型の既存ポリシーは初期状態からの抑制はできても、途中で引き継ぐと完了してしまうことを評価で示す。 - 未完了でも把持物体を落とす可能性があり、非完了は安全指標として不十分と指摘。 - 把持継続が適切な代替応答となるタスク向けに State-Aware Fallback Imitation (SAFI) を提案。

2. 先行研究と比べてどこがすごい?

- 先行研究の task suppression や refusal は初期状態からの抑制を扱うが、実行途中の引き継ぎ時の完了を防げないことを実験的に明らかにした点。 - 非完了を安全の指標とする従来の考え方に対し、物体落下などの physical incidents を考慮すべきと示した点。 - 保持を代替応答として明示的に学習させる点が、単なるタスク抑制・拒否と異なる。

3. 技術・手法の肝は?

- SAFI は2段階から成る。 - fallback target construction: 禁止タスクのデモ全体にわたり、静止した arm コマンドと一貫した gripper ターゲットを割り当てる。 - joint policy adaptation: これらのターゲットを、保持されるタスクの元の action と共に学習する。 - 中間実行状態における明示的な代替応答を教師信号として与えつつ、他のスキルを維持する。

4. どうやって有効だと検証した?

- OpenVLA-OFT を用い、LIBERO と BadLIBERO のタスクで広範な実験を実施。 - 評価指標は prohibited completion、physical incidents、retained-task performance。 - 評価した LIBERO タスクで、引き継ぎ後の aggregate target success を 1.3% に低減。 - physical incidents と action saturation は記録されず、retained-task success は高く維持された。

5. 議論はある?

- 把持継続が適切な代替応答となるタスクに限定した手法であり、他の代替応答が適切な状況への一般性は要旨からは不明。 - 評価は OpenVLA-OFT と LIBERO/BadLIBERO に限られ、実機や他ベンチマークでの検証は要旨からは不明。 - action saturation が記録されなかった点は議論材料だが、詳細な分析は要旨からは不明。

6. 次に読むべき論文は?

- 要旨で参照/比較されている task suppression や refusal の先行研究。 - 評価に用いられた OpenVLA-OFT、LIBERO、BadLIBERO の原論文。 - 関連手法として Vision-Language-Action (VLA) モデル全般、および imitation learning の定番研究。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Zheyuan Liu, Chuhan Wang, Jinduo Guo, Yue Huang, Xiangchi Yuan, Ningshan Ma, Meng Jiang

分類: cs.RO

原文アブストラクト

Vision-language-action (VLA) models enable robots to perform diverse tasks from visual observations and language instructions. While prior work has explored task suppression and refusal, stopping prohibited behavior once execution is underway and controlling the resulting physical response remain challenging. Our evaluation reveals that policies which suppress a task from its initial state can still complete it when taking over partway through execution. Even when the task remains unfinished, the robot may drop a held object, making non-completion an incomplete measure of safety. To address these challenges, we introduce State-Aware Fallback Imitation (SAFI) for tasks where holding provides an appropriate alternative response. SAFI comprises two stages, (1) fallback target construction, which assigns stationary arm commands and consistent gripper targets throughout prohibited-task demonstrations, and (2) joint policy adaptation, which learns these targets alongside the original actions of retained tasks. This supervision teaches an explicit alternative response at intermediate execution states while maintaining the robot's other skills. Extensive experiments with OpenVLA-OFT across LIBERO and BadLIBERO tasks evaluate prohibited completion, physical incidents, and retained-task performance. On the evaluated LIBERO tasks, SAFI reduces aggregate target success after takeover to 1.3\%, with no recorded physical incidents or action saturation, while preserving high retained-task success.

関連論文

  1. 1パナソニックHDなど、触覚に即応する両手作業AI「T-Rex」を共同開発研究・技術
  2. 2川崎重工業のロボット外販を報道新製品・発表
  3. 3Boston Dynamics、GlobalFoundriesでAtlasを試験へ 半導体製造で2027年初頭から半導体・GPU
  4. 4丸文、RealManのロボットアームやヒューマノイドを国内販売提携・買収
  5. 5NVIDIA、SC26で科学研究向けAIエージェントとHPC基盤を発表新製品・発表

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI