日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

週刊ニュースレター購読
リーチアビリティ/安全性arXiv:2610.28106

確率的リーチ・アボイド価値関数の時間差分学習

Temporal Difference Learning of Probabilistic Reach-Avoid Value Functions

シェア:XThreadsFacebookLINEはてブBluesky

確率的で非有界な外乱下でもリーチ・アボイド集合を自己教師ありで推定する手法を提案し、敵対的HJRより保守的でなく精度が高いことを示した。

詳しい要約

1. どんなもの?

- 確率的な外乱下での reach-avoid 集合を計算する手法 PVF (Probabilistic reach-avoid Value Function) の提案 - reach-avoid 集合とは、不安全領域を避けつつタスクを完了できる状態の集合 - ロボットの環境展開や runtime task-feasibility monitoring に有用 - 外乱が stochastic かつ unbounded な場合に、ある reach-avoid 確率を持つ状態集合として算出 - self-supervised で black-box システムに適用可能

2. 先行研究と比べてどこがすごい?

- 従来の Hamilton-Jacobi Reachability (HJR) および neural 拡張 (Lipschitz Continuous Reachability Learning, DeepReach) は外乱を adversarial に扱い、bounded な外乱集合下の worst-case で reach-avoid 集合を計算 - これらは安全性を保証するが、外乱が stochastic な場合に過度に保守的な集合になり得る - また外乱集合を事前に既知/指定する必要がある - PVF は stochastic で unbounded な外乱を扱え、外乱集合の事前指定が不要 - 非 adversarial な外乱下で、より保守性が低く精度の高い集合を得られる

3. 技術・手法の肝は?

- self-supervised な手法で reach-avoid 確率に基づく value function を学習 - black-box システムに適用可能(モデル不要) - タイトルにある通り Temporal Difference learning を用いて probabilistic reach-avoid value function を学習 - 外乱を adversarial ではなく stochastic として扱い、確率閾値で reach-avoid 集合を定義 - 詳細なアルゴリズム構成は要旨からは不明

4. どうやって有効だと検証した?

- HJR ベースの baselines と比較評価 - 複雑度が増加するシステムで評価し、最終的に Hopper locomotion task まで実施 - 外乱が非 adversarial な場合に、PVF の確率的集合が adversarial HJR 集合より保守性が低く精度が高いことを示した - 定量的指標の詳細は要旨からは不明

5. 議論はある?

- 外乱が stochastic な場合に adversarial HJR は過度に保守的になるという問題提起 - 外乱集合を事前に知る必要があるという HJR の制約を回避 - 非 adversarial 外乱下での有効性を示す一方、adversarial 外乱下での安全性保証については要旨からは不明 - 確率閾値の設定や unbounded 外乱下での保証の議論は要旨からは不明

6. 次に読むべき論文は?

- Hamilton-Jacobi Reachability (HJR) - Lipschitz Continuous Reachability Learning - DeepReach - Temporal Difference learning 関連手法 - Hopper locomotion task を用いた関連研究

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Elias Fontanari, Pietro Noah Crestaz, Matteo Saveriano, Andrea Del Prete

分類: cs.RO, eess.SY

原文アブストラクト

Reach-avoid sets, defining the states from which a task can be completed while avoiding unsafe regions, are fundamental tools for deploying robots in environments subject to disturbances and uncertainty, as well as for runtime task-feasibility monitoring, allowing prediction of whether a state is safe and will lead to successful task completion. Classical Hamilton-Jacobi Reachability (HJR) and its recent neural extensions (e.g., Lipschitz Continuous Reachability Learning, DeepReach) treat disturbances adversarially, computing the reach-avoid set under worst-case disturbances from a bounded set. This guarantees safety but can yield overly conservative sets when disturbances are stochastic rather than adversarial, and additionally requires the disturbance set to be known or specified in advance. We propose Probabilistic reach-avoid Value Function (PVF), a self-supervised method, applicable to black-box systems, for computing reach-avoid sets as the states with a certain reach-avoid probability under stochastic, potentially unbounded disturbances. We evaluate our approach against HJR-based baselines on systems of increasing complexity, up to a Hopper locomotion task, and show that our probabilistic sets are less conservative and more accurate than adversarial HJR sets when disturbances are non-adversarial.

PR本紙発行元 EmplifAI