日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

週刊ニュースレター購読
歩行arXiv:2610.19627

E2DRL:四足歩行ロボットの3D障害物回避のためのエンドツーエンド微分可能強化学習

E2DRL: End-to-End Differentiable Reinforcement Learning for 3D Obstacle Avoidance in Quadruped Robots

シェア:XThreadsFacebookLINEはてブBluesky

微分可能強化学習を用いて、四足歩行ロボットが深度カメラで3D障害物を回避する制御を学習し、実機(Unitree Go2)で検証した研究。

詳しい要約

1. どんなもの?

- 四足歩行ロボットの3D障害物回避のためのEnd-to-End Differentiable Reinforcement Learning手法「E2DRL」を提案。 - 微分可能シミュレータ上でSoft Analytic Policy Optimization (SAPO)により特権教師を訓練し、DAggerで再帰的なdepthベースの生徒に蒸留。 - 地形認識ゲーティングモジュールでベース歩行ポリシーとブレンドし、Unitree Go2で実機展開。 - 静的・動的環境での3D障害物回避を実現。

2. 先行研究と比べてどこがすごい?

- 従来の微分可能RLは脚式ロコモーションではblind walkingやシミュレーション上の2Dタスクに限定。 - 硬い衝突制約と接触時の早期終了が一次勾配を破壊し、局所解に陥る問題を解決。 - シミュレーションでPPOより高いサンプル効率、速度追従性能、3D障害物回避能力を達成。 - PPOとDuality-based DCBF NMPCの両方より優れる。 - 微分可能RLによる3D障害物回避の初のsim-to-real検証を提示。

3. 技術・手法の肝は?

- 軟らかい微分可能な障害物相互作用定式化:複数のbody keypointsにわたるpenetration penaltiesと速度条件付きstop-gradient shapingで一次訓練信号を提供。 - 特権教師を微分可能シミュレータでSAPOにより訓練。 - DAggerで再帰的なdepthベースの生徒に蒸留。 - 地形認識ゲーティングモジュールでベース歩行ポリシーとブレンドし展開。

4. どうやって有効だと検証した?

- シミュレーションでPPOより高いサンプル効率を達成。 - PPOおよびDuality-based DCBF NMPCと比較し、速度追従性能と3D障害物回避能力で優位性を確認。 - Unitree Go2を用いた静的・動的環境でのsim-to-real検証を実施。

5. 議論はある?

- 要旨からは不明。

6. 次に読むべき論文は?

- PPO - Duality-based DCBF NMPC - Soft Analytic Policy Optimization (SAPO) - DAgger

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Cheng Fan, Bingyang Zhou, Gang Yang, Zixuan Zhuang, Aoqian Zhang, Pengzhi Yang, Xin Liu, Chunzheng Wang, Yan Rui Tan, Fan Shi

分類: cs.RO

原文アブストラクト

Differentiable reinforcement learning shows strong promise for robot policy learning, but its application to legged locomotion has remained limited to blind walking or simulated 2D tasks. Extending it to end-to-end visual obstacle avoidance is challenging because hard collision constraints and early termination upon contact corrupt first-order gradients, trapping optimizers in local minima. We present E2DRL, which addresses this with a soft differentiable obstacle-interaction formulation: penetration penalties across multiple body keypoints with velocity-conditioned stop-gradient shaping to provide the first-order training signals for 3D obstacle avoidance. To realize a deployable perception-control system, a privileged teacher trained via Soft Analytic Policy Optimization (SAPO) in a differentiable simulator is distilled into a recurrent depth-based student via DAgger, then blended with a base locomotion policy using a terrain-aware gating module for deployment. In simulation, E2DRL achieves higher sample efficiency than PPO and demonstrates superior velocity-tracking performance and 3D obstacle-avoidance capability compared with both PPO and Duality-based DCBF NMPC. We present the first sim-to-real validation of end-to-end differentiable RL for 3D obstacle avoidance on a Unitree Go2 in static and dynamic environments.

関連論文

PR本紙発行元 EmplifAI