日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

週刊ニュースレター購読
sim2realarXiv:2610.32277

遅延ランダム化が学習済みヒューマノイド動作追従の遅延マージンを広げる

Delay Randomization Widens the Delay Margin of Learned Humanoid Motion Trackers

シェア:XThreadsFacebookLINEはてブBluesky

動作追従ポリシーの訓練に遅延ランダム化(0-50ms)を導入すると、40msの指令遅延下での生存率が平均15%から95%に向上し、遅延マージンも20-30msから50-70msへ拡大することを示した。

詳しい要約

1. どんなもの?

学習済み humanoid の motion-tracking policy を対象に、command delay に対する robustness(delay margin)を独立した CPU MuJoCo harness で評価し、training 時の delay randomization が delay margin を広げるかを調べた研究。24-joint humanoid で monocular video 由来の5 motions を追従する policy を訓練し、40 ms の constant command delay 下での survival と delay margin を測定している。

2. 先行研究と比べてどこがすごい?

- 従来の locomotion training で一般的な 0 - 20 ms の delay range は、randomization なしの tracker が既に持つ margin の内側に収まることを示した。 - その範囲を超えて randomize することに利得があると示した点が先行研究と異なる。 - 単なる追加 iteration では改善しない control arm を置き、利得が randomization 自体に由来することを切り分けた。 - 最初に見られた sim-to-sim gap の原因が physics engine ではなく harness(missing floor と wrong timestep)だったと特定した。

3. 技術・手法の肝は?

- 24-joint humanoid の motion-tracking policy を5 motions(monocular video 由来)で訓練。 - 訓練時 command delay を 0 - 50 ms で randomize する arm と、delay randomization なしで同数の追加 iteration を回す control arm を比較。 - 独立した CPU MuJoCo harness を training model に対して検証した上で評価。 - 40 ms constant command delay 下の survival rate と delay margin を指標とする。 - 5 motions × 3 training seeds、さらに PhysX で訓練した policy でも確認。

4. どうやって有効だと検証した?

- 各 policy は training randomization 下で 30 episodes 中最低26で motion を完了。 - 40 ms constant delay で survival が平均15%(0% - 45%)、delay margin は 20 - 30 ms に低下。 - delay randomization(0 - 50 ms)で 40 ms 時の survival が平均95%(75% - 100%)、margin が 50 - 70 ms に拡大。 - 追加 iteration のみの control arm では改善せず、randomization 自体の効果と確認。 - 5 motions × 3 seeds すべてで成立し、PhysX 訓練 policy でも同様の挙動。

5. 議論はある?

- 代償として tracking がわずかに緩む(4 motions で 0.02 - 0.06 rad)。 - 最も dynamic な motion では他の perturbation への robustness が低下。 - 最初の sim-to-sim gap は harness の missing floor と wrong timestep に由来し、physics engine 間の差ではなかった。 - delay range は robot の measured latency から設定すべきで、delay margin は他の sim-to-sim metrics と並べて報告すべきと主張。

6. 次に読むべき論文は?

- 要旨で参照/比較されている delay randomization を用いた locomotion training 研究(0 - 20 ms の delay range を常用するもの)。 - sim-to-sim 評価や sim-to-real 転移における harness 検証・metrics に関する研究。 - PhysX など別 physics engine での検証手法に関する研究。 - 具体的な論文名は要旨からは不明。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Shaoqin Li, Yi Sun

分類: cs.RO

原文アブストラクト

Learned humanoid controllers are usually trained in one simulator and then checked in a second one before they go near hardware. We ask what that check says about command delay. We train motion-tracking policies for a 24-joint humanoid on five motions taken from monocular video and test them in an independent CPU MuJoCo harness, which we first verify against the training model. Every policy completes its motion in at least 26 of 30 episodes under the training randomization. With 40 ms of constant command delay, however, survival drops to 15% on average (0% - 45%), and the delay margin is only 20 - 30 ms. Randomizing the delay during training (0 - 50 ms) lifts survival at 40 ms to 95% on average (75% - 100%) and moves the margin to 50 - 70 ms. A control arm trained for the same number of extra iterations without delay does not improve, so the gain comes from the randomization itself. This holds for all five motions with three training seeds each, and a policy trained in PhysX behaves the same way. The price is slightly looser tracking (0.02 - 0.06 rad on four motions) and, for the most dynamic motion, less robustness to other perturbations. We also show that the first sim-to-sim gap we saw came from the harness, a missing floor and a wrong timestep, and not from the physics engines. The 0 - 20 ms delay ranges common in locomotion training lie inside the margin an unrandomized tracker already has. The benefit comes from randomizing beyond it, so the range should be set from the robot's measured latency, and delay margin belongs next to other sim-to-sim metrics.

関連論文

PR本紙発行元 EmplifAI