日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

週刊ニュースレター購読
模倣学習arXiv:2611.03091

KlaskTron-IL:接触の多い敵対的模倣学習ベンチマークと検証済みsim-to-realブリッジ

KlaskTron-IL: A Contact-Rich Adversarial Imitation Learning Benchmark with a Validated Sim-to-Real Bridge

シェア:XThreadsFacebookLINEはてブBluesky

接触の多い対戦型ロボット競技KlaskTron上で、実機デモと合成専門家データを含む模倣学習データセットと診断ベースラインを構築し、標準的な模倣学習手法の失敗モードを明らかにした。

詳しい要約

1. どんなもの?

- KlaskTron-IL は、2人対戦型の adversarial RL 用 open-hardware 物理プラットフォーム KlaskTron 上に構築された、contact-rich な adversarial imitation learning (IL) のベンチマーク。 - 80k の実機 human demonstration timesteps、320k の symmetry-augmented timesteps、最大 5M steps の synthetic expert trajectories からなる multi-tier IL dataset を提供。 - 標準 IL 手法の failure modes を可視化する diagnostic baselines も含む。 - 学習済み actuator model により zero-shot sim-to-real を狙う構成。

2. 先行研究と比べてどこがすごい?

- 既存の IL ベンチマークは contact-rich かつ adversarial な物理相互作用を実機由来データで扱う点が限定的。 - KlaskTron-IL は実機で直接収集した human demonstration と、zero-shot 検証済み PPO policy による synthetic expert を同一インタフェースで提供。 - 同一 policy interface を actuator model が hardware に橋渡しするため、benchmark 上の policy を変更なしで実機実行できる点が特徴。 - 標準 IL 手法の failure modes を診断する baseline を整備。

3. 技術・手法の肝は?

- open-hardware の KlaskTron プラットフォームと learned actuator model を基盤とする。 - dataset は実機 human demonstration、symmetry augmentation、PPO による synthetic expert の階層で構成。 - policy interface は actuator model が hardware に橋渡しする共通インタフェース。 - actuator model の同定範囲は ±0.2 m/s で、この範囲内の command が zero-shot 実機実行の条件。 - BC、GAIL などの標準 IL baseline を diagnostic に用いる。

4. どうやって有効だと検証した?

- 実機で 80k timesteps の human demonstration を収集。 - PPO policy の zero-shot sim-to-real を検証済みと記述。 - 最強の BC baseline について、actuator model の ±0.2 m/s 同定範囲内の command であれば実機で zero-shot 実行できることを実演。 - GAIL discriminator の Spearman ρ = -1.0 の peg-ball proximity recovery や logit span 0.1 未満といった診断指標を報告。

5. 議論はある?

- BC の data scaling plateau、GAIL の弱勾配 discriminator、asymmetric BC-prior × reward-density interaction という3つの failure modes を指摘。 - zero-shot 実機実行は actuator model の ±0.2 m/s 同定範囲に制約される。 - 範囲外 command の扱いや、他手法への一般化については要旨からは不明。

6. 次に読むべき論文は?

- KlaskTron の open-hardware プラットフォーム論文と learned actuator model の zero-shot sim-to-real 研究。 - BC (Behavior Cloning) および GAIL (Generative Adversarial Imitation Learning) の原論文。 - PPO (Proximal Policy Optimization) の原論文。 - contact-rich manipulation における imitation learning の sim-to-real 研究。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Nicklas Sohm, Aswin Ramachandran, Raffaello D'Andrea

分類: cs.RO

原文アブストラクト

KlaskTron is an open-hardware physical platform for two-player adversarial reinforcement learning, with a learned actuator model that supports zero-shot sim-to-real transfer of trained policies. Building on this platform, we contribute KlaskTron-IL: a multi-tier imitation learning dataset (80k human demonstration timesteps collected directly on the physical robot, 320k symmetry-augmented timesteps, and synthetic expert trajectories up to 5M steps generated by the zero-shot-validated PPO policy), and diagnostic baselines that expose three characteristic failure modes of standard IL methods under contact-rich adversarial dynamics: BC's data scaling plateau, GAIL's interpretable but weak-gradient discriminator (Spearman $ρ= -1.0$ peg-ball proximity recovery, but a logit span under 0.1), and an asymmetric BC-prior x reward-density interaction. Because the policy interface used throughout this paper is the same one the actuator model bridges to hardware, a policy trained on this benchmark can run unchanged on the physical robot, as we demonstrate zero-shot for the strongest BC baseline, so long as its commands respect the actuator model's $\pm 0.2$ m/s identification range.

関連論文

PR本紙発行元 EmplifAI