日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

週刊ニュースレター購読
arXiv:1703.06907

Domain Randomization for Transferring Deep Neural Networks from Simulation to the Real World

Domain Randomization for Transferring Deep Neural Networks from Simulation to the Real World

シェア:XThreadsFacebookLINEはてブBluesky
🏛 フィジカルAI 必読論文強化学習・制御・世界モデル
本論文は、シミュレーション環境で訓練した深層ニューラルネットワークを実世界へ転移させる際の課題を解決するために、ドメインランダム化という手法を提案した。具体的には、シミュレーション中の物体の外観、形状、照明、物理パラメータなどをランダムに変化させることで、実世界の多様な状況に対してロバストなモデルを学習させる。この手法は、シミュレーションと実世界のギャップを埋めるための新しいアプローチであり、従来のドメイン適応やシステム同定に頼らずに、単純なランダム化だけで転移を可能にした点が新しい。 仕組みの核となるのは、訓練時にシミュレータのパラメータを確率的にサンプリングし、その都度異なる環境でエージェントを訓練することである。例えば、物体のテクスチャや色、カメラのノイズ、摩擦係数、質量などをランダムに変える。これにより、ネットワークは特定のシミュレーション環境に過適合せず、実世界で遭遇しうる様々な変動に対して汎化する。論文では、ロボットアームによる物体把持タスクを例に、シミュレーションのみで訓練した視覚ベースのポリシーが、実機で高い成功率を達成することを示した。 この手法が画期的だった理由は、それまでの転移学習では、シミュレーションと実世界の差異を正確にモデル化するか、実データを大量に収集する必要があった。しかし、ドメインランダム化は、実データを一切使わずに、シミュレーションの多様性を増やすだけで転移を実現した。これにより、実世界でのデータ収集コストを大幅に削減でき、特にロボット学習において、安全で高速な訓練が可能になった。また、この手法はモデルベースのアプローチと組み合わせやすく、シミュレーションの物理パラメータをランダム化することで、実世界の不確実性に対する堅牢性を高めた。 フィジカルAIの観点では、この論文はシミュレーションから実世界への橋渡しを可能にした基盤技術として位置づけられる。その後、ドメインランダム化はOpenAIのロボットハンドによるキューブ回転操作や、自動運転のシミュレーション訓練など、多くの実世界応用で標準的な手法となった。さらに、この考え方はシミュレーション環境の自動生成や、メタラーニングとの組み合わせへと発展し、現在の強化学習ベースのロボット制御において欠かせない要素となっている。特に、実世界での試行錯誤が危険または高コストなタスクにおいて、ドメインランダム化は安全かつ効率的な学習を可能にし、フィジカルAIの実用化に大きく貢献した。

※ 解説はAIが生成。被引用数はOpenAlex由来(取得できた論文のみ表示)。詳細は原論文をご確認ください。

著者: Josh Tobin, Rachel Fong, Alex Ray, Jonas Schneider, Wojciech Zaremba, Pieter Abbeel

分類: cs.RO, cs.LG

原文アブストラクト

Bridging the 'reality gap' that separates simulated robotics from experiments on hardware could accelerate robotic research through improved data availability. This paper explores domain randomization, a simple technique for training models on simulated images that transfer to real images by randomizing rendering in the simulator. With enough variability in the simulator, the real world may appear to the model as just another variation. We focus on the task of object localization, which is a stepping stone to general robotic manipulation skills. We find that it is possible to train a real-world object detector that is accurate to $1.5$cm and robust to distractors and partial occlusions using only data from a simulator with non-realistic random textures. To demonstrate the capabilities of our detectors, we show they can be used to perform grasping in a cluttered environment. To our knowledge, this is the first successful transfer of a deep neural network trained only on simulated RGB images (without pre-training on real images) to the real world for the purpose of robotic control.

関連論文強化学習・制御・世界モデル