日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

週刊ニュースレター購読
sim2realarXiv:2609.34018

模倣するな、推定せよ:視覚運動制御のための微分可能な状態ベース方策の再利用

Estimate, Don't Imitate: Reusing Differentiable State-Based Policies for Visuomotor Control

シェア:XThreadsFacebookLINEはてブBluesky

シミュレーションで訓練した状態ベースの専門家方策を凍結して再利用し、その入力状態を画像から推定する視覚推定器を、状態教師信号と専門家を通した行動整合損失で訓練することで、接触の多い操作タスクの視覚運動制御を実現した。

詳しい要約

1. どんなもの?

- シミュレーションで訓練された状態ベースの操作ポリシーを、視覚入力から実行できるようにする手法。 - 教師-生徒蒸留の代替として、状態ベースの専門家を再利用し、知覚インターフェースのみを学習。 - 視覚状態推定器を直接状態監督と行動整合損失で訓練。 - 5つの目標条件付き操作タスクで評価し、実機Pandaロボットで76%の成功率を達成。

2. 先行研究と比べてどこがすごい?

- 従来の教師-生徒蒸留では、生徒が状態推論と行動マッピングの再学習を同時に行う必要があった。 - 提案手法は専門家を凍結して再利用し、知覚インターフェースのみを学習するため、効率的。 - 状態推定誤差の最小化だけでなく、下流の制御誤差を考慮した行動整合損失を導入。 - 同じ専門家デモンストレーションコーパスからの直接ピクセル-行動模倣よりも一貫して優れる。

3. 技術・手法の肝は?

- 凍結された微分可能な専門家を通じて逆伝播される行動整合損失と、直接状態監督を組み合わせて視覚状態推定器を訓練。 - スケジュールされた目的関数により、最初に物理的に意味のある状態推定を確立し、徐々に専門家の行動に影響する誤差を強調。 - これにより、状態推定誤差だけでなく制御誤差を最小化するように推定器を最適化。

4. どうやって有効だと検証した?

- 5つの目標条件付き操作タスクで、同じ専門家デモンストレーションコーパスを用いた直接ピクセル-行動模倣と比較し、提案手法が一貫して優れることを確認。 - 物理的なPandaロボットでsim-to-real転移を実証し、基礎となる専門家を再訓練せずに76%の成功率を達成。

5. 議論はある?

- 要旨からは不明。

6. 次に読むべき論文は?

- 要旨で参照/比較されている研究や関連手法: teacher-student distillation, direct pixel-to-action imitation。 - 同分野の定番: behavior cloning, domain randomization, sim-to-real transfer。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Denis Shcherba, Adrian Abel, Eckart Cobo-Briesewitz, Wojciech Samek, Marc Toussaint

分類: cs.RO, cs.LG

原文アブストラクト

Simulation-trained manipulation policies can exploit privileged state information to learn effective contact-rich behaviours, but deployment requires acting from partial observations such as noisy camera images. A common solution is teacher-student distillation, in which a visuomotor policy is trained to reproduce the actions of the privileged expert. This requires the student to jointly infer the task-relevant state and relearn the expert's action mapping that is already available. An alternative is to reuse the state-based expert and learn only a perceptual interface that reconstructs its missing state inputs. However, minimising the state estimate error alone does not necessarily minimise the downstream control error induced by these estimates. To bridge this gap, we train a visual state estimator using both direct state supervision and an action-consistency loss backpropagated through the frozen, differentiable expert. A scheduled objective first establishes a physically meaningful state estimate and progressively emphasises errors that affect the expert's actions. Across five goal-conditioned manipulation tasks, retaining the expert consistently outperforms direct pixel-to-action imitation from the same expert demonstration corpus. We further demonstrate sim-to-real transfer on a physical Panda robot, achieving 76% success without retraining the underlying expert.

関連論文

PR本紙発行元 EmplifAI