日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

週刊ニュースレター購読
sim2realarXiv:2610.22362

CoDA: データエンジンと行動方策の共進化

CoDA: Co-Evolution of Data Engines and Action Policies

シェア:XThreadsFacebookLINEはてブBluesky

シミュレーション環境生成と行動方策を共有メモリで共進化させ、失敗を克服する環境と監督を自動生成するフレームワークを提案。

詳しい要約

1. どんなもの?

- ロボット環境構築と行動方策を共進化させるフレームワーク CoDA を提案 - 生成シミュレーションで環境を自動構築するが、物理的に妥当でも訓練に有用とは限らない課題に対処 - 方策の失敗を診断し、それを克服する監督を生成することを目指す - 環境構築・方策失敗・学習進捗の共有異種メモリを持つ - 4つの manipulation タスク群で評価し、OOD 成功率を改善

2. 先行研究と比べてどこがすごい?

- 従来の生成シミュレーションは物理的妥当性を重視し、訓練有用性を直接扱わない - CoDA は方策の失敗と学習進捗をメモリで共有し、環境生成と訓練を閉ループで共進化 - 同じ生成予算で最強の closed-loop baseline を 9.5 ポイント上回る - SFT 後の OOD 成功率 5.3% から 27.6% へ改善 - LIBERO-Pro で位置摂動 25%→84%、指示摂動 1%→76% を達成

3. 技術・手法の肝は?

- 環境構築・方策失敗・学習進捗を蓄える shared heterogeneous memory が中核 - vision-language critic の検証済み診断を generation program と training program にコンパイル - generation program は困難を再現し、training program は方策の克服を支援 - Text2potential で診断を staged potentials に変換し、action-chunk value learning を密に監督 - 標準的 shaping 仮定の下でタスクの最適方策を保持 - 測定された学習進捗がさらなる生成とプログラム洗練を導く

4. どうやって有効だと検証した?

- 4つの manipulation タスク群で評価 - OOD 成功率を SFT 後 5.3% から 27.6% へ改善 - 同一生成予算で最強の closed-loop baseline を 9.5 ポイント上回る - LIBERO-Pro で 15 ラウンドの生成と訓練を実施 - 位置摂動で 25%→84%、指示摂動で 1%→76% の成功率向上を確認

5. 議論はある?

- 物理的妥当性と訓練有用性のギャップを明示的に扱う点が議論の焦点 - 共有メモリと診断コンパイルの有効性が性能向上の鍵として示唆 - Text2potential の最適方策保持は標準的 shaping 仮定に依存 - 生成予算を揃えた比較で優位性を主張 - 限界や失敗事例、計算コスト、スケーラビリティの議論は要旨からは不明

6. 次に読むべき論文は?

- closed-loop baseline として比較された生成シミュレーション手法 - vision-language critic を用いたロボット学習の関連研究 - action-chunk value learning と potential-based shaping の文献 - LIBERO-Pro ベンチマークの原論文 - manipulation タスクにおける OOD 汎化の先行研究

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Tianjiao Yu, Zhilin Ou, Yifan Shen, Xinzhuo Li, Yuanzhe Liu, Onkar Kishor Susladkar, Fan Wang, Ismini Lourentzou

分類: cs.RO, cs.AI

原文アブストラクト

Generative simulation can automate robot environment construction, but physically valid environments are not necessarily useful for training. The challenge is to identify environments that address a policy's failures and supervision that helps it overcome them. We introduce CoDA, a framework in which a simulation data engine and an action policy co-evolve through a shared heterogeneous memory of environment construction, policy failures, and learning progress. The memory compiles validated diagnoses from a vision-language critic into generation programs that recreate difficulties and training programs that help the policy overcome them. We further propose Text2potential to convert these diagnoses into staged potentials for action-chunk value learning, providing dense supervision for policy updates while preserving the task's optimal policy under standard shaping assumptions. Measured learning progress guides further generation and program refinement. Across four manipulation task families, CoDA improves out-of-distribution success from 5.3% after supervised fine-tuning to 27.6%, exceeding the strongest closed-loop baseline by 9.5 percentage points with the same generation budget. On LIBERO-Pro, 15 rounds of generation and training raise success from 25% to 84% under position perturbations and from 1% to 76% under instruction perturbations.

関連論文

PR本紙発行元 EmplifAI