日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

週刊ニュースレター購読
データ生成arXiv:2611.05320

LLMエージェントによる低コスト遠隔操作代替のロボットデータ生成

PyRUA-DataFarm: LLM Agent as a Cost-Efficient Teleoperator for Real-Ready Robot Data

シェア:XThreadsFacebookLINEはてブBluesky

コーディングエージェントがキャリブレーション1回からシミュレーションでタスクを再構築し、映像モデルで実写風データを生成、実機ポリシー学習を可能にする手法。

詳しい要約

1. どんなもの?

- テレオペレーションの代替として、coding agent がロボット実演データを自動生成する仕組み「PyRUA-DataFarm」の提案。 - agent はデータ要求と対象シーンでの1回の calibration episode を受け取り、simulation 内でタスクを再構築する。 - 具体的には scene、expert controller、success judge を書き、simulator が正確な action を供給する。 - 実画像に条件付けられた video model が各 rollout を写真的な video として描画し、全 camera view を一貫して生成する。 - 出力は real-ready data:同期された camera view に robot の action がラベル付けされ、policy を直接学習して実機に展開できる。

2. 先行研究と比べてどこがすごい?

- 従来の teleoperation は episode ごとに robot と operator の時間を要し、新タスクは毎回ゼロから始まる。 - 本手法は agent が teleoperator の役割を代替し、タスク適応を完全自動化する点が新しい。 - コスト面:タスク適応は平均 \$21 の API 利用料(タスクごとに1回)+ render contract の \$5、追加 episode は平均 \$0.80 で robot も operator も不要。 - 3視点1時間のデータは平均 \$107 で、中国の teleoperation 見積 \$117 をわずかに下回り、北米の labor のみ \$290 を下回る。 - 性能面でも teleoperation と同等以上(後述)で、未見の tablecloth や coloured light 下での頑健性が高い。

3. 技術・手法の肝は?

- DataFarm の agent が simulation 内に scene、expert controller、success judge をコードとして記述する。 - simulator が正確な action を提供し、実画像に条件付けられた video model が rollout を写真的 video として描画、全 camera view を同時に一貫生成する。 - 出力は同期 camera view と robot action ラベルの real-ready data で、policy を直接学習可能。 - 独立した judge が expert と各描画 episode を admission 前に認定する品質管理機構を持つ。 - タスク適応は1回の calibration episode から完全自動で行われる。

4. どうやって有効だと検証した?

- 5つの実ロボットタスクで検証。 - farm data のみで学習した policy は、同数の teleoperated episode で学習した policy と同等(100試行中 93 vs. 84 成功)。 - 未見の tablecloth と coloured light 下では、farm 学習 policy が 87 成功を維持する一方、teleoperation 学習 policy は 46 に低下。 - 独立 judge による expert と各描画 episode の認定を admission 前に行う。

5. 議論はある?

- コスト比較は中国の teleoperation 見積 \$117 と北米の labor のみ \$290 に対するもので、地域差や前提条件の議論があり得る。 - video model による描画の写実性や sim-to-real ギャップ、judge の信頼性については要旨からは不明。 - タスク適応の自動化範囲や、calibration episode が1回で足りる条件については要旨からは不明。 - 長期的なスケーラビリティや多様なタスクへの一般化は要旨からは不明。

6. 次に読むべき論文は?

- 要旨で直接参照/比較されている研究は明示されていない。 - 関連手法として teleoperation、video model による条件付き描画、simulation ベースの expert controller 生成、success judge による品質認定が挙げられる。 - 同分野の定番として imitation learning、sim-to-real transfer、robot demonstration collection の文献を次に読むべき。 - 具体的な論文名は要旨からは不明。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Kewei Zhang, Juncheng Ma, Guodong Lv, Duomin Wang, Feixiang Ruan, Ruiyang Si, Chuanrui Zhang, Yuxuan Chen, Hao Chen, Yichen Liu, Yintianrun Zhang, Yufan Deng, Enze Xie, Daquan Zhou

分類: cs.RO, cs.AI

原文アブストラクト

Teleoperation remains the default way to collect robot demonstrations, but every episode costs robot and operator time, and every new task starts from scratch. We ask whether a coding agent can take over the teleoperator's job. In our DataFarm, the agent receives a data request and one calibration episode of the robot in the target scene and rebuilds the task in simulation: it writes the scene, an expert controller, and a success judge. The simulator supplies exact actions, and a video model conditioned on real images renders each rollout as photographic video, generating all camera views together consistently. The output is real-ready data: synchronized camera views labelled with the robot's actions, on which a policy can be trained directly and deployed on the real robot. Independent judges certify the expert and every rendered episode before admission. On five real-robot tasks, policies trained only on farm data match policies trained on as many teleoperated episodes (93 vs. 84 successes in 100 trials), and under an unseen tablecloth and coloured light they keep 87 successes where the teleoperation-trained policies fall to 46. Adapting a task is fully automatic and costs \$21 of API usage on average, paid once per task, plus \$5 for a render contract; every further episode costs \$0.80 on average for simulation, rendering, and review, with no robot or operator. One hour of three-view data for a task costs \$107 on average, these costs included, slightly below a quote of \$117 for teleoperation in China and below \$290 in labour alone in North America.

関連論文

PR本紙発行元 EmplifAI