日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

週刊ニュースレター購読
VLAarXiv:2610.40532

BURGER:描画タスクでロボットの汎化能力を測るベンチマーク

BURGER: Benchmarking and Understanding Robotic Generalization via Embodied Drawing

シェア:XThreadsFacebookLINEはてブBluesky

言語条件付きロボット描画の大規模ベンチマークBURGERを提案し、282タスク・28,200デモでVLAモデルのデータスケール・言語接地・マルチモーダル挙動を評価した。

詳しい要約

1. どんなもの?

- 言語条件付きロボット描画のベンチマーク BURGER を提案 - シミュレーションと実世界の両方で連続的な描画軌跡を生成する、スケーラブルでプロンプト駆動のパイプラインを備える - エージェントは同一の空白キャンバスから開始し、言語で指定された物体や空間構成をロボットアームで描く - 各指示に対して有効な描画やストローク順序が多様に存在する開放的なタスク設定 - 282 の描画タスクにわたる 28,200 のシミュレーション実演を収録 - 代表的な 5 つの VLA モデルをデータ規模・言語グラウンディング・マルチモーダル挙動の観点で評価

2. 先行研究と比べてどこがすごい?

- 大規模で多様なロボットデータセットは実機収集が高コストという課題に対し、プロンプト駆動パイプラインで描画軌跡をスケーラブルに生成 - 同一の空白キャンバスと言語指示という統制された設定で、言語条件付き行動の学習を細粒度に分析可能 - データ規模・言語グラウンディング・空間構成・行動生成を分離して評価できる点が特徴 - VLA モデル間で異なる失敗パターンを明らかにできる - 具体的な先行研究との比較は要旨からは不明

3. 技術・手法の肝は?

- 言語条件付き描画タスクを生成する、スケーラブルでプロンプト駆動のパイプライン - シミュレーションと実世界の両方で連続的な描画軌跡を生成 - エージェントは同一の空白キャンバスから開始し、言語で指定された物体や空間構成をロボットアームで描画 - 各指示は開放的に多数の有効な描画とストローク順序を許容 - 282 タスク・28,200 実演のシミュレーションデータで 5 つの VLA モデルを学習・評価 - 学習済みポリシーを Franka Panda アームに展開

4. どうやって有効だと検証した?

- 28,200 のシミュレーション実演・282 描画タスクを用いて 5 つの代表的な VLA モデルを評価 - データ規模、言語グラウンディング、マルチモーダル挙動の観点で評価 - 言語グラウンディング、空間構成、行動生成の細粒度分析を実施し、モデル間の異なる失敗パターンを確認 - 一部の VLA モデルがタスク多様性と実演規模の増加から恩恵を受け、マルチモーダルな描画挙動を捉え、未知の既知物体の構成へ汎化できることを示唆 - 学習済みポリシーを Franka Panda アームに展開し、人間の介入下で反応的に描画できることを実証

5. 議論はある?

- 一部の VLA モデルはタスク多様性と実演規模の増加で改善し、マルチモーダル描画挙動を捉え、未知の構成へ汎化できる可能性を示唆 - 一方で VLA モデル間の失敗パターンの違いが観察され、言語グラウンディングや空間構成、行動生成に課題が残る - 実機展開は Franka Panda アームでの人間介入下の反応的描画の実証にとどまり、実世界での広範な評価は要旨からは不明 - データ規模やタスク多様性の限界、モデル間差の原因については要旨からは不明

6. 次に読むべき論文は?

- 要旨で評価対象となった代表的な VLA モデル(具体的名称は要旨からは不明) - Franka Panda アームを用いた実機ロボット学習・模倣学習の関連研究 - 言語条件付きロボット操作のベンチマーク(一般名として RT-1、Open X-Embodiment など) - 言語グラウンディングやマルチモーダル行動生成に関する VLA 研究 - 描画・軌道生成を用いたロボット学習の関連手法

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Xiangyu Xu, Bangshuai Peng, Ziyi Liu, Mengjie Zhao, Chenhao Lu, Zhengyang Fan, Huazhe Xu, Kaizhe Hu

分類: cs.RO, cs.AI

原文アブストラクト

How effectively can vision-language-action (VLA) models learn diverse language-conditioned behaviors as training data scales? Investigating this question requires large and varied robot datasets, whose collection on physical robots remains costly. We introduce BURGER, a language-conditioned robotic drawing benchmark with a scalable, prompt-driven pipeline for generating continuous drawing trajectories, both in simulation and the real world. In BURGER, an agent starts from the same blank canvas and controls a robot arm to draw the object or spatial composition specified by language, while each instruction allows an open-ended variety of valid drawings and stroke orders. Using 28,200 simulated demonstrations spanning 282 drawing tasks, we evaluate five representative VLA models across data scales, language grounding, and multimodal behavior. BURGER supports fine-grained analysis of language grounding, spatial composition, and action generation, revealing distinct failure patterns across VLA models. Our experiments suggest that some VLA models can benefit from greater task diversity and demonstration scale, capture multimodal drawing behaviors, and generalize to unseen compositions of familiar objects. Finally, we deploy a trained policy on a Franka Panda arm, demonstrating the ability to draw reactively under human intervention. Project homepage and code can be found at https://siyingzhao.github.io/BURGER/.

関連論文

PR本紙発行元 EmplifAI