日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

VLAarXiv:2611.18176

ESI:LLM-VLAエージェントのための身体性自己改善フライホイール

ESI: An Embodied Self-Improvement Flywheel for LLM-VLA Agents

シェア:XThreadsFacebookLINEはてブBluesky

LLMとVLAの協調動作を環境との対話を通じて自動的に改善する仕組みESIを提案し、RoboDojoの10タスクで既存手法を上回る性能を達成した。

詳しい要約

1. どんなもの?

- LLM と VLA を組み合わせた modular な embodied agent を対象に、環境との相互作用を通じて reasoning と action を整合させる自動 flywheel「ESI (Embodied Self-Improvement)」を提案する研究。 - LLM を導く prompt、意図を表現する shared skill interface、意図を実現する VLA parameters を反復的に改善し、再展開する。 - タスク固有の control code を生成せずに RoboDojo の 10 タスクで評価する枠組み。

2. 先行研究と比べてどこがすごい?

- 独立に pretrain された LLM と VLA を接続するだけでは協調行動が得られないという問題を扱う点。 - modular agent 全体を post-training の単位として扱い、prompt・skill interface・VLA parameters をまとめて改善する点。 - タスク固有の control code なしで、Agent+WAM の GO-3 Nano Preview (47.27 Score, 36.60% success) を含む hybrid embodied agents の公開参照結果や code-based 手法を両指標で上回る点。

3. 技術・手法の肝は?

- 協調そのものを supervision 源として使うのが鍵。 - LLM の subtask 決定を、policy が何を実行すべきかの semantic supervision として利用。 - LLM の有効な correction とその後の student の continuation を、recovery と handoff の action-level supervision として利用。 - student 自身の有効な execution からも学習し、episode 全体が失敗しても局所的に有用な経験を活用。 - prompt、shared skill interface、VLA parameters を反復改善し、同時に再展開する flywheel。

4. どうやって有効だと検証した?

- RoboDojo の選定 10 タスクで LLM-VLA agent を評価。 - タスク固有の control code を生成せずに mean Score 62.03、mean success rate 49.41% を達成。 - 両指標で GO-3 Nano Preview (47.27 Score, 36.60% success) を含む hybrid embodied agents の公開参照結果および比較された code-based 手法を上回った。

5. 議論はある?

- 要旨からは不明。 - ただし、VLA が LLM の意図する subtask から逸脱する問題や、LLM の correction 後に有望な状態を巻き戻す問題への対処が動機として述べられている。

6. 次に読むべき論文は?

- GO-3 Nano Preview (Agent+WAM system) - 比較対象として言及された hybrid embodied agents および code-based methods - LLM-VLA modular agent の関連研究 - RoboDojo benchmark

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Yundi Cai, Zihan Wang, Chenxi Han, Yi Cheng, Houde Liu, Zilei Wang

分類: cs.RO

原文アブストラクト

Independently pretrained language models and vision-language-action (VLA) policies provide complementary building blocks for embodied agents, but connecting them does not automatically produce coordinated behavior. The VLA may generate actions that diverge from the LLM's intended subtask and, upon regaining control after a correction, undo the promising state restored by the LLM. We introduce ESI (Embodied Self-Improvement), an automated flywheel that uses environmental interaction to align reasoning and action. ESI treats the modular agent as the unit of post-training, repeatedly refining the prompts that guide the LLM, the shared skill interface that expresses its intent, and the VLA parameters that realize that intent, then redeploying these components together. Our key insight is that collaboration itself can supply supervision for improving this interface. The LLM's subtask decisions provide semantic supervision for what the policy should execute, while its effective corrections and subsequent student continuations provide action-level supervision for recovery and handoff. The student also learns from its own effective execution, allowing locally useful experience to contribute even when the overall episode fails. On ten selected RoboDojo tasks, ESI achieves a mean Score of 62.03 and a mean success rate of 49.41% using an LLM-VLA agent without generating task-specific control code. On both metrics, it outperforms the published reference results of all hybrid embodied agents, including the Agent+WAM system GO-3 Nano Preview (47.27 Score and 36.60% success), as well as all compared code-based methods.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  3. 3Google DeepMind、ロボット向けAIを発表新製品・発表
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI