日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

週刊ニュースレター購読
マニピュレーションarXiv:2610.41320

物理経験から学ぶ:ロボット操作のための文脈空間適応

Learning from Physical Experience:Context-Space Adaptation for Robotic Manipulation

シェア:XThreadsFacebookLINEはてブBluesky

汎用推論モデルを操作ポリシーとして活用し、実行経験から教訓を抽出・再利用するモジュールを組み合わせて実世界12タスクで成功率を向上させた研究。

詳しい要約

1. どんなもの?

- 実世界のロボットマニピュレーションにおいて、物理的経験から学習するための枠組み LEXP を提案する研究。 - 汎用推論モデル ChatGPT-6-Astra を物理的に実行可能な操作ポリシーとして利用できることを実世界実験で示す。 - LEXP は task-level planning と experience module を組み合わせ、モデル重みと action interface は固定したまま経験を再利用する。 - 対象は多様な manipulation tasks であり、12 の実世界タスクで評価している。

2. 先行研究と比べてどこがすごい?

- 従来の multimodal foundation models は知覚・推論・in-context learning に強い一方、物理行動への変換が困難であった。 - 本研究は ChatGPT-6-Astra が physically actionable かつ context-responsive な manipulation policy として機能し得ることを実世界で示す点が新しい。 - モデル重みや action interface を固定したまま、経験モジュールによる context-space adaptation で性能を向上させる点が先行手法と異なる。 - 比較では memory alone の 19/36、vanilla Astra の 2/36 に対し LEXP は 23/36 を達成している。

3. 技術・手法の肝は?

- LEXP は task-level planning と experience module を統合した harness である。 - experience module は実行証拠を解釈し、適用条件付きの教訓を抽出・保持し、関連する教訓を再利用して後続行動への文脈的フィードバックを生成する。 - モデル重みと action interface は全過程で固定される。 - 計画と保持経験の寄与を切り分けるため、計画除去・経験除去の ablation を行っている。

4. どうやって有効だと検証した?

- 12 の実世界 manipulation tasks で評価し、LEXP は 23/36 成功(63.9%)を達成した。 - 比較対象は memory alone の 19/36(52.8%)、vanilla Astra の 2/36(5.6%)。 - bread transfer、sort trash and toiletries、retrieve drawer の 3 タスクで ablation を実施し、計画除去で 7/9 から 4/9、保持経験除去で 3/9 に低下した。 - execution traces によりフィードバック誘導の修正と inspection strategy の cross-episode 再利用を、execution analyses によりタスク構造と経験由来フィードバックの寄与を示した。

5. 議論はある?

- 結果は context-space adaptation が物理的相互作用を再利用可能なガイダンスに変換する実用的機構であることを支持する。 - execution analyses はタスク構造と経験由来フィードバックがタスク進行・行動修正・経験再利用を導くことを示す。 - 一方、要旨からは失敗事例の詳細な分析、タスク間の一般化限界、スケーラビリティに関する議論は不明。 - 評価タスク数や試行数は限られており、より広い環境での検証は要旨からは不明。

6. 次に読むべき論文は?

- 要旨で直接参照・比較されている memory alone と vanilla Astra(ChatGPT-6-Astra)に関する研究。 - 関連手法として multimodal foundation models、in-context learning、task-level planning、experience replay 系の研究。 - 同分野の定番として robotic manipulation における imitation learning や reinforcement learning の研究。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Yihan Zeng, Yisu Li, Kaixin Huang, Marc WuDunn, Amelia Kovacs, Mikael Harseno, Kimmy Lin, Porter Hunley, Fred Shentu, Philipp Wu, Zhongyu Li, Zike Yan

分類: cs.RO

原文アブストラクト

Recent multimodal foundation models exhibit strong perception, reasoning, and in-context learning capabilities, but translating these capabilities into physical action remains challenging. Through real-world experiments across diverse manipulation tasks, we find that ChatGPT-6-Astra, a state-of-the-art general-purpose reasoner, can serve as a physically actionable, context-responsive manipulation policy, demonstrating effective fine manipulation and spatial reasoning. Building on these findings, we introduce LEXP, a harness for learning from physical experience through context-space adaptation. LEXP combines task-level planning with an experience module that interprets execution evidence, extracts and retains lessons with applicability conditions, and reuses relevant lessons to generate contextual feedback for subsequent actions. Model weights and the action interface remain fixed throughout. Across 12 real-world manipulation tasks, LEXP achieves $23/36$ successful trials (63.9\%), compared with $19/36$ (52.8\%) with memory alone and $2/36$ (5.6\%) for vanilla Astra. On three tasks, bread transfer, sort trash and toiletries, and retrieve drawer, removing planning reduces success from $7/9$ to $4/9$, while removing retained experience reduces it to $3/9$. Execution traces illustrate feedback-guided corrections and cross-episode reuse of an inspection strategy. Execution analyses illustrate how task structure and experience-derived feedback guide task progression, action correction, and experience reuse. These results support context-space adaptation as a practical mechanism for turning physical interaction into reusable guidance for robotic manipulation.

関連論文

PR本紙発行元 EmplifAI