日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

週刊ニュースレター購読
マニピュレーションarXiv:2610.41216

TinyAstral:自己進化ハーネスを小型汎用マニピュレーションエージェントへ転移

TinyAstral: Transferring Self-Evolving Harnesses to Tiny Generalist Manipulation Agents

シェア:XThreadsFacebookLINEはてブBluesky

大規模教師モデルのハーネス(ツール・記憶・回復ロジック)を自己進化させ、その成果を小型4Bモデルに蒸留して低推論コストで高いマニピュレーション性能を実現した研究。

詳しい要約

1. どんなもの?

- 視覚言語モデル(VLM)ベースのロボットエージェントを対象に、planner本体ではなくその周辺のharness(tools・feedback・memory・recovery logic)を改善し、その改善を小型エージェントへ転移する研究 - TinyAstralと名付けた二段階アプローチを提案 - 第一段階: オープンウェイトのteacherを凍結し、recursive self-improvement(RSI)でharnessを改善 - 第二段階: 最終harnessを凍結し、teacherのtrajectory(reasoningやfailure recoveryを含む)を収集して小型studentへdistill - 最終的に4Bのstudentがteacherと同じharness内で動作する構成

2. 先行研究と比べてどこがすごい?

- harnessの改善を大規模teacherで行い、その成果を低推論コストのcompact agentへ移せるかを問う点が特徴 - 同一episode上で、最終4B studentがopenな4Bエージェント群、open 27Bのharness-RSIモデルSenseNova-RoboRSI、さらにteacherを競合3社のharnessに載せた構成を上回ったと報告 - harness進化の利得が再学習なしで他の凍結plannerにも転移することを示した点 - 展開時のaccelerator timeがteacherの約5分の1という計算効率も主張

3. 技術・手法の肝は?

- 第一段階: teacherを凍結したままRSIを実施 - frontier LLMエージェントがteacherのtrajectoryを読み、harnessの編集案を提案 - 各編集はpaired statistical testを通過した場合のみ採用 - 第二段階: 最終harnessを凍結し、reasoningとfailure recoveryを含むteacher trajectoryを収集して小型studentへdistill - studentはteacherを置き換える形で同一harness内に組み込まれる

4. どうやって有効だと検証した?

- RoboTwin上で評価 - harness evolutionによりteacherのsuccessが33.4%から63.6%へ向上 - 最終4B studentは62.8%に到達 - 4つのharness version間で、distilled 4B studentが対応するteacherに近いscoreを示し、後のversionほど強いstudentになることを確認 - 同一episode比較で、open 4B agents、SenseNova-RoboRSI、teacherを競合harnessに載せた構成を上回る - 3つのtraining benchmarkでteacherに近い性能、RSIやtrainingに未使用の3 benchmarkでも同一harnessの552B plannerに近い性能 - 展開episodeでteacherの約5分の1のaccelerator time

5. 議論はある?

- harness進化の利得がcompact modelへ持ち越されること、および他の凍結plannerへ再学習なしで転移することが示唆される - 一方、paired statistical testの具体的な検出力や、harness編集の一般性・頑健性、benchmark間の差の要因については要旨からは不明 - 計算コスト削減の測定条件(展開episodeの詳細)も要旨からは不明

6. 次に読むべき論文は?

- recursive self-improvement(RSI)を用いたharness最適化の先行研究 - SenseNova-RoboRSI(open 27B harness-RSI model) - RoboTwin benchmark - vision-languageモデルベースのmanipulation agentにおけるdistillation関連研究 - 比較対象として言及されるopen 4B agentsや552B plannerの該当研究

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Kehong Gong, Xiaoxu Zheng, Guanli Hou, Seunghun Lee, Mengqi Guo, Runjia Tan, Zhengyu Wen, Qi Wang, Xiaoyu He, Mingyuan Zhang, Michael Bi Mi

分類: cs.RO, cs.CV

原文アブストラクト

Robot agents built on vision-language models depend on both the planner and its harness: the tools, feedback, memory, and recovery logic around it. Can improvements to a large teacher's harness be carried into a compact agent with lower inference compute cost? We present TinyAstral, a two-stage approach. We first freeze an open-weight teacher and improve its harness through recursive self-improvement (RSI): frontier LLM agents read the teacher's trajectories and propose harness edits, and each edit is accepted only if it passes a paired statistical test. We then freeze the final harness, collect teacher trajectories with reasoning and failure recovery, and distill a small student that replaces the teacher in the same harness. On RoboTwin, harness evolution raises the teacher's success from 33.4% to 63.6%; the final 4B student reaches 62.8%. Across four harness versions, distilled 4B students score close to their corresponding teachers, and later versions yield stronger students, showing that harness evolution gains carry into compact models. The harness gains also transfer to other frozen planners without retraining. On identical episodes, the final 4B student outperforms open 4B agents, the open 27B harness-RSI model SenseNova-RoboRSI, and our own teacher model placed in three competitors' harnesses. It stays close to its teacher on all three training benchmarks, and on three benchmarks never used for RSI or training it scores close to a 552B planner running the same harness. On the measured deployment episodes, it uses about one fifth of its teacher's accelerator time.

関連論文

PR本紙発行元 EmplifAI