日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

エージェント自己改善arXiv:2611.08946

Flex-RSI:フロンティアエージェントの再帰的自己改善ベンチマーク

Flex-RSI: Benchmarking Recursive Self-Improvement of Frontier Agents

シェア:XThreadsFacebookLINEはてブBluesky

エージェントが固定予算下で自身のハーネス(プロンプト・ツール・記憶・制御ループ)を改善し、視覚・ロボティクス課題の性能を再帰的に高められるかを評価するベンチマークを提案した。

詳しい要約

1. どんなもの?

- エージェントの『harness』(prompts・tools・memory・control loop)を自己改善する能力を測るベンチマーク - 名称は Flex-RSI。vision と robotics タスクを対象とし、固定 budget 下で評価 - 各 round で executor が解を改善し、held-out validation data でスコアが上がった場合のみ保持 - 続いて improver が harness(executor 自身と improver 自身を含む)を改訂 - 全 run は同一の general-purpose harness から開始し、最終解は hidden test data で採点 - 対象領域は perception・reasoning・robot action・3D reconstruction・visual creation・infrastructure

2. 先行研究と比べてどこがすごい?

- 既存 benchmark は agent の harness を固定して生成解のみを採点するか、大規模 model training を対象としていた - Flex-RSI は harness 自体の改訂を評価対象に組み込んだ点が異なる - 固定 budget 下で recursive self-improvement を測る点が新しい - 最終解を hidden test data で採点する設計 - closed-source と open-weight の両 model を比較評価

3. 技術・手法の肝は?

- executor がタスク解を改善し、held-out validation data でスコア改善時のみ解を保持する反復構造 - improver が harness(prompts・tools・memory・control loop、executor と improver 自身を含む)を改訂 - 全 run を同一の general-purpose harness から開始させ、初期条件を統制 - 最終的な解の評価は hidden test data 上で実施 - 固定 budget の下で round を重ねる設計

4. どうやって有効だと検証した?

- perception・reasoning・robot action・3D reconstruction・visual creation・infrastructure にまたがるタスクで closed-source と open-weight model を評価 - 自己改善は agent が自ら解を構築する場合に最も効果があることを確認 - 成功/失敗のみを記録する feedback は open-weight model の性能を抑えることを確認 - 物理的安定性や厳密な正しさの厳格な check が必要な場面で open-weight model の遅れが最大になることを確認 - paired run により harness 自体の編集が gains に寄与することを確認

5. 議論はある?

- 自己改善の効果はタスク種別や model 種別に依存する可能性 - feedback の粒度(成功/失敗のみか、より詳細か)が open-weight model の性能を左右する点 - 物理的安定性や厳密な正しさの検証が厳しい領域での open-weight model の限界 - harness 編集そのものの寄与を paired run で示しているが、その機序の詳細は要旨からは不明 - 固定 budget 設定の妥当性や他領域への一般化は要旨からは不明

6. 次に読むべき論文は?

- harness を固定して解のみを採点する既存 agent benchmark(具体名は要旨からは不明) - 大規模 model training を対象とした既存研究(具体名は要旨からは不明) - recursive self-improvement に関する関連研究(具体名は要旨からは不明) - 同分野の定番として vision-language-action model や robot manipulation benchmark 関連の研究

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Jingdong Zhang, Jionghao Wang, Zhengming Yu, Yancheng Cai, Wei Chow, Chris Choy, Zhiyang Dou, Hang Hua, Jiachen Li, Zhixuan Liu, Chen Wang, Songlin Wei, Siyuan Yang, Yu Yuan, Xiaohang Zhan, Yucheng Zhang, Shuhong Zheng, Xin Li, Lingjie Liu, Wojciech Matusik, Zhengzhong Tu, Wenping Wang

分類: cs.AI, cs.CV, cs.RO

原文アブストラクト

Frontier language models are increasingly deployed as agents, and how well an agent performs depends not only on its model but also on its harness: the prompts, tools, memory, and control loop through which the model acts. When an agent is applied to a new problem, a natural question is whether it can use the feedback of the task to improve the way it works, and not merely its answer. Most existing benchmarks keep the agent's harness fixed and score the solution it produces, or target large-scale model training. We introduce Flex-RSI, a benchmark for the recursive self-improvement of agents on vision and robotics tasks under a fixed budget. In each round, an executor improves the task solution, which is kept only if it scores higher on held-out validation data, and an improver then revises the harness, including the executor and itself. Every run starts from the same general-purpose harness, and the final solution is scored on hidden test data. Evaluating closed-source and open-weight models on tasks spanning perception, reasoning, robot action, 3D reconstruction, visual creation, and infrastructure, we find that self-improvement helps most when the agent builds its own solution, that feedback recording only success or failure holds back open-weight models, and that open-weight models fall furthest behind where outputs must pass strict checks of physical stability or exact correctness. Paired runs further show that editing the harness itself contributes to the gains.

  1. 1パナソニックHDら、ロボット操作AI「T-Rex」を共同開発 12タスクで平均成功率65%研究・技術
  2. 2シンロボティクス、AI除草ロボを2027年6月発売 価格500万円新製品・発表
  3. 3NVIDIA、Cosmosを用いたインタラクティブシミュレーション向け世界モデルを解説研究・技術
  4. 4Hugging Face、ロボット学習基盤「LeRobot v0.7.0」を公開 対話操作と大規模データ学習に対応新製品・発表
  5. 5NVIDIA、Vera CPUのエージェント処理性能を公表 x86比で速度・電力効率を比較半導体・GPU
PR本紙発行元 EmplifAI