日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

週刊ニュースレター購読
操作学習arXiv:2608.09410v1

スキルは重みに、記憶はコードに:記憶依存ロボット操作のためのハイブリッド学習

Skills in Weights, Memory in Code: Hybrid Learning for Memory-Dependent Robot Manipulation

シェア:XThreadsFacebookLINEはてブBluesky

長期的な記憶を必要とするロボット操作タスクに対し、低レベルスキルを模倣学習で、高レベルの記憶管理戦略をコーディングエージェントのヒューリスティック学習で獲得するハイブリッドフレームワークHyMeSを提案し、ベースラインを上回る性能を達成した。

詳しい要約

1. どんなもの?

HyMeSは、記憶依存型のロボット操作タスクを対象としたハイブリッド学習フレームワークである。低レベルの運動スキルを勾配ベースの模倣学習で、高レベルの記憶管理戦略をコーディングエージェントによるヒューリスティック学習で獲得する。マルチモーダルな段階完了検証により、ステアリングと実行のループを閉じる。

2. 先行研究と比べてどこがすごい?

従来のVLAポリシーは現在の観測や短い固定長の履歴から行動を生成するが、HyMeSは長い対話履歴からの記憶保持と推論を可能にする。エンドツーエンドのメモリ拡張VLAと比較して、再利用可能な運動スキルのデモンストレーションのみを必要とし、データ効率的な構成的一般化を実現する。

3. 技術・手法の肝は?

HyMeSは、低レベル運動スキルを勾配ベースの模倣学習で学習し、高レベル記憶管理戦略をコーディングエージェントがロールアウトフィードバックから実行可能なヒューリスティックシステムを反復更新することで獲得する。さらに、固有受容信号とマルチフレームVLM判断を用いたマルチモーダル段階完了検証により、メモリを更新する。

4. どうやって有効だと検証した?

RoboMemArenaベンチマークで評価し、pi0.5と比較して平均累積成功率を52.5%から66.2%に、平均タスク成功率を41.3%から60.1%に改善した。また、PrediMemと比較して累積成功率で4.5ポイント、タスク成功率で14.5ポイント上回った。

5. 議論はある?

要旨からは、HyMeSの限界や議論点は不明。ただし、ヒューリスティック学習の収束性や、VLM判断の信頼性、実世界での適用可能性などが潜在的な議論点として考えられるが、要旨には明記されていない。

6. 次に読むべき論文は?

要旨で参照されているpi0.5とPrediMemが関連研究として挙げられる。また、VLAポリシーやメモリ拡張VLAの分野の定番論文(例:RT-2、Octoなど)が関連する可能性があるが、要旨には明記されていない。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Yunhao Zhao, Zhenyang Ni, Haoyang Chen, Ruohan Zhang, Qi Zhu

分類: cs.RO

原文アブストラクト

Modern vision-language-action (VLA) policies have acquired broad manipulation skills, but typically generate each action chunk from the current observation or a short fixed-length history. However, real-world manipulation is often non-Markovian, requiring robots to retain and reason over task-relevant information from long-horizon interaction histories to determine the next action. To address this challenge, we propose HyMeS, a hybrid learning framework that leverages the reasoning and memory-management capabilities of coding agents to steer a Markovian VLA for memory-dependent manipulation. Specifically, HyMeS learns low-level motor skills through gradient-based imitation learning, while a coding agent acquires high-level memory-management strategies through heuristic learning by iteratively updating an executable heuristic system from rollout feedback. Furthermore, we close the loop between steering and execution through multimodal stage-completion verification, which updates memory using proprioceptive signals and multi-frame VLM judgments. Compared with end-to-end memory-augmented VLAs, HyMeS requires demonstrations only for reusable motor skills rather than for every history-dependent task configuration, enabling data-efficient compositional generalization. On RoboMemArena, HyMeS improves mean cumulative success from 52.5% to 66.2% and mean task success from 41.3% to 60.1% over pi0.5, while outperforming PrediMem by 4.5 points in cumulative success and 14.5 points in task success.