日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

週刊ニュースレター購読
VLAarXiv:2610.22178

REKI: VLAに知識を登録する

REKI: Registering Knowledge in VLAs

シェア:XThreadsFacebookLINEはてブBluesky

公開データのみで学習した2.4BのVLAモデルREKIを提案し、レジスタトークンによる短期記憶機構で性能とロボット動作の安定性を向上させた。

詳しい要約

1. どんなもの?

- REKIは2.4Bのvision-language-action model (VLA)である。 - 公開データのみで事前学習され、性能とモデルサイズの新たなPareto frontierを設定する。 - LIBERO-Plus, RoboTwin Clean2Rand, RoboCasa365で、約2倍のサイズのモデルにのみ性能で劣る。 - VLMの後にflow-matching action expertを配置し、公開ロボットデータ、egocentric humanデータ、vision-languageデータの混合で事前学習される。 - メモリ機構を備え、action expert内の少数のregister tokensが各フレームのVLM出力を要約し、expertのcacheに保持される。 - コード、事前学習済み・微調整済みモデル重みを公開。

2. 先行研究と比べてどこがすごい?

- 公開データのみで事前学習しながら、性能とモデルサイズのPareto frontierを更新。 - 同規模またはより大きなモデルと比較して、LIBERO-Plus, RoboTwin Clean2Rand, RoboCasa365で競争力のある性能を示す。 - メモリ機構により、シミュレーションと実ロボットでの成功率が向上し、ポーズ間の振動が約4倍減少。 - シンプルなモデル設計と学習パラダイムを採用し、学習と推論の効率を最適化。

3. 技術・手法の肝は?

- VLMの後にflow-matching action expertを接続したアーキテクチャ。 - 公開ロボットデータ、egocentric humanデータ、vision-languageデータのキュレーションされた混合で事前学習。 - メモリ機構:action expert内の少数のregister tokensが各フレームのVLM出力を要約し、expertのcacheに永続化。 - これにより、ポリシーが最近の過去にアクセス可能となり、低コストでメモリを実現。 - 学習と推論の効率を最適化したシンプルな設計。

4. どうやって有効だと検証した?

- LIBERO-Plus, RoboTwin Clean2Rand, RoboCasa365の3つのベンチマークで評価。 - 性能とモデルサイズのPareto frontierを設定し、約2倍のサイズのモデルにのみ劣ることを示す。 - メモリ機構がシミュレーションと実ロボットでの成功率を向上させ、ポーズ間の振動を約4倍減少させることを検証。 - コード、事前学習済み・微調整済みモデル重みを公開し、再現性を確保。

5. 議論はある?

- 要旨からは不明。

6. 次に読むべき論文は?

- 要旨で参照/比較されている研究:LIBERO-Plus, RoboTwin Clean2Rand, RoboCasa365。 - 関連手法:vision-language-action model (VLA), vision-language model (VLM), flow-matching action expert。 - 同分野の定番:RT-2, OpenVLA, Octo, Diffusion Policyなどが考えられるが、要旨では明示されていない。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Juliette Marrie, Paul Pacaud, Adrien Ramanana Rahary, Shizhe Chen, Moritz Böhle

分類: cs.RO, cs.CV, cs.LG

原文アブストラクト

We introduce REKI, a 2.4B vision-language-action model (VLA) pretrained exclusively on public data that sets a new Pareto frontier between performance and model size: on LIBERO-Plus, RoboTwin Clean2Rand and RoboCasa365, it is outperformed only by models about twice its size. REKI consists of a vision-language model (VLM) followed by a flow-matching action expert, and is pretrained on a curated mixture of public robot, egocentric human and vision-language data. Additionally, we endow it with a memory that gives the policy access to its recent past at negligible cost: a few register tokens in the action expert summarise the output of the VLM at each frame and persist in the expert's cache. This memory improves success in simulation and on real robots, and makes oscillations between poses about four times rarer. REKI uses a simple model design and training paradigm, and is optimised to be efficient at training and inference. We release the full code across data curation, training, inference and evaluation, deployment, and all pretrained and finetuned model weights: https://github.com/kyutai-labs/reki.

関連論文

PR本紙発行元 EmplifAI