日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

週刊ニュースレター購読
VLAarXiv:2610.13212

行動を超えて:視覚-言語-行動モデルのための将来操作目標の学習

Beyond Actions: Learning Future Operation Targets for Vision-Language-Action Models

シェア:XThreadsFacebookLINEはてブBluesky

ロボットの行動予測に代えて、将来の物理的効果を予測するAFCEを提案。視覚-言語-行動モデルに効果トークンを導入し、巧みな両腕操作タスクで成功率を向上させた。

詳しい要約

1. どんなもの?

- ロボットのVLAポリシーにおいて、行動そのものではなく将来の物理的効果(Effect)を予測する手法AFCEを提案。 - オフラインのトークナイザで、実演行動・ロボット応答・視覚変化から時間順のEffectトークンを構築。 - flow-matching VLAが現在の画像・指示・状態からEffectを予測し、状態条件付きデコーダが行動チャンクに変換。 - 単腕・双腕タスクでEffectモデルを共有するembodiment固有インターフェースを導入。

2. 先行研究と比べてどこがすごい?

- 従来のVLAは画像・言語・状態から行動チャンクを直接予測するが、AFCEは将来の物理的Effectを主要予測対象とする点が新しい。 - DexJoCoで全体成功率50.97%を達成し、π_{0.5}とUVTをそれぞれ11.82、15.21ポイント上回る。 - 5つの双腕タスクすべてでリードし、協調的な巧みな操作におけるEffect監督の有効性を示す。

3. 技術・手法の肝は?

- オフラインtokenizerが実演行動・実現されたロボット応答・疎な視覚遷移から時間順のEffectトークンを生成。 - 再構成目的により、実行可能な詳細と観測された物理変化を保持する表現を学習。 - flow-matching VLAが現在の画像・指示・ロボット状態からEffectを予測。 - 状態条件付きデコーダがEffectを行動チャンクに変換。 - embodiment固有インターフェースで単腕・双腕タスクを共有。

4. どうやって有効だと検証した?

- DexJoCoベンチマークで評価。 - 全体成功率50.97%を達成し、π_{0.5}とUVTをそれぞれ11.82、15.21ポイント上回る。 - 5つの双腕タスクすべてで最高性能を示す。

5. 議論はある?

- 要旨からは不明。

6. 次に読むべき論文は?

- π_{0.5}、UVT、およびflow-matching VLAに関する研究。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Min Lin, Bokai Zhou, Jianqi Lin, Kaiyuan Yang, Yicheng Chang, Junjie Yu, Xiaofan Liu, Jianhua Han, Rui Li, Shen Zhao, Xiaodan Liang

分類: cs.RO, cs.AI

原文アブストラクト

Actions specify what a robot should execute, but do not describe what those commands will achieve. Vision-language-action (VLA) policies nevertheless learn primarily by predicting action chunks from images, language, and state. We introduce Action--Future Coupled Effect Learning (AFCE), which makes a future-grounded physical Effect the policy's primary prediction target. An offline tokenizer constructs temporally ordered Effect tokens from demonstrated actions, realized robot responses, and sparse visual transitions. Reconstruction objectives encourage the representation to retain executable detail and observed physical change. A flow-matching VLA predicts Effects from current images, instruction, and robot state, while a state-conditioned decoder converts them into action chunks. Embodiment-specific interfaces allow single- and dual-arm tasks to share the Effect model. On DexJoCo, AFCE achieves $50.97\%$ overall success, improving over $π_{0.5}$ and UVT by 11.82 and 15.21 percentage points, respectively. It leads on all five bimanual tasks, highlighting the value of Effect supervision for coordinated dexterous manipulation. The project page is available at https://afceproject.github.io/AFCE-Web/.

関連論文

PR本紙発行元 EmplifAI