日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

週刊ニュースレター購読
VLA/ツール使用arXiv:2608.14047v1

視覚言語行動モデルをオンザフライツール使用エージェントへ進化させる

Evolve Vision-Language-Action Model into an Agent with On-the-fly Tool-use

シェア:XThreadsFacebookLINEはてブBluesky

VLAモデルにツール注入フレームワークを統合し、低次視覚・高次アフォーダンス・身体性を強化するエージェントARTを提案。ツール使用により行動解空間を縮小し、汎用性向上とデータ依存低減を実現。

詳しい要約

1. どんなもの?

本論文は、エンドツーエンドのVisual-Language-Action (VLA)モデルとエージェント的なツール使用を統合し、Agentic Robot with Tool-use (ART)を提案する。ARTは、任意のVLAモデルにツール注入フレームワークを適用し、低レベル視覚、高レベルアフォーダンス、身体性強化のための既製ツールモジュールを活用する。

2. 先行研究と比べてどこがすごい?

従来のVLAモデルは連続的な行動解空間全体を扱うため、複雑さが高く、汎化性とデータ効率に課題があった。ARTはツール使用により行動解空間の複雑さを低減し、タスク間の汎化性を向上させ、データ依存性を低減する。また、従来のベースラインよりもはるかに小さい30Kのツール使用軌跡と行動デモンストレーションのデータセットで訓練する点が優れている。

3. 技術・手法の肝は?

ARTはツール注入フレームワークであり、VLAモデルにツールモジュールを統合する。ツールは低レベル視覚、高レベルアフォーダンス、身体性強化の3つのカテゴリに分けられる。さらに、困難な環境での長い軌跡のツール使用推論のための訓練レジメンを設計している。

4. どうやって有効だと検証した?

シミュレーションと実世界のタスク(暗所での新しい視点からのpick-and-placeなど)で、主流のベースラインと比較して成功率が20%向上した。また、30Kのツール使用軌跡と行動デモンストレーションからなるデータセットを構築し、ベースラインよりも小さいデータで高い性能を達成した。

5. 議論はある?

要旨からは、ARTのモジュール式ツール利用が効率的な訓練、軽量な展開、新しいツールのスケーラブルな統合を可能にし、ロバスト性、適応性、拡張性を向上させることが示唆される。しかし、具体的な限界や議論(例えば、ツールの選択やエラー伝播など)については要旨からは不明である。

6. 次に読むべき論文は?

要旨で参照されているベースライン手法や関連研究は明示されていないが、VLAモデルやエージェント的ツール使用に関する研究が関連する。具体的には、RT-2やPaLM-EなどのVLAモデル、ReActやToolformerなどのツール使用エージェントの研究が挙げられる。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Yi Ding, Yanzhao Yu, Xili Dai, Xianbiao Qi, Peiwen Sun, Xueqian Wang, Xiangyu Yue, Jianan Wang

分類: cs.RO, cs.AI, cs.CV

原文アブストラクト

This paper integrates end-to-end Visual-Language-Action (VLA) models with agentic tool-use to propose Agentic Robot with Tool-use (ART). ART is a tool-injection framework that tunes any VLA model to leverage off-the-shelf tool modules for low-level vision, high-level affordance, and embodiment enhancement. Compared to vanilla VLA models with a whole continuous action solution space, ART reduces the complexity of the action solution space through tool-use, which not only improves generalizability across different tasks but also reduces data dependency. To demonstrate the advantages (high generalizability and low data dependency) of this framework, we first built a dataset of 30K tool-use trajectories and action demonstrations, which is much smaller than those used by baseline methods. We then designed a training regimen for long-trajectory tool-use reasoning in challenging environments. Experiments show that ART achieves a 20% higher success rate than mainstream baselines on simulation and real-world tasks, such as pick-and-place in the dark at novel viewpoints. Empirical results highlight the benefits of an agent-based approach: modular tool utilization enables more efficient training, lightweight deployment, and scalable integration of new tools. This design fosters robustness, adaptability, and extensibility, paving the way for the practical deployment of VLA systems in complex real-world scenarios.