視覚をツール化:マルチモーダルエージェントコーディングのための視覚ハーネス
Vision-as-a-Tool: Visual Harness for Multimodal Agentic Coding
MLLMを呼び出し可能な外部ツールとして扱うVision-as-a-Toolパラダイムを提案し、テキストのみのエージェントでも視覚推論をオフロードできる枠組みVHarnessを構築した論文。
詳しい要約
1. どんなもの?
2. 先行研究と比べてどこがすごい?
3. 技術・手法の肝は?
4. どうやって有効だと検証した?
5. 議論はある?
6. 次に読むべき論文は?
※ AIが要旨から生成した要約です。正確性は原文をご確認ください。
著者: Haolin Yang, Wenshan Wu, Jin Jiang, Yu Cheng, Yan Xia, Ting Song, Yangyu Huang, Zhiliang Peng, Wenhui Wang, Hangbo Bao, Yuzhe Zhang, Wen-Da Wei, Tengchao Lv, Li Dong, Lei Cui, Furu Wei
分類: cs.AI, cs.CV
原文アブストラクト
Multimodal agentic coding requires robust visual reasoning to analyze observations and evaluate generated artifacts. Current frameworks largely rely on a Thinking-with-Images paradigm, where agents depend on their intrinsic vision to execute visually grounded tasks. However, this architectural coupling introduces a fundamental bottleneck. Agent performance remains strictly bounded by internal perceptual limitations. Furthermore, text-only agents lack native perception. Without specialized tools, they cannot perform visual reasoning. To overcome these constraints, we introduce the Vision-as-a-Tool (VaaT) paradigm. Prior visual tool-use merely manipulates images for an agent's intrinsic vision to read. In contrast, VaaT reframes general-purpose multimodal large language models (MLLMs) as callable external utilities. As a result, text-only agents can completely offload visual reasoning during agentic execution. Meanwhile, vision-capable agents can dynamically augment their native perception on demand. We instantiate this paradigm in VHarness, a unified framework driven by five atomic actions. We comprehensively evaluate VHarness across Image-to-HTML, Image-to-SVG, and Image-to-3D generation tasks. Experimental results demonstrate that VHarness consistently improves visual fidelity and geometric accuracy across both text-only and multimodal coding agents. These findings highlight that modularizing visual reasoning into callable utilities provides a flexible and scalable foundation for future agentic coding systems.
関連論文
- 自己進化型マルチモーダルエージェントのシナリオ横断サーベイと分析マルチモーダルエージェント
- トリニティ:マルチモーダルエージェントの能力駆動型再帰的自己改善マルチモーダルエージェント
- マルチモーダルエージェントのためのタスク焦点型記憶マルチモーダルエージェント
- Automotive-ENV:車載インターフェースシステムにおけるマルチモーダルエージェントのベンチマークマルチモーダルエージェント
- droidlet:モジュール式ヘテロジニアス・マルチモーダルエージェント基盤マルチモーダルエージェント
