日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

マルチモーダルエージェントarXiv:2611.17797

視覚をツール化:マルチモーダルエージェントコーディングのための視覚ハーネス

Vision-as-a-Tool: Visual Harness for Multimodal Agentic Coding

シェア:XThreadsFacebookLINEはてブBluesky

MLLMを呼び出し可能な外部ツールとして扱うVision-as-a-Toolパラダイムを提案し、テキストのみのエージェントでも視覚推論をオフロードできる枠組みVHarnessを構築した論文。

詳しい要約

1. どんなもの?

- 本論文は、multimodal agentic coding における視覚推論の新しい枠組み Vision-as-a-Tool (VaaT) を提案する。 - 従来の Thinking-with-Images では agent の内在的 vision に依存し、性能が知覚限界に縛られる。 - VaaT は general-purpose MLLMs を呼び出し可能な外部ユーティリティとして再定義する。 - 実装として VHarness を提示し、Image-to-HTML、Image-to-SVG、Image-to-3D 生成で評価する。

2. 先行研究と比べてどこがすごい?

- 先行の visual tool-use は、画像を操作して agent の内在 vision に読ませるものが中心だった。 - 本研究は視覚推論そのものを外部の MLLM ユーティリティへ完全にオフロードできる点が異なる。 - これにより text-only agent でも視覚タスクを実行でき、vision-capable agent は必要時に知覚を動的に拡張できる。 - agent 性能が内部知覚能力に厳密に制約されるボトルネックの緩和を狙う。

3. 技術・手法の肝は?

- VaaT パラダイムでは general-purpose MLLMs を callable external utilities として扱う。 - 視覚推論を agent の内部処理から切り離し、モジュール化された外部呼び出しにする。 - VHarness は five atomic actions で駆動される統一フレームワークとして実装される。 - text-only agent は視覚推論を完全に offload し、multimodal agent は native perception をオンデマンドに拡張する。

4. どうやって有効だと検証した?

- Image-to-HTML、Image-to-SVG、Image-to-3D generation の3タスクで VHarness を包括的に評価。 - text-only と multimodal の両方の coding agents に対して実験。 - 結果として visual fidelity と geometric accuracy が一貫して改善。 - これにより、視覚推論のユーティリティ化が有効であることを示す。

5. 議論はある?

- 視覚推論を callable utilities にモジュール化することが、将来の agentic coding 基盤として柔軟かつスケーラブルであると主張。 - 従来の architectural coupling による知覚ボトルネックを緩和できる可能性を示す。 - 一方、five atomic actions の詳細や失敗事例、コスト・レイテンシ等の議論は要旨からは不明。

6. 次に読むべき論文は?

- 要旨で直接参照・比較されている個別研究名は不明。 - 関連手法として Thinking-with-Images、visual tool-use、general-purpose MLLMs を挙げる。 - 同分野の定番として Image-to-HTML、Image-to-SVG、Image-to-3D generation の各タスクおよび multimodal agentic coding の関連研究を次に読む候補とする。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Haolin Yang, Wenshan Wu, Jin Jiang, Yu Cheng, Yan Xia, Ting Song, Yangyu Huang, Zhiliang Peng, Wenhui Wang, Hangbo Bao, Yuzhe Zhang, Wen-Da Wei, Tengchao Lv, Li Dong, Lei Cui, Furu Wei

分類: cs.AI, cs.CV

原文アブストラクト

Multimodal agentic coding requires robust visual reasoning to analyze observations and evaluate generated artifacts. Current frameworks largely rely on a Thinking-with-Images paradigm, where agents depend on their intrinsic vision to execute visually grounded tasks. However, this architectural coupling introduces a fundamental bottleneck. Agent performance remains strictly bounded by internal perceptual limitations. Furthermore, text-only agents lack native perception. Without specialized tools, they cannot perform visual reasoning. To overcome these constraints, we introduce the Vision-as-a-Tool (VaaT) paradigm. Prior visual tool-use merely manipulates images for an agent's intrinsic vision to read. In contrast, VaaT reframes general-purpose multimodal large language models (MLLMs) as callable external utilities. As a result, text-only agents can completely offload visual reasoning during agentic execution. Meanwhile, vision-capable agents can dynamically augment their native perception on demand. We instantiate this paradigm in VHarness, a unified framework driven by five atomic actions. We comprehensively evaluate VHarness across Image-to-HTML, Image-to-SVG, and Image-to-3D generation tasks. Experimental results demonstrate that VHarness consistently improves visual fidelity and geometric accuracy across both text-only and multimodal coding agents. These findings highlight that modularizing visual reasoning into callable utilities provides a flexible and scalable foundation for future agentic coding systems.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  3. 3Google DeepMind、ロボット向けAIを発表新製品・発表
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI