日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

週刊ニュースレター購読
VLAarXiv:2609.19878

Uni-LaDiR:潜在拡散がマルチモーダル推論を統合する

Uni-LaDiR: Latent Diffusion Unifies Multimodal Reasoning

シェア:XThreadsFacebookLINEはてブBluesky

異なるモダリティの推論過程を共有潜在空間のトークンに変換し、拡散モデルで次の思考ブロックを予測する統合推論フレームワークを提案。視覚言語タスクとロボット操作タスクで性能を向上させた。

詳しい要約

1. どんなもの?

- マルチモーダル推論のためのフレームワーク Uni-LaDiR を提案。 - 異なるモダリティの思考トークンを共有潜在空間に統合し、拡散モデルで推論。 - 視覚言語モデル(VLM)ベンチマークと視覚言語行動(VLA)スイートで評価。

2. 先行研究と比べてどこがすごい?

- 既存手法はモダリティ固有の思考トークンを単一シーケンスに連結し、表現差をモデルが橋渡しする必要があった。 - Uni-LaDiR は共有潜在空間で推論を行うため、モダリティ間の統合が容易。 - 最強の評価ベースラインに対し、視覚推論タスクで7.3%、ロボット操作タスクで6.1%の相対的改善を達成。

3. 技術・手法の肝は?

- 統一エンコーダが教師推論ステップを異なるモダリティから共有思考トークンにマッピング。 - 拡散モデルを用いて、入力と先行ブロックから次の思考トークンブロックを予測。 - エンコーダと拡散推論器を共有モデル重みで同時訓練し、思考トークンがタスクに有用かつ文脈から予測可能になるよう促す。 - 推論時には教師観測なしでトークンを生成。

4. どうやって有効だと検証した?

- 11のVLMベンチマークと2つのVLAスイートで評価。 - 最強の評価ベースラインに対する相対的改善を報告:視覚推論タスクで7.3%、ロボット操作タスクで6.1%。

5. 議論はある?

- 要旨からは不明。

6. 次に読むべき論文は?

- 要旨で参照/比較されている研究は明示されていない。 - 関連手法として、マルチモーダル推論のための Chain-of-Thought (CoT) や、拡散モデルを用いた推論(例:Diffusion Models for Reasoning)が挙げられる。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Haoqiang Kang, Yizhe Zhang, Nikki Lijing Kuang, Yian Ma, Lianhui Qin

分類: cs.LG, cs.CL

原文アブストラクト

Multimodal reasoning requires models to draw on information from multiple modalities throughout the reasoning process. Yet existing methods often concatenate modality-specific thought tokens in a single sequence, leaving the model to bridge representational differences as it reasons across modalities. We introduce Uni-LaDiR (Unified Latent Diffusion Reasoner), a framework that brings these thoughts into a shared latent space for reasoning. A unified encoder maps teacher reasoning steps from different modalities into shared thought tokens, trained to preserve the information needed for later reasoning steps and the final answer or action. Because the same context can support multiple valid next steps, we use diffusion to predict the next block of thought tokens from the input and preceding blocks. Jointly training the encoder and diffusion reasoner with shared model weights encourages thought tokens to be both useful for the task and predictable from the available context. At inference, the model generates these tokens without teacher observations. Across eleven vision-language model (VLM) benchmarks and two vision-language-action (VLA) suites, Uni-LaDiR achieves relative gains over the strongest evaluated baselines of 7.3% on visual reasoning tasks and 6.1% on robot manipulation tasks.

関連論文

PR本紙発行元 EmplifAI