日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

アフォーダンス接地arXiv:2611.07896

候補領域の確認によるアフォーダンス接地

AffordJEV: Affordance Grounding by Confirming Candidate Regions

シェア:XThreadsFacebookLINEはてブBluesky

凍結セグメンタが提案する候補領域をSystem Oneモデルが単一フォワードパスで直接判定し、物体→部位→サブ部位と階層的に確認してアフォーダンスを接地する手法を提案。

詳しい要約

1. どんなもの?

- 本論文は **AffordJEV** を提案する。 - 物体のどの可視部分が要求された操作を担うかを問う **affordance grounding** の手法。 - **System One** 型モデルを affordance grounding に初めて導入したと主張。 - 既存の **System Two** 型(MLLM が chain of thought を書いてから box/points を生成し segmenter に渡す)とは対照的に、テキスト生成なしで判断する枠組み。 - 凍結した segmenter が候補領域を提案し、System One モデルが各候補を直接判定する。 - embodied manipulation や human--robot interaction の基礎能力として位置づけられている。

2. 先行研究と比べてどこがすごい?

- 既存の **System Two** 型(MLLM が chain of thought を生成し、その結論を box/points に変換して segmenter に渡す)と比較。 - 推論コストが大きい、意味的判断が最終領域の広がりを直接制御しにくい、誤りの修正が難しいという問題を指摘。 - 既存の **System One** モデルは汎用判断向けで、1リクエストにつき1候補しか判定せず、本フレームワークの領域質問に不向きと述べる。 - 提案モデルはフレームワーク自身が生成するリクエストから直接学習し、1レベル内の全候補を一度に判定する点が異なる。 - chain-of-thought 手法を in-domain および zero-shot transfer(UMD, IIT-AFF)で上回り、同一フレームワーク上の既存 System One モデルより総合的に良く、judge リクエスト数も少ないと主張。

3. 技術・手法の肝は?

- 推論フレームワーク:候補領域を **object → part → sub-part** とレベルごとに確認する。 - レベル間で evidence を双方向に受け渡し、各レベルが互いを補正する仕組み。 - 凍結した segmenter が候補領域を提案し、System One モデルがテキスト生成なしで各候補の可否を単一 forward pass から読み取る。 - 専用 System One モデル:既存 System One モデルは汎用判断向けで1候補ずつ判定するため不適。 - フレームワークが生成するリクエストから直接学習。 - 1レベル内の全候補を同時に判定するよう訓練。

4. どうやって有効だと検証した?

- **InstructPart** のみで訓練し、定義に整合した operation words で評価。 - in-domain で chain-of-thought 手法を上回ったと報告。 - **UMD** および **IIT-AFF** への zero-shot transfer でも chain-of-thought 手法を上回ると報告。 - 同一フレームワーク上で既存 System One モデルを実行した場合より総合的に優れ、必要な judge リクエスト数も少ないと報告。 - 具体的な評価指標・数値は要旨からは不明。

5. 議論はある?

- 要旨からは不明。 - 著者は affordance の位置特定は本質的に知覚的判断であり、言葉で論証する必要はないという立場を述べている。 - System Two 型の推論コスト・領域制御・誤り修正の難しさを問題として挙げている。 - 限界や失敗事例、計算コストの詳細な議論は要旨からは不明。

6. 次に読むべき論文は?

- 要旨で比較対象として挙げられている **chain-of-thought** ベースの affordance grounding 手法(System Two 型)。 - 同一フレームワーク上で比較された既存の **System One** モデル。 - データセット関連:**InstructPart**、**UMD**、**IIT-AFF**。 - 構成要素として **segmenter**(凍結)および **MLLM** を用いる関連研究。 - 個別の論文名は要旨からは不明。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Jincheng Li, Yutian Zhang, Jianyu Zhang, Xinshun Wang, Mengyuan Liu

分類: cs.RO

原文アブストラクト

Affordance grounding asks which visible part of an object performs a requested operation, a basic capability for embodied manipulation and human--robot interaction. Most existing methods follow a System Two paradigm: a multimodal language model first writes a chain of thought and then turns its conclusion into a box or points for a segmenter. This incurs considerable inference cost, gives the semantic decision little direct control over the extent of the final region, and makes mistakes hard to correct. Yet locating an affordance is essentially a perceptual judgment that need not be argued out in words. We therefore propose, in which frozen segmenters propose candidate regions and a System One model decides directly which of them perform the operation, generating no text and reading each decision from a single forward pass. Our contributions are twofold. (1) An inference framework that confirms candidate regions level by level, from object to part to sub-part, with evidence passed between the levels in both directions so that the levels correct one another. (2) A System One model trained for this framework: existing System One models are built for general-purpose decisions, judge one candidate per request and are ill-suited to the framework's region questions, so ours learns directly from the requests the framework itself produces and judges all candidates of a level at once. Trained only on InstructPart and evaluated with definition-aligned operation words, outperforms chain-of-thought methods in domain and in zero-shot transfer to UMD and IIT-AFF, is better overall than existing System One models run in the same framework, and needs fewer judge requests. To our knowledge, is the first approach to bring System One models to affordance grounding.

関連論文

  1. 1中国がソフトバンクのABBロボット事業買収を阻止したとFT報道、Bloomberg伝える提携・買収
  2. 2bZ4Xの自動運転タクシー、2027年に日本で初期運行へ提携・買収
  3. 3Tesla、Optimusの予約受付を12月初旬に始める見通しと報道新製品・発表
  4. 4Agility Robotics、Churchill XIとの事業統合で約4億6500万ドルの資金調達を見込む資金調達
  5. 5イオン、物流拠点の自動化率5割量産・展開
PR本紙発行元 EmplifAI