日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

週刊ニュースレター購読
マニピュレーションarXiv:2610.05180

VICON: 視覚・慣性・接触を統合した操作データセット用ハンド・物体トラッキング

VICON: Visual-Inertial-Contact based Hand-Object Tracking for Manipulation Datasets

シェア:XThreadsFacebookLINEはてブBluesky

視覚・慣性グローブとRGB-Dカメラを組み合わせ、遮蔽下でも手と物体の動き・接触点・力を同時に記録するトラッキング手法を提案。

詳しい要約

1. どんなもの?

- 手と物体の操作を同時に捉える tracking フレームワーク VICON を提案。 - Visual-Inertial-Contact を統合し、手・物体の motion と contact 情報を取得。 - 強い occlusion 下でも動作し、manipulation dataset 構築を目的とする。 - 40 の motion-capture session、5 物体で評価。 - 同期した hand-object motion、contact points、normal forces を含む dataset を構築・公開予定。

2. 先行研究と比べてどこがすごい?

- 従来は motion trajectory のみで contact points や forces を十分に捉えられなかった。 - 手と物体の motion、contact points、forces を同時に捉える手法は限定的。 - 手と物体の相互作用による severe occlusion が正確な tracking を困難にしていた。 - VICON は failed-frame rate 2.5% を達成し、baseline の 50.9-64.6% を大幅に改善。 - occlusion 下で median errors 3.9 mm、3.0 degrees を実現。

3. 技術・手法の肝は?

- visual-inertial glove と RGB-D camera で正確な hand tracking を実施。 - glove を再設計し、human grasp frequency に基づき force-sensitive resistors (FSRs) を配置。 - FSRs で contact states と calibrated normal forces を同期記録。 - 既存 CAD models 不要で、RGB-D images と monocular video から再構成した mesh で object poses を推定。 - factor-graph-based object trajectory estimation を提案。 - hand-object occlusion 下の visibility で重み付けした object-pose estimates、FSR measurements、hand-motion prior を融合。

4. どうやって有効だと検証した?

- 5 物体、40 の motion-capture sessions で評価。 - failed-frame rate は VICON 2.5%、baselines 50.9-64.6%。 - occlusion 下で median errors 3.9 mm、3.0 degrees。 - VICON を用いて同期した hand-object motion、contact points、normal forces を含む dataset を構築。 - 10 object categories をカバーする拡張 dataset を公開予定。

5. 議論はある?

- 要旨からは不明。 - ただし、severe occlusion 下での tracking 精度や contact sensing の限界について議論の余地があると考えられる。 - dataset の規模や多様性、一般化可能性も今後の課題となり得る。

6. 次に読むべき論文は?

- 要旨で参照/比較されている研究は明示されていない。 - 関連手法として、visual-inertial glove、RGB-D camera、force-sensitive resistors (FSRs)、factor-graph-based estimation、monocular video からの mesh reconstruction などが挙げられる。 - 同分野の定番として、hand-object tracking、dexterous manipulation dataset、contact sensing に関する研究を読むべき。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Yubin Jeon, Uiseong Shin, Hwanchul La, Jaeseong Kang, Hyelim Choi, Yongseok Lee

分類: cs.RO

原文アブストラクト

Learning dexterous manipulation benefits from human demonstration datasets that capture diverse and natural hand-object interactions. In particular, contact points and forces provide supervision on where and how strongly to interact, which cannot be fully captured by motion trajectories alone. However, methods for jointly capturing hand and object motion, contact points, and forces remain limited. Moreover, severe occlusion from hand-object interaction challenges accurate tracking of both hands and objects. To address these limitations, we present a Visual-Inertial-CONtact based hand-object tracking (VICON) framework. It holistically captures both hand and object motion along with contact information during manipulation, even under severe occlusion. First, we adopt a visual-inertial glove and an RGB-D camera for accurate hand tracking, and redesign the glove to incorporate contact sensing. Specifically, force-sensitive resistors (FSRs) are placed on the glove based on human grasp frequency to synchronously record contact states and calibrated normal forces. Second, without requiring pre-existing CAD models, we estimate object poses using RGB-D images and a mesh reconstructed from a monocular video. We propose factor-graph-based object trajectory estimation that fuses object-pose estimates weighted by visibility under hand-object occlusion, FSR measurements, and a hand-motion prior. Across 40 motion-capture sessions with five objects, VICON achieves a 2.5% failed-frame rate compared with 50.9-64.6% for the baselines, with median errors of 3.9 mm and 3.0 degrees under occlusion. Using VICON, we construct a dataset containing synchronized hand-object motion, contact points, and normal forces, and will publicly release an expanded dataset covering 10 object categories at https://github.com/VICON-dataset/dataset.

関連論文

PR本紙発行元 EmplifAI