日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

週刊ニュースレター購読
マニピュレーションarXiv:2610.10283

巧みな把持安定性のための時間的視触覚学習

Temporal Visuo-Tactile Learning for Dexterous Grasp Stability

シェア:XThreadsFacebookLINEはてブBluesky

4本の高解像度触覚センサを備えた多指ロボットハンドで1万回の把持試行を収集し、触覚を含む時間的多モーダルモデルで持ち上げ後の安定性を予測、実機での再把持により成功率を10.5ポイント改善した。

詳しい要約

1. どんなもの?

- 多指ロボットハンドによる把持安定性予測とmodel-guided graspingを扱う研究。 - 4つのDigit 360 tactile sensorsを備えたmulti-fingered robotic handで200物体・10,000 grasp trialsのdatasetを収集。 - external vision, proprioception, tactile streamsを各graspで記録。 - pre-lift観測からpost-lift stabilityを予測するend-to-end temporal multimodal modelsを学習。 - 学習したpredictorをreal robot上のonline stability gateとして展開。

2. 先行研究と比べてどこがすごい?

- 従来のrobotic grasping literatureはvision-based grasp selectionとparallel grippersに偏重。 - 本研究はhigh-resolution, dynamic tactile sensingがgrasp stability predictionとmodel-guided graspingにどう寄与するかを体系的に調査。 - sensing modalitiesとencoding backbonesを比較し、touch、特にhigh-resolution, dynamic touchの有効性を示す。 - 明示的なcontactやforce modelingなしでmulti-fingered handsのlearned graspingを支援するdata-driven pathを提示。

3. 技術・手法の肝は?

- Digit 360 tactile sensorsを4つ搭載したmulti-fingered robotic handを使用。 - external vision, proprioception, tactile streamsをgrasp中に記録するdatasetを構築。 - pre-lift grasp observationsからpost-lift stabilityを予測するend-to-end temporal multimodal modelsを訓練。 - sensing modalitiesとencoding backbonesを比較し、controlled input ablationsを実施。 - 学習したpredictorをreal robot上のonline stability gateとして展開し、visuo-tactile model-guided regraspingを実行。

4. どうやって有効だと検証した?

- 200 objects, 10,000 grasp trialsのdatasetでend-to-end temporal multimodal modelsを訓練。 - sensing modalitiesとencoding backbonesの比較、およびcontrolled input ablationsを実施。 - touch、特にhigh-resolution, dynamic touchがgrasp stability predictionを改善することを実験結果で示す。 - real robot上でonline stability gateとしてdeployし、visuo-tactile model-guided regraspingがnon-tactile gate比でexecuted liftsのsuccess rateを10.5 percentage points改善。

5. 議論はある?

- rich fingertip sensingとtouchのdynamicsを捉えるexpressive temporal modelsが、明示的なcontactやforce modelingなしでmulti-fingered handsのlearned graspingを支援可能。 - tactile experienceからstable dexterous manipulationへのscalable data-driven pathを提供。 - 具体的な限界や失敗事例、一般化性に関する議論は要旨からは不明。

6. 次に読むべき論文は?

- 要旨で参照/比較されている研究は明示されていない。 - 関連手法としてvision-based grasp selection、parallel grippers、Digit 360 tactile sensors、multi-fingered robotic hand、temporal multimodal models、model-guided grasping、online stability gateが挙げられる。 - 同分野の定番としてvision-based grasping、tactile sensing for manipulation、dexterous manipulationに関する研究を読むとよい。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Ken Nakahara, Aleksei Buvailik, Prokhor Kotov, Roberto Calandra

分類: cs.RO, cs.CV, cs.LG

原文アブストラクト

Humans can grasp everyday objects with almost perfect success rates using fingertip tactile feedback, yet much of the robotic grasping literature emphasizes vision-based grasp selection with parallel grippers. In this work, we systematically investigate how high-resolution, dynamic tactile sensing contributes to grasp stability prediction and model-guided grasping in dexterous robotic hands. To this end, we collected a dataset of 10,000 grasp trials across 200 objects using a multi-fingered robotic hand equipped with four Digit 360 tactile sensors, recording external vision, proprioception, and tactile streams throughout each grasp. With this dataset, we trained end-to-end temporal multimodal models to predict post-lift stability from pre-lift grasp observations and compared sensing modalities and encoding backbones. Experimental results and controlled input ablations show that incorporating touch, and particularly high-resolution, dynamic touch, improves grasp stability prediction. Finally, we deployed the learned predictor as an online stability gate on the real robot, where visuo-tactile model-guided regrasping improved the success rate among executed lifts by 10.5 percentage points over a non-tactile gate. These results show how rich fingertip sensing and expressive temporal models that capture the dynamics of touch can support learned grasping with multi-fingered hands without explicit contact or force modeling, providing a scalable data-driven path from tactile experience toward stable dexterous manipulation. The dataset is publicly available at https://lasr-lab.github.io/dexterous-grasp-stability/.

関連論文

PR本紙発行元 EmplifAI