日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

触覚arXiv:2611.12806

異種触覚センサを統合する汎用巧緻操作のための触覚基盤モデル

Learning Heterogeneous Tactile Representation for General Dexterous Manipulation

シェア:XThreadsFacebookLINEはてブBluesky

圧抵抗・磁気・視覚触覚など異なる触覚センサのデータを統一表現に変換する基盤モデルLingBot-Touchを開発し、拡散ポリシーやVLAモデルに組み込むことで巧緻操作性能を向上させた。

詳しい要約

1. どんなもの?

- 接触の多いdexterous manipulation向けの触覚基盤モデル「LingBot-Touch」の提案 - 異種の触覚sensor(piezoresistive、magnetic、visuotactile)にまたがる統一的なtactile representationを学習 - 得られるtactile tokensをpolicy modelにplug-and-playで組み込める点を特徴とする - simulationとreal-robotの両方で複数hardware platformにわたり評価

2. 先行研究と比べてどこがすごい?

- 商用tactile sensorは発展途上で、各sensorは固有の長所と欠点を併せ持つ - 従来はsensor固有の物理に触覚理解が縛られ、異種触覚dataの活用が困難だった - 本研究はsensor-specific physicsから触覚理解を切り離す点を狙う - 単一sensorではなく複数sensor種を統一表現で扱い、新sensor種へ拡張可能とした点が差分 - 具体的な既存手法との定量比較は要旨からは不明

3. 技術・手法の肝は?

- 異種tactile sensor(piezoresistive、magnetic、visuotactile)のdataから統一representationを学習するtactile foundation model - 出力はtactile tokensとして扱われ、plug-and-playでpolicy modelに統合可能 - diffusion policyからVLA model($π_{0.5}$、LingBot-VLA)まで複数paradigmのpolicyに接続できる設計 - 新sensor種への拡張性を備える - 学習の詳細なarchitectureやloss、data構成は要旨からは不明

4. どうやって有効だと検証した?

- simulationおよびreal-robot deploymentを含む広範な実験を実施 - 複数のhardware platform上で評価 - 複雑なmanipulation taskにおいて触覚representationが実質的な利点を与えることを確認 - 計算効率も維持されることを示す - 具体的なtask設定、baseline、指標の数値は要旨からは不明

5. 議論はある?

- 異種sensor間のdataを活用しtactile learningをscaleする可能性を示唆 - 将来の触覚hardware設計およびembodied model設計への示唆を与えると主張 - 一方でsensor間の物理差の扱いや汎化限界、失敗事例などの詳細な議論は要旨からは不明 - 計算効率の具体的な比較や制約も要旨からは不明

6. 次に読むべき論文は?

- diffusion policy(触覚を組み込むpolicy baselineとして) - vision-language-action (VLA) model($π_{0.5}$、LingBot-VLA) - visuotactile sensorを用いた触覚表現学習の関連研究 - piezoresistive/magnetic tactile sensorに関する触覚sensing研究 - cross-sensor/heterogeneous tactile dataの転移学習に関する研究

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Bing Han, Yichuan Peng, Haoyu Dong, Yuanmeng Hu, Yongyi Jia, Fangjing Wang, Kecheng Zheng, Yiming Zhang, Yanhong Zeng, Xiaoqing Zhang, Chen Song, Rundong Zou, Anqi Dong, Yuan Guan, Ka Leong Cheng, Xing Zhu, Yujun Shen, Nan Xue, Wei Ning

分類: cs.RO

原文アブストラクト

Tactile sensing is an indispensable modality for contact-rich dexterous manipulation, a capability that hints at the ultimate frontiers of embodied intelligence. However, commercially available tactile sensors are still at a relatively early stage of development, with each type of sensor offering irreplaceable strengths alongside its own drawbacks. A key challenge is thus to free tactile understanding from sensor-specific physics, so that embodied models can effectively leverage heterogeneous tactile data. To this end, we develop LingBot-Touch, a tactile foundation model characterized by the following properties. (i) Our model yields a unified representation across different tactile sensors (i.e., piezoresistive, magnetic, and visuotactile sensors), and is easily extensible to new sensor types. (ii) The resulting tactile tokens are plug-and-play: they can be seamlessly integrated into policy models across paradigms, from diffusion policy to vision-language-action (VLA) models such as $π_{0.5}$ and LingBot-VLA, consistently enhancing manipulation dexterity. (iii) Extensive experiments, spanning simulation and real-robot deployments across multiple hardware platforms, demonstrate that our tactile representation substantially benefits complex manipulation tasks while maintaining strong computational efficiency. We believe the findings in this work demonstrate the potential of leveraging cross-sensor data to scale tactile learning, and offer encouraging insights for the design of future hardware and embodied models.

関連論文

  1. 1パナソニックHDら、ロボット操作AI「T-Rex」を共同開発 12タスクで平均成功率65%研究・技術
  2. 2Hugging Face、ロボット学習基盤「LeRobot v0.7.0」を公開 対話操作と大規模データ学習に対応新製品・発表
  3. 3NVIDIA、Vera CPUのエージェント処理性能を公表 x86比で速度・電力効率を比較半導体・GPU
  4. 4Agility、SPAC合併でナスダック上場資金調達
  5. 5智元、清華大学などとCELを発表 96台のロボットで群体学習を検証研究・技術
PR本紙発行元 EmplifAI