日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

週刊ニュースレター購読
触覚/ヒューマン・トゥ・ロボット転送arXiv:2610.40349

触覚でつなぐ人間からロボットへの巧みな操作の転送

TouchBridge: Tactile-Conditioned Human-to-Robot Transfer for Dexterous Manipulation

シェア:XThreadsFacebookLINEはてブBluesky

触覚センサ付きウェアラブル端末で取得した人間の巧みな操作データを、物体形状や物理シミュレーションなしでロボットの訓練データに変換するフレームワークTouchBridgeを提案。VLAモデルの微調整に用い、接触の多い実タスクで72.5%の成功率を達成した。

詳しい要約

1. どんなもの?

- 人間の接触リッチなデモをロボットの器用な操作データへ変換するハードウェア・ソフトウェア共設計フレームワーク TouchBridge の提案。 - 装着型の人間デモインタフェースと対応するロボットインタフェースで、視覚と指先触覚の cross-embodiment 対応を確立。 - 触覚条件付きリターゲティング手法 Tac-Retarget を導入し、接触パッチの位置合わせと空間関係の保持を行う。 - 変換データで事前学習済み VLA モデルを fine-tuning し、実世界の接触リッチ4タスクで評価。

2. 先行研究と比べてどこがすごい?

- 物体メッシュ・物体姿勢推定・物理シミュレーションを必要とせず、人間デモを直接ロボット領域の学習データへ変換できる点が、object-aware や simulation-based の転送パイプラインと異なる。 - 同一ポリシー・学習設定の下で、Tac-Retarget は DexPilot を25.0ポイント、UniDex を42.5ポイント上回る。 - 人間デモ収集はテレオペレーションのロボットデモ収集より7.0倍高速。 - 変換した人間デモのみで fine-tuning したポリシーが72.5%の平均成功率を達成し、同数のテレオペレーションデモによる77.5%に迫る。

3. 技術・手法の肝は?

- 装着型の人間デモインタフェースとロボットインタフェースを共設計し、視覚・指先触覚の cross-embodiment 対応を構築。 - Tac-Retarget は計測した接触を用いて指先の接触パッチを位置合わせし、手内・手間の空間関係を保持する触覚条件付きリターゲティング。 - リターゲティングに物体メッシュ・物体姿勢推定・物理シミュレーションを不要とし、直接かつスケーラブルな変換を実現。 - 視覚合成と camera-anchored action conversion を組み合わせ、ロボット領域のデモを生成して VLA モデルの fine-tuning に使用。

4. どうやって有効だと検証した?

- 実世界の接触リッチ4タスクで検証。 - TouchBridge 変換の人間デモのみで fine-tuning したポリシーが平均成功率72.5%、同数のテレオペレーションデモでは77.5%。 - 人間デモ収集はテレオペレーションより7.0倍高速。 - 同一ポリシー・学習設定で Tac-Retarget が DexPilot を25.0ポイント、UniDex を42.5ポイント上回る比較を実施。

5. 議論はある?

- 変換データによる成功率72.5%はテレオペレーションの77.5%にやや劣るが、収集速度7.0倍の利点とのトレードオフが示唆される。 - 物体メッシュ・姿勢推定・物理シミュレーション不要という設計の汎用性・限界についての詳細は要旨からは不明。 - 触覚条件付きリターゲティングが接触パッチの空間関係保持に有効であることが比較結果から示されるが、失敗要因の分析は要旨からは不明。

6. 次に読むべき論文は?

- DexPilot(比較対象のリターゲティング手法)。 - UniDex(比較対象の手法)。 - 事前学習済み vision-language-action (VLA) モデルに関する研究。 - object-aware / simulation-based の human-to-robot transfer パイプライン。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Haozhe Zhang, Gu Zhang, Zirui Zou, Yuzheng Chen, Jinlong Wu, Zixuan Hu, Jianke Zhang, Yucheng Hu, Zhecheng Yuan, Huazhe Xu

分類: cs.RO

原文アブストラクト

Human demonstrations offer an efficient and scalable source of data for dexterous robot manipulation, but differences in sensing and hand morphology complicate the transfer of contact-rich interactions. We present TouchBridge, a hardware--software co-designed framework for human-to-robot data transformation. A wearable human demonstration interface and a corresponding robot interface establish cross-embodiment correspondence in visual and fingertip tactile sensing. We introduce Tac-Retarget, a tactile-conditioned retargeting method that uses measured contact to align fingertip contact patches and preserve their spatial relations within and across hands. Unlike object-aware or simulation-based transfer pipelines, Tac-Retarget requires no object mesh, object-pose estimate, or physics simulation for retargeting, enabling direct and scalable conversion of human demonstrations into robot-domain training data. Combined with visual synthesis and camera-anchored action conversion, TouchBridge produces robot-domain demonstrations for fine-tuning a pretrained vision-language-action (VLA) model. Across four real-world contact-rich tasks, policies fine-tuned solely on TouchBridge-converted human demonstrations achieve a 72.5% average success rate, compared with 77.5% using an equal number of teleoperated robot demonstrations, while human demonstration collection is 7.0x faster. Under the same policy and training setup, Tac-Retarget outperforms DexPilot and UniDex by 25.0 and 42.5 percentage points, respectively.

PR本紙発行元 EmplifAI