日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

週刊ニュースレター購読
触覚/データセット/基盤モデルarXiv:2608.29601v1

N0基盤:触覚知能の時代に向けて

$\mathcal{N}_0$-Foundation: Towards the Age of Tactile Intelligence

シェア:XThreadsFacebookLINEはてブBluesky

触覚センサ、大規模データ収集、触覚表現学習、評価基準を統合した触覚搭載ロボット操作の基盤を構築し、3万時間以上の視覚・触覚デモデータと触覚表現モデルを提案した論文。

詳しい要約

1. どんなもの?

本論文は、触覚を活用した身体化操作(tactile-enabled embodied manipulation)のためのパラダイムである $\mathcal{N}_0$-Foundation を提案する。これは、触覚センシングハードウェア、大規模マルチモーダルデータ、触覚表現学習、標準化された評価を統合する。具体的には、視覚ベースの触覚センサ、触覚対応のUniversal Manipulation Interface (UMI)、ロボット身体とUMIベースのデモンストレーションの両方をサポートする同期視覚-触覚データ収集システムを開発し、30,000時間以上の同期視覚・触覚デモンストレーションを含むデータセットNeoDataを構築した。さらに、5,000時間のオープンソースサブセットOpenNeoDataを公開し、異なるセンサ設計間で転移可能な触覚表現を学習する視覚-触覚表現モデルNeoForceを提案する。また、実世界のNeoRealスイートとシミュレーションのNeoSimスイートを組み合わせた包括的なベンチマークを提供する。

2. 先行研究と比べてどこがすごい?

既存の操作コーパスは、変形物体の操作、精密な組立、繊細な力制御、持続的な表面相互作用に必要な触覚データが不足している。本提案は、大規模な同期視覚-触覚データセットを構築し、触覚表現学習と標準化された評価を統合することで、この限界に対処する点が優れている。また、異なるセンサ設計間で転移可能な触覚表現を学習するNeoForceを提案し、触覚データのデバイス固有の外観ではなく物理的接触状態に基づくポリシー学習を可能にする点が新しい。

3. 技術・手法の肝は?

技術の肝は、①大規模データ収集のためのインフラストラクチャ(視覚ベース触覚センサ、触覚対応UMI、同期視覚-触覚データ収集システム)、②30,000時間以上の同期デモンストレーションを含むNeoDataデータセットの構築、③異なるセンサ設計間で転移可能な触覚表現を学習するNeoForce表現モデル、④実世界とシミュレーションを組み合わせた標準化ベンチマーク(NeoRealスイートとNeoSimスイート)の設計である。

4. どうやって有効だと検証した?

実験は、実世界のNeoRealスイートとシミュレーションのNeoSimスイートの両方で行われ、ポリシーが触覚信号のデバイス固有の外観ではなく物理的接触状態から恩恵を受けることを示した。具体的なタスクや比較対象は要旨からは不明だが、両スイートでの実験により有効性を検証している。

5. 議論はある?

要旨からは、データセットの規模と多様性、表現学習の転移可能性、ベンチマークの標準化に関する議論が考えられるが、具体的な議論や限界は要旨に明記されていない。また、データ収集のコストやセンサの一般化、シミュレーションと実世界のギャップなどが潜在的な議論点として考えられるが、要旨からは不明。

6. 次に読むべき論文は?

要旨で参照されている関連研究として、触覚センシング、Universal Manipulation Interface (UMI)、視覚-触覚表現学習、身体化操作のベンチマークに関する論文が挙げられる。具体的には、UMIの元論文や、触覚表現学習の既存手法、操作ベンチマーク(例:RLBench、MetaWorld)などが関連するが、要旨に明示されていないため、同分野の定番である視覚-触覚学習や操作学習のサーベイ論文を次に読むことが推奨される。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: NeoteAI Team, Fudan TEAI Team

分類: cs.RO, cs.CV, cs.LG

原文アブストラクト

We present $\mathcal{N}_0$-Foundation, a paradigm for tactile-enabled embodied manipulation, which integrates tactile sensing hardware, large-scale multimodal data, tactile representation learning, and standardized evaluation. First, we engineer the infrastructure for scalable data collection, including a vision-based tactile sensor, a tactile Universal Manipulation Interface (UMI), and a synchronized visuo-tactile data collection system supporting both robot embodiments and UMI-based demonstrations. Leveraging this infrastructure, we construct NeoData, which contains more than 30000 hours of synchronized visual and tactile demonstrations, spanning six embodiments, 450 tasks, and billions of paired RGB and tactile frames collected through a mixture of real-robot teleoperation and UMI-based demonstrations. To facilitate open research, we further release OpenNeoData, a 5000-hour open-source subset of NeoData. The dataset addresses a central limitation of existing manipulation corpora, critical for deformable-object manipulation, precise assembly, delicate force control, and sustained surface interaction. Capitalizing on the large-scale, heterogeneous tactile measurements, we propose NeoForce, a visuo-tactile representation model that learn transferable tactile representations across different sensor designs. To enable systematic evaluation of tactile embodied models built upon our infrastructure, datasets and tactile representations, we further propose a comprehensive benchmark, which combines the real-world NeoReal suite and the simulated NeoSim suite for standardized evaluation. Experiments across both suites show that policies benefit from the physical contact state rather than from the device-specific appearance of the tactile signal. We release the dataset, the representation, and the benchmark, aiming at supporting future work on tactile-enabled embodied manipulation.