日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

週刊ニュースレター購読
ロボット群メモリarXiv:2610.28624

産業用ReMEmbR:ロボット群への時空間メモリのスケーリング

Industrial ReMEmbR: Scaling Spatiotemporal Memory to Robot Fleets

シェア:XThreadsFacebookLINEはてブBluesky

倉庫ロボット群の映像をオンデマンドで意味記憶化する共有時空間メモリシステムを提案し、エッジとサーバでモデルを分割して計算・通信コストを削減した。

詳しい要約

1. どんなもの?

- 倉庫ロボット fleet 向けの共有 spatiotemporal memory system「IndustrialRemembr」 - NVIDIA ReMEmbR を robot fleets に拡張したもの - 各ロボットが観測した映像を再利用可能な semantic memory として保持 - 生の camera frames をアップロードせず、オンデマンドで scene descriptions を生成 - 計算・通信・ストレージコストの削減を狙う

2. 先行研究と比べてどこがすごい?

- 先行研究の NVIDIA ReMEmbR を単一ロボットから robot fleets へ拡張 - write time の caption generation を排除し、server-side computation を削減 - 生フレームを送らず、robot 上で embedding・vision token・latent に符号化 - 符号化モデルを再利用して画像 patch 内の人物を検出・ゼロ化し、PII abstraction を実現 - 具体的な比較数値は要旨からは不明

3. 技術・手法の肝は?

- 各 robot の NVIDIA Jetson 上で映像 clip を符号化 - Cosmos-Embed1 で retrieval embeddings を生成 - Cosmos3-Edge で vision tokens を生成 - Wan2.2 VAE で reconstruction latents を生成 - Cosmos3-Edge を vision-language 境界で分割し、vision encoder を robot、language decoder を on-premises server に配置 - Nemotron agent が content・position・time で memory を検索し、cached vision tokens で decoder に問い合わせ

4. どうやって有効だと検証した?

- 分割モデルと未分割モデルの出力を比較 - cached-token decoding が未分割モデルの出力を再現するかを検証 - 450 回の decode すべてで再現を確認 - その他の評価項目は要旨からは不明

5. 議論はある?

- 計算・通信・ストレージコストの削減効果が議論の焦点 - PII abstraction による GDPR-compliant な運用の可能性 - 分割配置によるプライバシー保護と性能維持の両立 - 具体的な制約や限界は要旨からは不明

6. 次に読むべき論文は?

- NVIDIA ReMEmbR - Cosmos-Embed1 - Cosmos3-Edge - Wan2.2 VAE - Nemotron - 関連する robot fleet 向け spatiotemporal memory 研究

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Jad Yammine, Malek Wahidi, Abrar Anwar, Yan Chang, Mihir Acharya, Anthony Rizk

分類: cs.RO, cs.AI, cs.SE

原文アブストラクト

Warehouse robot fleets continuously observe operational conditions, but preserving these observations as reusable semantic memory incurs substantial computation, communication, and storage costs. For example, explaining recurring aisle blockages can require reviewing video from multiple robots across several shifts. We present IndustrialRemembr, a shared spatiotemporal memory system that extends NVIDIA ReMEmbR to robot fleets and reduces server-side computation by generating scene descriptions only on demand. On each robot, an NVIDIA Jetson encodes video clips into retrieval embeddings with Cosmos-Embed1, vision tokens with Cosmos3-Edge, and reconstruction latents with the Wan2.2 VAE, without uploading raw camera frames. The encoding models are re-used to detect people in image patches, zeroing them out to support PII abstraction for GDPR-compliant deployments. We split Cosmos3-Edge at its vision-language boundary, placing the vision encoder on the robot and the language decoder on an on-premises server. A Nemotron agent retrieves memories by content, position, and time and queries the decoder using cached vision tokens. This design eliminates caption generation at write time, while cached-token decoding reproduces the unsplit model's output in all 450 tested decodes.

PR本紙発行元 EmplifAI