日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

イベントセンシングarXiv:2611.09089

EventHOI: スマートグラス向けイベント駆動型の省リソース手物体インタラクション記録

EventHOI: Event-Driven Resource-Efficient Hand-Object Interaction Logging on Smartglasses

シェア:XThreadsFacebookLINEはてブBluesky

低消費電力のイベントセンサでRGB撮影のタイミングと圧縮領域を決め、BLE帯域内で手物体インタラクションを記録するスマートグラス向けシステムを提案した。

詳しい要約

1. どんなもの?

- smartglassesでegocentric視点のHand-Object Interaction (HOI)を自動記録するシステムEventHOIの提案 - 連続RGB撮影と無線送信はsmartglassesのenergy/bandwidth予算を超える問題に対処 - event-driven sensingとHOI-aware encodingを組み合わせ、BLE経由のloggingを可能にする - memory assistance等の応用に向けたtime-stamped evidenceの提供を狙う

2. 先行研究と比べてどこがすごい?

- RGB-only baselinesと比較し、always-on backend power consumptionを5.8-10.4x削減 - uplink bandwidthを2.9x削減しつつHOI recognition accuracyの損失を最小化 - RGB uplinkを130 kbps未満に抑え、commodity BLE bandwidth予算内での安定したvideo streamingを実現 - 従来の連続RGB capture/無線送信の限界を、event sensing活用で克服する点が新規

3. 技術・手法の肝は?

- 低電力event sensingを用い、RGB captureが必要な時(when)と視覚詳細を保持すべき場所(where)を決定 - lightweight IMU-based egomotion cancellation pipelineでegomotion由来のeventを抑制 - 残差のHOI motionがRGB triggeringとspatial compressionを導く - selective RGB captureとHOI-aware encodingをcoupleし、BLEでのegocentric loggingを可能にする

4. どうやって有効だと検証した?

- smartglasses prototypeを構築しend-to-end評価を実施 - 97 subjects・50時間のegocentric benchmarkと、10 participantsから収集した20時間のreal-world datasetを使用 - 両データセットは幅広いdaily-life scenariosとenvironmentsをカバー - RGB-only baselinesとの比較でpower・bandwidth・HOI recognition accuracyを評価

5. 議論はある?

- BLE帯域内(130 kbps未満)での安定video streamingがegocentric HOI loggingに有効と示唆 - HOI recognition accuracy損失は最小と報告されるが、具体的な精度値や限界は要旨からは不明 - egomotion cancellationの残余誤差や多様環境での頑健性に関する議論は要旨からは不明 - demo videoとproject websiteが公開されている

6. 次に読むべき論文は?

- RGB-only baselines(egocentric HOI loggingにおける連続RGB capture手法) - IMU-based egomotion cancellationに関する研究 - event-based vision / event cameraを用いた低電力sensing手法 - BLEを用いたwearable video streaming関連研究

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Le Zhang, Kailai Cui, Hao Chen, Vlad Roznyatovskiy, Jianzhong Zhang, Anhong Guo, Kang G. Shin, Ke Sun

分類: cs.DC, cs.CV, cs.HC

原文アブストラクト

Hand-object interactions (HOIs) can be captured by smartglasses to learn how people manipulate objects in daily life. Automatic logging of these interactions from an egocentric perspective provides time-stamped evidence of daily actions for applications like memory assistance. However, continuous RGB capture and wireless transmission exceed the energy and bandwidth budgets of smartglasses. We present EventHOI, an event-driven sensing and compression system that couples selective RGB capture with HOI-aware encoding to enable egocentric logging over Bluetooth Low Energy (BLE) while preserving downstream HOI logging performance. Our key insight is to use low-power event sensing both to determine when RGB capture is needed and to identify where visual detail must be preserved. A lightweight IMU-based egomotion cancellation pipeline suppresses egomotion-induced events so that residual HOI motion can guide RGB triggering and spatial compression. We build a smartglasses prototype and conduct an end-to-end evaluation of EventHOI on a 50-hour egocentric benchmark with 97 subjects and a 20-hour real-world dataset we collect from 10 participants, together covering a broad range of daily-life scenarios and environments. Compared to RGB-only baselines, EventHOI reduces always-on backend power consumption by 5.8-10.4x and uplink bandwidth by 2.9x, with minimal HOI recognition accuracy loss. The resulting RGB uplink of less than 130 kbps fits within commodity BLE bandwidth budgets, making stable BLE video streaming feasible for egocentric HOI logging. Demo video and project website: https://eventhoi.github.io

  1. 1パナソニックHDら、ロボット操作AI「T-Rex」を共同開発 12タスクで平均成功率65%研究・技術
  2. 2シンロボティクス、AI除草ロボを2027年6月発売 価格500万円新製品・発表
  3. 3NVIDIA、Cosmosを用いたインタラクティブシミュレーション向け世界モデルを解説研究・技術
  4. 4Hugging Face、ロボット学習基盤「LeRobot v0.7.0」を公開 対話操作と大規模データ学習に対応新製品・発表
  5. 5NVIDIA、Vera CPUのエージェント処理性能を公表 x86比で速度・電力効率を比較半導体・GPU
PR本紙発行元 EmplifAI