日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

人ロボットインタラクションarXiv:2611.17238

HEIR: 自己中心的な意図を活用した人とロボットのインタラクション

HEIR: Harness Egocentric Intent for Human-Robot Interactions

シェア:XThreadsFacebookLINEはてブBluesky

人の発話・視線・一人称視点映像とロボットの観測・遠隔操作軌跡を対応付けたデータセットHEIRを構築し、意図理解から長期タスク実行までを統合的に評価した研究。

詳しい要約

1. どんなもの?

- HEIRは、Human-Robot Interactionのためのデータセット/リソース - 名称は「Harness Egocentric Intent for Human-Robot Interaction」の略 - 人間のspeech、measured gaze、egocentric videoを、robot observationsとteleoperated navigation-manipulation trajectoriesに対応付けて収録 - 各sessionは連続するepisodeを保持し、各requestは複数のexecution subtaskで遂行される - human-authored annotationsを伴い、intent grounding・execution planning・task completionを統合的に研究可能 - naturalistic household environmentsでのuser-centric robot interaction研究を狙う

2. 先行研究と比べてどこがすごい?

- 要旨からは不明 - 明示されているのは、HEIRがspeech・gaze・egocentric video・robot observations・teleoperated trajectoriesを同一session内で対応付ける点 - 各requestを複数subtaskからなるlong-horizon taskとして保持する点が記述される - ただし具体的な先行研究との比較や優位性の数値的言及は要旨に無い

3. 技術・手法の肝は?

- データ収集の肝 - 人間側: speech、measured gaze、egocentric videoを取得 - ロボット側: robot observationsとteleoperated navigation-manipulation trajectoriesを取得 - 両者をsession単位で対応付け、successive episodesとして保持 - 各requestを複数のexecution subtaskに分解した構造で記録 - human-authored annotationsを付与 - 研究対象 - intent grounding - execution planning - task completion

4. どうやって有効だと検証した?

- extensive offline experimentsを実施 - 各タスクでモデルが追加のhuman-centric contextからどれだけ恩恵を受けるかを評価 - real-robot experimentsを実施 - execution task completionを評価 - 具体的なモデル・指標・被験者数・成功率などの詳細は要旨からは不明

5. 議論はある?

- 要旨からは不明 - 想定される論点として、human-centric contextの活用度、offline評価とreal-robot評価の対応、long-horizon taskでのsubtask分解の妥当性が挙げられるが、要旨に明示的な議論・限界の記述は無い

6. 次に読むべき論文は?

- 要旨で参照/比較されている個別研究は明示されていない - 関連手法として、egocentric videoとgazeを用いたintent grounding、language-conditioned navigation-manipulation、teleoperationによるtrajectory収集、long-horizon task planningの定番研究を次に読む候補として挙げる - 具体的な論文名は要旨からは不明

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Yichi Zhang, Bo Wang, Zhenghan Zhu, Yutong Han, Jiayin Zou, Gao Kejun, Chang Liu, Shaoxuan Xie, Chi Zhang, Shi Haoyang, Zongxuan Lai, Sen Cui, Guocai Yao, Miao Liu

分類: cs.RO

原文アブストラクト

For robots to assist, serve, and collaborate with humans, they must not only interpret human requests conveyed through language and multimodal intentional cues, but also execute long-horizon tasks that interleave navigation and manipulation. In this paper, we introduce HEIR, a resource for studying how to Harness Egocentric Intent for Human-Robot Interaction. HEIR pairs human speech, measured gaze, and egocentric video with robot observations and teleoperated navigation-manipulation trajectories, while each session preserves successive episodes, with each request fulfilled through multiple execution subtasks. The captured data, together with human-authored annotations, support the study of intent grounding, execution planning, and task completion within a unified interaction setting. To demonstrate the value of HEIR, we conduct extensive offline experiments to evaluate how models benefit from additional human-centric context across these tasks, together with real-robot experiments that assess execution task completion. HEIR thus provides a valuable resource for studying user-centric robot interaction in naturalistic household environments. Our demo and dataset are available online.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2Hugging Face、ロボット学習基盤「LeRobot v0.7.0」を公開 対話操作と大規模データ学習に対応新製品・発表
  3. 3UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
PR本紙発行元 EmplifAI