日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

週刊ニュースレター購読
視線制御arXiv:2610.19635

目線の動きを学習するVLM誘導Transformer-VAEによる表現豊かな視線ダイナミクス

Eye, Robot: Learning Expressive Gaze Dynamics via a VLM-Guided Transformer-VAE

シェア:XThreadsFacebookLINEはてブBluesky

VLMで注視対象を選び、Transformer-VAEで人間らしい頭部・眼球・まぶたの動きを生成するロボット視線制御システムを提案。

詳しい要約

1. どんなもの?

本論文は、ヒューマノイドロボットが人間らしい視線運動を生成するための統合システムを提案する。 - 視線座標は eye, head, eyelid の連動運動を通じて注意を向ける。 - ロボットは「どこを見るか」と「どう動くか」を同時に決める必要がある。 - 固定追跡ルールでは人間の視線の時間構造をモデル化できない。 - 非同期 VLM が scene referent を選択し、reactive perception module が固視を維持する。 - Realistic Gaze Transformer (RGT) が目標条件付き運動を生成する。 - RGT は Transformer-VAE で、markerless 人間記録をロボットの 11-DoF 関節空間に retarget して学習。

2. 先行研究と比べてどこがすごい?

先行研究と比べて、以下の点が優れている。 - 固定追跡ルールではなく、人間の視線の時間構造を学習する生成モデルを導入。 - 目標選択・固視維持・運動生成を非同期モジュールに分離。 - RGT は自己教師あり事前学習と自己回帰微調整を組み合わせ、rollout 中の自己予測に曝露。 - 2秒ベンチマークで RGT-Base が報告されている中で最低の overall seven-joint MSE を達成。 - 物理デモで統合 targeting と control pipeline を示す。

3. 技術・手法の肝は?

技術の肝は以下の通り。 - 非同期 VLM が scene referent を選択。 - reactive perception module が固視を維持。 - Realistic Gaze Transformer (RGT) は Transformer-VAE。 - markerless 人間記録をロボットの 11-DoF 関節空間に retarget。 - 自己教師あり事前学習で recent full-head history を符号化。 - 自己回帰微調整で rollout 中に自己予測を露出。 - 推論時、4次元 binocular-eye trajectory が neck と eye の協調運動を条件付ける。 - 補助 blink predictor が再生中に eyelid templates をトリガー。

4. どうやって有効だと検証した?

有効性の検証は以下の方法で行われた。 - 2秒ベンチマークで全コントローラが同じ ground-truth target を受け取る設定。 - RGT-Base が報告されている中で最低の overall seven-joint MSE を獲得。 - 物理デモで統合 targeting と control pipeline を実演。 - ロボット空間の kinematic fidelity とリアルタイム RGT 推論を確立。 - 知覚される自然さと open-vocabulary target-selection accuracy は制御された評価の課題として残る。

5. 議論はある?

議論点は以下の通り。 - 知覚される自然さ (perceived naturalness) は未評価。 - open-vocabulary target-selection accuracy も未評価。 - これらは制御された評価が必要な残された問い。 - その他の議論や限界は要旨からは不明。

6. 次に読むべき論文は?

次に読むべき論文は以下の通り。 - 要旨で参照/比較されている研究は明示されていない。 - 同分野の定番として、gaze control、humanoid robot gaze、Transformer-VAE、VLM-guided robotics に関する論文が挙げられる。 - 具体的なタイトルは要旨からは不明。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Yuhang Hu, Junlin Lyu, Yuan Fang, Xiaoying Shen, Lechen Zhang, Jiong Lin, Judah Goldfeder, Steven Tian, Hod Lipson

分類: cs.RO, cs.AI

原文アブストラクト

Gaze coordinates attention in human interaction through coupled eye, head, and eyelid motion. A humanoid robot must choose where to look while generating a suitable movement toward that target; fixed tracking rules alone do not model the temporal structure of human gaze. We separate these tasks with an asynchronous vision-language model that selects a scene referent, a reactive perception module that maintains fixation, and a Realistic Gaze Transformer (RGT) that generates target-conditioned motion. RGT is a Transformer-VAE trained on markerless human recordings retargeted to the robot's 11-DoF joint space: self-supervised pretraining encodes recent full-head history, and autoregressive fine-tuning exposes the model to its own predictions during rollout. At inference, a four-dimensional binocular-eye trajectory conditions coordinated neck and eye motion; an auxiliary blink predictor triggers eyelid templates during playback. On a two-second benchmark in which all controllers receive the same ground-truth target, RGT-Base obtains the lowest reported overall seven-joint MSE, and physical demonstrations show the integrated targeting and control pipeline. The evidence establishes robot-space kinematic fidelity and real-time RGT inference; perceived naturalness and open-vocabulary target-selection accuracy remain questions for controlled evaluation.

PR本紙発行元 EmplifAI