日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

週刊ニュースレター購読
VLAarXiv:2610.31845

EgoForesight:ノイズを含む一人称視点行動データで方策学習を効果的にスケールする

EgoForesight: Effectively Scaling Policy Learning with Noisy Egocentric Actions

シェア:XThreadsFacebookLINEはてブBluesky

ロボット実演とノイズの多い一人称動画を併用し、信頼度に応じた行動監督と将来表現の蒸留で方策学習をスケールさせる視覚-言語-行動フレームワークを提案した論文。

詳しい要約

1. どんなもの?

- ロボット実演と egocentric videos の両方から policy learning をスケールさせる vision-language-action フレームワーク EgoForesight を提案 - egocentric videos はタスク・環境のカバレッジを広げるが、motion reconstruction と retargeting により noisy action labels が混入する問題に対処 - 信頼できない action labels の影響を低減しつつ、demonstrated outcomes を補完的 supervision として活用する - 実世界 open-loop action MSE を 20.5% 削減し、RoboCasa few-shot success を 8.1 percentage points 改善

2. 先行研究と比べてどこがすごい?

- 従来は robot demonstrations が高品質だが収集コスト大、egocentric videos は広範だが noisy action labels を伴うというトレードオフがあった - EgoForesight は両ソースを併用し、noisy labels の影響を抑えつつ outcomes を補完監督に使う点が新しい - テスト範囲において baseline より急な scaling slopes を示し、30,000 hours の pretraining data で有効性を確認 - 具体的な比較対象の先行研究名は要旨からは不明

3. 技術・手法の肝は?

- 将来の視覚表現予測と action generation を結合する joint vision-action flow を採用 - reliability-conditioned corruption により、ソース信頼度に応じて action supervision を noise level 別に配分 - reliability-weighted regression で各ソースの寄与を調整 - privileged-future representation distillation を導入: EMA teacher が現在の scene と clean future を観測し scene change から action-relevant structure を符号化 - その深い表現が corrupted future を受け取る earlier student layer を監督し、noisy action annotations を超えた outcome-informed structure を提供

4. どうやって有効だと検証した?

- 30,000 hours の pretraining data において baseline より急な scaling slopes を確認 - 実世界 open-loop action MSE を 20.5% 削減 - RoboCasa few-shot success を 8.1 percentage points 改善 - post-training 後、simulated および real-world dexterous manipulation の両方で強い絶対性能を達成

5. 議論はある?

- noisy egocentric actions 下での scaling の有効性を示す一方、テスト範囲を超えた挙動や限界は要旨からは不明 - 各機構(reliability-conditioned corruption、reliability-weighted regression、privileged-future representation distillation)の個別寄与の分析は要旨からは不明 - 実世界 dexterous manipulation の具体的タスクや評価条件は要旨からは不明

6. 次に読むべき論文は?

- 要旨で参照・比較されている具体的な先行研究は明示されていない - 関連手法として vision-language-action モデル、egocentric video からの policy learning、noisy label learning、knowledge distillation、EMA teacher を用いた表現学習の定番研究を次に読むべき - RoboCasa ベンチマークおよび dexterous manipulation 関連の研究も参照候補

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Chubin Zhang, Changyuan Wang, Yirui Wang, Ao Li, Shilin Ma, Yue Su, Cai Zhou, Xiuwei Xu, Tianle Zhang, Yansong Tang

分類: cs.RO, cs.CV

原文アブストラクト

Scaling policy learning requires broad experience and reliable supervision. Robot demonstrations provide high-quality trajectory supervision but are costly to collect. Egocentric videos broaden task and environment coverage, yet motion reconstruction and retargeting introduce noisy action labels. To address this challenge, we introduce EgoForesight, a vision-language-action framework that learns jointly from both sources by reducing the influence of unreliable action labels and exploiting demonstrated outcomes as complementary supervision. A joint vision-action flow couples future visual representation prediction with action generation, unifying reliability-aware action learning with outcome-informed representation transfer. Specifically, reliability-conditioned corruption allocates action supervision across noise levels according to source reliability, while reliability-weighted regression regulates each source's contribution. Complementing this treatment of noisy labels, privileged-future representation distillation draws supervision from demonstrated outcomes. An exponential-moving-average teacher observes the current scene and clean future to encode action-relevant structure from the resulting scene change. Its deeper representations supervise an earlier student layer receiving a corrupted future, providing outcome-informed structure beyond noisy action annotations. Together, these mechanisms support effective scaling with noisy egocentric actions. Over the tested range, EgoForesight exhibits steeper scaling slopes than the baseline, reducing real-world open-loop action MSE by 20.5% and improving RoboCasa few-shot success by 8.1 percentage points at 30,000 hours of pretraining data. After post-training, it also achieves strong absolute performance in both simulated and real-world dexterous manipulation.

関連論文

PR本紙発行元 EmplifAI