日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

週刊ニュースレター購読
VLAarXiv:2609.18650

ゲームプレイから方策へ:ゲーム化されたロボット不要のインタラクションによるスケーラブルなロボットデータ収集

From Gameplay to Policy: Towards Scalable Robot Data Collection via Gamified Robot-Free Interaction

シェア:XThreadsFacebookLINEはてブBluesky

VRゲームで人間の操作データを収集し、ロボットに転移する枠組みを提案。ゲームから実機へのギャップを埋めるGame2Policyにより、少数の実機デモで成功率が向上することを示した。

詳しい要約

1. どんなもの?

- 大規模で多様なロボット操作データを収集する新パラダイムを提案。 - VRベースのゲーミフィケーション型自己中心視点データ収集プラットフォーム「Project Kitchen」を構築。 - ゲームプレイから得た人間の操作経験を実ロボットに転移する「Game2Policy」を導入。 - 特定のロボットハードウェアに依存せず、クラウドソーシングと大規模展開が可能。

2. 先行研究と比べてどこがすごい?

- 既存手法は特定ロボットハードウェアに依存し、クラウドソーシングや転移性を制限。 - 不完全なアノテーションや行動多様性の不足という問題があった。 - ゲームの長期的エンゲージメントに着想を得て、データ収集を魅力的なゲーム体験に変える点が新しい。 - ロボット非依存で多様な目標指向操作を引き出し、大規模展開の可能性を広げる。

3. 技術・手法の肝は?

- VRベースのゲーミフィケーション型自己中心視点データ収集プラットフォーム「Project Kitchen」を開発。 - ゲーム軌道から接触点やサブゴール状態などの身体不変なアフォーダンス手がかりを抽出する「Game2Policy」を提案。 - ゲーム収集データでアフォーダンスモデルを事前学習し、少数の実ロボットデモで下流ポリシーと共同ファインチューニング。

4. どうやって有効だと検証した?

- シミュレーションで平均成功率が10.0ポイント向上。 - 実ロボットで18.3ポイント向上(few-shot設定)。 - ユーザー研究と定量分析により、多様な操作行動と魅力的なデータ収集体験を確認。

5. 議論はある?

- ゲーミフィケーション型仮想環境がスケーラブルな操作知識源となる可能性を示す。 - プラットフォームとコードは採択後に公開予定。 - ゲームから実機へのギャップや転移の限界については要旨からは不明。

6. 次に読むべき論文は?

- 要旨で参照/比較されている研究は明示されていない。 - 関連手法として、VR-based data collection、affordance learning、few-shot imitation learning、sim-to-real transfer などが挙げられる。 - 同分野の定番として、robot manipulation policy learning、crowdsourced data collection、gamified data collection に関する論文を読むと良い。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Zheng Li, Liang Zhu, Junzhe Wang, Huayuan Chen, Ziyun Liu, Jiahang Cao, Xinyu Sheng, Pei Qu, Yufei Jia, Ximeng Zhang, Jiarui Xie, Zizhao Yuan, Haoang Li, Yi Cai, Jinni Zhou, Jun Ma

分類: cs.RO

原文アブストラクト

Learning generalizable robot manipulation policies requires large-scale and diverse interaction data, yet collecting real-world demonstrations remains costly and difficult to scale. Existing approaches to data collection are either dependent on specific robot hardware that limits crowdsourcing and transferability, or suffer from incomplete annotation and limited behavioral diversity. Inspired by how games sustain long-term human engagement, we explore an alternative paradigm that turns data collection into an engaging gameplay experience and transfers the resulting human manipulation experience to real robots. We present Project Kitchen, a VR-based gamified egocentric data collection platform that elicits diverse, goal-directed manipulation while remaining independent of specific robot embodiments and hardware, making it applicable to broader and potentially large-scale deployment. To bridge the game-to-real gap, we further introduce Game2Policy, which extracts embodiment-invariant affordance cues, including contact points and sub-goal states, from gameplay trajectories. An affordance model is pre-trained on game-collected data and then jointly fine-tuned with downstream policies using only a handful of real-robot demonstrations. Experiments show that Game2Policy improves average success rates by 10.0 points in simulation and 18.3 points on real robots in the few-shot setting. User studies and quantitative analyses further show that Project Kitchen promotes diverse manipulation behaviors and provides an engaging data collection experience. These results demonstrate the potential of gamified virtual environments as a scalable source of manipulation knowledge. The platform and code will be released upon acceptance.

関連論文

PR本紙発行元 EmplifAI