日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

週刊ニュースレター購読
強化学習/計画arXiv:2610.20409

超球面コントラスティブ表現による計画と探索の実現

Hyperspherical Contrastive Representations Unlock Planning and Exploration

シェア:XThreadsFacebookLINEはてブBluesky

コントラスティブ表現を超球面上で学習し、球面線形補間により中間ウェイポイントを閉形式で推論することで、報酬やデモなしに長期タスクを計画・探索する手法を提案。

詳しい要約

1. どんなもの?

- 自己教師あり強化学習アルゴリズム - 事前データ、報酬、デモ、事前学習モデルなしで最大8個の立方体の塔を構築 - コントラスティブ表現を再利用可能なビルディングブロックとして使用 - 中間ウェイポイントのシーケンスを推論するC-Slerpを提案 - 超球面パラメータ化により、球面線形補間で中間ウェイポイントを閉形式で推論 - 別の高レベルポリシーやグラフ探索は不要 - 表現幾何学が目標到達問題の難易度に応じてウェイポイント数を調整

2. 先行研究と比べてどこがすごい?

- 事前データ、報酬、デモ、事前学習モデルを必要としない - 別の高レベルポリシーやグラフ探索を必要とせず、閉形式で中間ウェイポイントを推論 - 表現幾何学に基づきウェイポイント数を適応的に調整 - 強いベースラインが1回も成功しない設定を含む長期的ナビゲーションとロボット操作タスクで成功 - 固定ウェイポイント数では性能が大幅に低下することをアブレーションで示す

3. 技術・手法の肝は?

- コントラスティブ表現を再利用可能なビルディングブロックとして使用 - 超球面パラメータ化により、球面線形補間(Slerp)で中間ウェイポイントを閉形式で推論 - 表現幾何学に基づき、目標到達問題の難易度に応じてウェイポイント数を調整 - 自己教師あり強化学習アルゴリズム - 事前データ、報酬、デモ、事前学習モデルなしで学習

4. どうやって有効だと検証した?

- 長期的ナビゲーションとロボット操作タスクで実験 - 強いベースラインが1回も成功しない設定を含む - アブレーションで固定ウェイポイント数が性能を大幅に低下させることを示す - 最大8個の立方体の塔を構築するタスクで成功

5. 議論はある?

- 固定ウェイポイント数では性能が大幅に低下し、タスク難易度に応じた計画の適応が重要 - 表現幾何学がウェイポイント数の調整に有効 - 他の議論は要旨からは不明

6. 次に読むべき論文は?

- 要旨で参照/比較されている研究は明示されていない - 関連手法として、Contrastive Planning via Spherical Linear Interpolation (C-Slerp) 自体が提案手法 - 同分野の定番として、自己教師あり強化学習、コントラスティブ学習、階層的強化学習、球面線形補間 (Slerp) が挙げられる

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Jonghae Park, Sungil Son, Jonghun Shin, Junseo Lee, H. Jin Kim, Benjamin Eysenbach

分類: cs.LG

原文アブストラクト

We develop a self-supervised reinforcement learning algorithm that learns to build towers of up to eight cubes from scratch, without prior data, rewards, demonstrations, or pretrained models. Our method, Contrastive Planning via Spherical Linear Interpolation (C-Slerp), uses contrastive representations as reusable building blocks and repeatedly composes them to infer a sequence of intermediate waypoints. Under our hyperspherical parameterization, the learned representations allow intermediate waypoints to be inferred in closed form through spherical linear interpolation, without training a separate high-level policy or performing graph search. Importantly, the representation geometry also tells us how to adjust the number of waypoints based on the difficulty of each goal-reaching problem. Experiments show that our method succeeds on long-horizon navigation and robotic manipulation tasks, including settings where strong baselines fail to achieve a single success. Ablations further show that using a fixed number of waypoints substantially degrades performance, highlighting the importance of adapting the plan to task difficulty.

関連論文

PR本紙発行元 EmplifAI