何が起きたか
2026年5月29日にarXivで公開された論文「Subspace-Decomposed JEPAs: Disentangling Progression and Content in Latent World Models」において、研究チームはJEPAの潜在空間を直交する2つの部分空間に分割する手法SD-JEPAを提案した。この手法は、低次元の進行サブスペースと高次元の内容サブスペースを分離し、制御ベンチマークの多くでLeWMベースラインを上回る性能を示した。
詳細
SD-JEPAは、JEPAの潜在空間を2つの直交部分空間に分割する。低次元の進行サブスペースはコサイン距離に基づくトリプレット損失で形成され、高次元の内容サブスペースは既存のSIGReg目的関数で正則化される。論文では、2つの反崩壊力が直交座標に作用するため、加法的に合成されることが証明されている。実験では、8次元の進行サブスペース（潜在空間の4.2%）がタスク進行の分散の72〜95%を説明し、1次元の角度進行座標がタスクの進行に応じて前進・後退し、摂動に対して意味的に適切な新しい位相セクターに再配置されることが示された。
Key Facts
| SD-JEPAはJEPAの潜在空間を進行サブスペースと内容サブスペースに分割する手法であり、arXivで2026年5月29日に公開された。 | [1] |
| 進行サブスペースはコサイン距離に基づくトリプレット損失で形成され、内容サブスペースはSIGReg目的関数で正則化される。 | [1] |
| SD-JEPAはLeWMベースラインの制御ベンチマークの大半で性能を上回り、Push-Tでは最強の非LeWM JEPAベースラインを上回った。 | [1] |
| 8次元の進行サブスペース（潜在空間の4.2%）がタスク進行の分散の72〜95%を説明する。 | [1] |
| 角度進行座標の変化量|Δθ_t|は、40エピソードのキューブエピソードで意味イベントの位置特定において標準の潜在予測誤差を最大+0.18のプールAUROCで上回った。 | [1] |
本紙の見方
今回のSD-JEPAは、JEPA（Joint-Embedding Predictive Architecture）の潜在空間設計に新たな視点を導入する。従来のJEPAは将来の埋め込みを予測することでコンパクトな潜在世界モデルを学習するが、タスクの進行を明示的にコードする座標が存在しなかった。SD-JEPAはこれを2つの直交部分空間に分離することで解決を試みており、これは潜在表現の解釈可能性と制御性能の両立を目指す点で新規性がある。 本紙の過去報道との接続はないが、JEPA系の研究は近年、世界モデルの学習効率と汎化性能を高める方向で発展している。SD-JEPAはその流れの中で、潜在空間の構造化に焦点を当てた一歩と位置づけられる。特に、進行サブスペースがシーン認識コンパスとして機能し、タスクの進行に応じて前進・後退するという性質は、ロボット制御やプランニングにおける状態推定の精度向上に寄与する可能性がある。 業界構造への含意としては、この手法が制御ベンチマークでLeWMを上回ったことは、潜在世界モデルの性能向上に寄与する可能性がある。特に、進行と内容の分離は、タスクの進捗を正確に把握する必要がある自動運転やロボットアームの制御など、実世界の応用で重要となる。また、この手法は計算コストを増やさずに性能を向上させている点で、実用的な利点がある。 未確定の論点としては、SD-JEPAが実際のロボットシステムでどの程度の性能を発揮するか、また、より複雑な環境でのスケーラビリティが不明である。さらに、進行サブスペースの次元数や損失関数の設計がタスクに依存する可能性があり、汎用性の検証が必要である。
なぜ重要か
SD-JEPAは、潜在世界モデルの解釈可能性と制御性能を同時に高める可能性を示した。これにより、ロボットや自動運転などの分野で、タスクの進行を正確に把握しながら効率的なプランニングを行うための基盤技術として注目される。