省略されたモードは稀な規則：連続コードワールドモデルにおけるサンプリング検証の危険法則

本論文は、Code World Modelパラダイムにおいて、LLMが合成した実行可能なワールドモデルを古典的プランナーが探索し、サンプリングされた遷移を再現する場合にモデルが受け入れられるが、その受け入れが連続制御において何を保証するかを問う。パイプラインの危険性を期待リスクとして定義し、その正確な要因を分離する。具体的には、N個のi.i.d.ゲートロールアウトがすべて確率rのクリティカルイベントを見逃す確率が(1-r)^Nであることを示し、独立な受け入れサンプルが指数に予算を追加することを示す。3つのハイブリッド機器において、モードを見逃したモデルがプランナーによって悪用され、モード境界でほぼ全達成可能リターンの後悔を被ることを示す。

先行研究では、Code World Modelの受け入れがサンプル整合性のみを保証するという認識が暗黙にあったが、本論文はその受け入れが連続制御において危険であることを定量的に示す。特に、モードの欠落がプランナーによって悪用されることを実証し、受け入れがサンプル整合性以上の何かを保証しないことを証明する。さらに、識別可能性がクラス相対的であることをバージョンスペース証明で示し、サンプルと完全に整合するが無害なエントリールールのクラスが存在することを証明する点が新しい。

手法の肝は、危険性を期待リスクとして定義し、その正確な因子を(1-r)^Nとして分離すること。また、境界点での局在化予算を証明し、Lipschitz定数Lのモデルが点でetaだけ異なる場合、許容差eps以上で不一致となる領域の体積が少なくともkappa((eta-eps)/L)^(d+m)であることを示す。不連続なリセットモードはこの予算を支払わないことを示す。さらに、バージョンスペース証明を用いて識別可能性がクラス相対的であることを示す。

実LLM合成を用いて、GPT-5.xが111回のモード含有ドローンのうち105回で欠落した1Dクランプを修復し、56の機器ストリームブロックのうち50で正確（95% CI [0.781, 0.960]）であることを示した。2D領域では156回の試行でいずれもルールを回復できず、8つの標的介入でも失敗が残り、ポジティブコントロールでルールの位置が特定された。バージョンスペース証明では、最も広い線量で宣言された適合が20/20ブロックで成功し、18/20でサンプル整合的な円が許容差内にあることを示した。1034のアーティファクトを独立サンプルで再スコアリングし、受け入れがサンプル整合性のみを保証し、ゲートが有益な場合でもプランナーのクエリの約2%しかカバーしないことを確認した。

議論として、受け入れがサンプル整合性のみを保証し、モード欠落がプランナーによって悪用されることが示されたが、これはCode World Modelの実用性に重大な疑問を投げかける。また、識別可能性がクラス相対的であるため、モデルのクラスを広げると識別不能になる可能性がある。さらに、不連続なリセットモードは局在化予算を支払わないため、連続モデルでは検出が難しいことが示唆される。しかし、要旨からは、これらの結果が実世界の応用にどの程度影響するかについての詳細な議論は不明である。

要旨で参照されている研究は明示されていないが、関連手法としてCode World Model、LLMベースのワールドモデル合成、古典的プランナーとの統合、サンプル整合性検証、バージョンスペース学習などが挙げられる。次に読むべき論文としては、Code World Modelの元論文や、LLMによるワールドモデル合成の信頼性に関する研究、連続制御におけるモデル検証の研究が考えられるが、具体的なタイトルは要旨からは不明。