何が起きたか
2026年6月4日にarxiv.orgで公開された論文「Double Preconditioning (DoPr): Optimization for Test-Time Performance, not Validation Loss」が、テスト時性能を直接最適化する新しい最適化手法DoPrを提案した。この手法は、勾配方向のプレコンディショニング（AdamやMuon）と活性化方向のプレコンディショニング（KFACなど）を組み合わせるもので、自己回帰言語モデル、フローベース生成モデル、ロボットポリシー学習などの設定で下流性能を向上させるとしている。
詳細
論文は、トレーニングとデプロイの間のミスマッチである「テスト時フィードバック（TTF）」現象に着目する。TTFは、タスクの長さが増すにつれて、トレーニング/検証損失とタスク成功率や生成品質などの下流メトリクスの乖離が大きくなる現象と定義される。DoPrは、勾配方向のプレコンディショニング（AdamやMuon）と活性化方向のプレコンディショニング（KFACなど）を組み合わせることで、エラー蓄積を軽減する。論文では、DoPrが様々なTTF設定で下流モデル性能を向上させるドロップイン介入として機能すると報告している。
Key Facts
| 論文「Double Preconditioning (DoPr): Optimization for Test-Time Performance, not Validation Loss」がarxiv.orgで公開された（2026年6月4日）。 | [1] |
| DoPrは勾配方向のプレコンディショニング（AdamやMuon）と活性化方向のプレコンディショニング（KFACなど）を組み合わせる。 | [1] |
| DoPrは自己回帰言語モデル、フローベース生成モデル、ロボットポリシー学習などのテスト時フィードバック設定で下流性能を向上させるとしている。 | [1] |
| DoPrによるテスト時性能の向上は、検証損失の改善を常に伴うわけではないと報告されている。 | [1] |
本紙の見方
今回の提案は、深層学習の最適化手法に新たな設計軸を加えるものだ。従来の最適化手法は、トレーニング損失や検証損失の最小化を目的としてきたが、DoPrはテスト時性能を直接的に向上させることを目的としている。これは、トレーニングとデプロイの間のミスマッチ（TTF）が問題となる設定、特に自己回帰生成やロボットポリシー学習など、モデルが自身の予測に基づいてロールアウトする場面で重要になる。 本紙の過去報道との接続はないが、この研究は最適化アルゴリズムの進化という文脈で捉えられる。AdamやMuonなどの勾配方向のプレコンディショニングは広く使われているが、活性化方向のプレコンディショニング（KFACなど）は計算コストが高く、大規模モデルへの適用は限定的だった。DoPrはこれらを組み合わせることで、テスト時性能の向上を実現しており、最適化手法の新たな可能性を示している。 業界構造への含意としては、特にロボットポリシー学習や生成モデルの分野で、モデルの評価方法に変化をもたらす可能性がある。検証損失が下流性能の指標として必ずしも十分でないという指摘は、モデル開発のプロセスに影響を与えるだろう。また、DoPrがドロップイン介入として機能するという点は、既存のトレーニングパイプラインへの統合が容易であることを示唆しており、実用化へのハードルが低い可能性がある。 未確定の論点としては、DoPrの理論的な裏付けや、大規模モデルでのスケーラビリティ、計算コストの増加が挙げられる。また、検証損失とテスト時性能の乖離がなぜ起こるのか、そのメカニズムの解明も今後の課題となる。
なぜ重要か
この研究は、深層学習の最適化手法が「検証損失の最小化」から「テスト時性能の最大化」へとパラダイムシフトする可能性を示唆している。実世界のアプリケーションでは、検証損失よりもタスク成功率や生成品質が重要であることが多く、DoPrはそのギャップを埋める一歩となる。今後の研究では、DoPrの理論的基盤や大規模モデルへの適用が焦点になるだろう。