LLM推論2026/8/10arXiv:2608.09898v1

検証器なしテスト時スケーリングのためのコンシリエンス

Consilience for Verifier-Free Test-Time Scaling

既存の信頼度ベースの検証器なしテスト時スケーリング手法が複雑なタスクで破綻することを示し、初期の低信頼度から最終的な高信頼度への遷移パターンを評価する新しい選択フレームワーク「コンシリエンス」を提案した。

詳しい要約

1. どんなもの？

本論文は、外部検証器を使わないテスト時計算拡張（Verifier-Free Test-Time Scaling, VF-TTS）における、信頼度ベースの手法の限界を指摘し、新たな選択フレームワーク「consilience」を提案する。既存の信頼度ベースVF-TTSは、各ロールアウトの信頼度を計算しランク付けするが、複雑なタスクでは破綻することを示す。consilienceは、推論過程における信頼度の時間的非対称性（初期の低信頼度と最終的な高信頼度）を評価することで、探索と収束のバランスを取る。

2. 先行研究と比べてどこがすごい？

既存のVF-TTS手法は、信頼度の平均や最終値のみを用いるため、初期から高い信頼度を示すロールアウトを好む傾向がある。しかし、複雑なタスクでは、初期の高信頼度は探索不足を意味し、誤った答えに固執する原因となる。consilienceは、信頼度の時間的パターン（初期の低さと最終の高さ）を明示的に評価する点で新規であり、このようなパターンを組み合わせた指標を導入することで、既存手法の欠点を克服する。

3. 技術・手法の肝は？

consilienceは、信頼度の時間的非対称性を評価するための組み合わせ指標を用いる。具体的には、初期の高い信頼度を積極的にペナルティし、最終的な確信度を厳格に要求する。この指標は、ロールアウトの信頼度系列から計算され、探索的な分岐（初期の低信頼度）と最終的な収束（高信頼度）を促進する。手法は、モデルの内部状態へのアクセスを最小限に抑え、追加の検証器を必要としない。

4. どうやって有効だと検証した？

大学院レベルの数学問題と自由形式のコード生成タスクを含む広範な実験を実施し、consilienceが既存のベースライン手法を上回る性能を示すことを検証した。具体的なデータセット名や比較手法は要旨からは不明だが、複雑なタスクでの有効性が確認された。

5. 議論はある？

要旨からは、consilienceの限界や今後の課題についての議論は明示されていない。ただし、信頼度の時間的パターンに依存するため、モデルやタスクによっては信頼度の較正が不十分な場合に性能が低下する可能性が考えられるが、要旨には記載がない。

6. 次に読むべき論文は？

要旨で参照されている関連研究として、既存のVF-TTS手法（特に信頼度ベースの手法）が挙げられる。また、テスト時計算拡張の一般的な枠組みや、LLMの推論における信頼度較正に関する研究が関連する。具体的な論文名は要旨からは不明だが、VF-TTSの分野の定番論文（例：Best-of-N sampling、self-consistencyなど）を読むことが推奨される。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Lecheng Kong, Like Hui, Haitao Mao, Jun Huan

分類: cs.CL, cs.LG

原文アブストラクト

Test-time scaling often uses an external verifier, such as compilers and test cases in coding or trained value functions in robotics applications, to obtain high-quality rollouts. Verifier-free test-time scaling (or VF-TTS) is gaining extensive attention as a mechanism to enhance Large Language Model (LLM) reasoning, primarily because we do not have access to such high-quality verifiers in many real-world applications. Among existing VF-TTS methods, confidence-based VF-TTS methods, which compute and rank rollouts solely by confidence, are particularly promising. Such methods introduce near-zero overhead for sample evaluation and require minimal access to internal model states, making the methods highly flexible across models and tasks. In this paper, we demonstrate a critical limitation of existing confidence-based VF-TTS methods by showing that such methods catastrophically break down on complex tasks. We observe a very interesting phenomenon: uniformly high confidence frequently indicates a failure to explore, favoring confidently wrong answers. To address this, our core insight is that robust cognitive search requires a specific confidence trajectory pattern: such methods perform exploratory branching at the beginning, as manifested by low initial confidence, and converge to a high final confidence solution. To implement this insight, we introduce consilience, a novel selection framework that explicitly evaluates the temporal asymmetry of confidence in reasoning. We operationalize this via a combinatorial metric that actively penalizes high initial confidence while strictly demanding final certainty. Extensive experiments covering both graduate-level mathematics problems and free-form code generation demonstrate that consilience effectively outperforms existing baselines, validating our novel perspective on completion confidence.

arXivで原文を読む →arXiv概要ページ

← 論文一覧