LLMエージェント2026/8/11arXiv:2608.10430

実行可能な幻覚検出：潜在的不確実性をエージェント的批判へ変換する

Actionable Hallucination Detection: Translating Latent Uncertainty into Agentic Critique

LLMエージェントがユーザー指示に反した幻覚的行動を取る問題に対し、凍結したベースモデルに並行して動作する軽量LoRAアダプタ「Latent Critic」を導入し、潜在空間の不確実性信号を増幅して局所的な自然言語フィードバックに変換することで、リアルタイムで検出・修正を可能にした。

詳しい要約

1. どんなもの？

本論文は、LLMをAIエージェントとして展開する際に生じる、ユーザー指定への接地失敗（hallucination）を検出・修正するための手法を提案している。具体的には、凍結したベースLLMの生成と並行して動作する軽量な低ランクアダプタ（LoRA）であるLatent Criticを導入し、Transformerのresidual streamを能動的に再構成することで、潜在的な接地信号を増幅し、それを単一シーケンス内の局所的な自然言語フィードバックに変換する。これにより、二次的な推論ループのオーバーヘッドなしに、信頼性の高い細粒度の検出を実現する。

2. 先行研究と比べてどこがすごい？

既存の検出手法は、幻覚の局在化ができないか、推論レイテンシが高く実時間での修正に適さないという問題があった。本手法は、ベースモデルのネイティブな不確実性信号を洗練し、潜在空間の操作により、二次的な推論ループなしで信頼性の高い細粒度検出を可能にする点で優れている。また、外部検出器やセマンティックエントロピーベースライン、受動的な内部プローブと比較して、優れた実時間性能を示す。

3. 技術・手法の肝は？

手法の核心は、凍結したベースLLMの生成中に並行して動作する軽量なLoRAアダプタ（Latent Critic）を用いて、Transformerのresidual streamを能動的に再構成することにある。これにより、潜在的な接地信号を増幅し、ベースモデルのネイティブな不確実性信号を、線形分離可能な表現に再構成する。この操作はランク不変であり、活性化パッチングや層ごとのプロービングによるメカニズム解析で検証されている。

4. どうやって有効だと検証した？

ツール呼び出しを細粒度幻覚の具体例として用い、QwenおよびLlamaベースのモデルで検証した。外部検出器、セマンティックエントロピーベースライン、受動的内部プローブと比較し、幻覚の分離において優れた性能を示し、AUROC 0.966、局在化精度80%以上（例：接地されていない日付）を達成した。さらに、閉ループReAct環境で展開し、実行前に幻覚をインターセプトして望ましくないアクションを防止し、局所的なフィードバックを利用した効率的なエージェント自己修正を実現した。

5. 議論はある？

要旨からは、提案手法の限界や潜在的な欠点についての議論は明示されていない。ただし、LoRAアダプタの追加による計算オーバーヘッドや、特定のタスク（ツール呼び出し）への適用に焦点を当てている点が議論の余地があるかもしれない。また、ランク不変性の理論的保証や、他のタイプの幻覚への一般化可能性については要旨からは不明である。

6. 次に読むべき論文は？

要旨で参照されている関連研究として、セマンティックエントロピーベースライン、外部検出器、受動的内部プローブ、ReAct環境、LoRA、活性化パッチング、層ごとのプロービングなどが挙げられる。次に読むべき論文としては、これらの手法の詳細を扱った論文が考えられるが、具体的なタイトルは要旨に記載されていないため、同分野の定番として、幻覚検出に関するサーベイや、LoRAに関する元論文、ReActに関する論文などが挙げられる。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Sanidhya Vijayvargiya, Rahul Lokesh

分類: cs.LG, cs.AI

原文アブストラクト

Large Language Models (LLMs) deployed as AI agents frequently exhibit user specification-grounding failures, executing hallucinated, undesired actions to force a resolution rather than expressing uncertainty. Existing detection methods fail to provide actionable, real-time correction as they either do not localize the hallucinations, or incur prohibitive inference latency. We introduce the Latent Critic, a lightweight low-rank adapter (LoRA) that operates concurrently with a frozen base LLM's generation to actively restructure the transformer's residual stream---amplifying latent grounding signals and translating them into localized, natural language feedback within a single sequence. By refining the base model's native uncertainty signals, this manipulation of the latent space enables reliable, granular detection without the overhead of secondary inference loops. Mechanistic analysis via activation patching and layer-wise probing shows that this rank-invariant behavior restructures pre-existing uncertainty geometry into a linearly separable representation that transfers more reliably than base model representations alone. Using tool-calling as an instantiation of granular hallucinations, we validate the detection and downstream improvements enabled by the Latent Critic architecture across Qwen and Llama-based models. Demonstrating superior real-time efficacy, our approach significantly outperforms equivalent-scale fine-tuned external detectors, semantic entropy baselines, and passive internal probes in isolating hallucinations, achieving 0.966 AUROC and >80% accuracy in localization (e.g., ungrounded: date). When deployed in a closed-loop ReAct environment, the Critic acts as a negligible latency guardrail, intercepting hallucinations before execution to prevent undesired actions while simultaneously leveraging this specific localized feedback to enable efficient agent self-correction.

arXivで原文を読む →arXiv概要ページ