コード生成2026/8/3arXiv:2608.02712

再生成せずデバッグせよ：ニアミスハードウェア演算子を修復するドメイン特化エージェント

Don't Regenerate, Debug: A Domain-Specific Agent for Repairing Near-Miss Hardware Operators

ハードウェアアクセラレータ向けカーネル生成において、失敗した候補を捨てずにデバッグして再利用するドメイン特化エージェントを提案し、再生成よりも高い成功率と低コストを実証した。

詳しい要約

1. どんなもの？

本論文は、ハードウェアアクセラレータ（GPUやNPU）向けのカーネル生成において、LLMを用いたパイプラインが生成する多数の候補のうち、コンパイルと実行は成功するが数値検証に失敗する「near-miss operators」を破棄せず、専用のデバッグエージェントを用いて自動修復する手法を提案する。従来の「再生成」パラダイムに対し、「デバッグ」パラダイムを提唱し、ドメイン固有の知識を活用して修復の効率と成功率を向上させる。

2. 先行研究と比べてどこがすごい？

従来のLLMベースのカーネル生成システムは、生成・コンパイル・実行を繰り返し、失敗した候補を破棄していた。これに対し、本手法は失敗した候補を再利用し、デバッグというより制約された問題設定（探索空間が小さく、フィードバックが密）を利用する点が革新的である。また、知識不足を緩和するための検索パターンと診断計装、整合性を保証するアンチチート検出と全カバレッジ評価、コスト制御のための収束ガードと反復回数制限という3つの課題に対処する点が新しい。

3. 技術・手法の肝は？

手法の核は、ドメイン固有のデバッグエージェントであり、以下の3つの要素からなる。(1) 知識不足の緩和：過去の修復パターンを検索し、診断用の計装を挿入することで、エラーの原因を特定しやすくする。(2) 整合性の確保：アンチチート検出（不正な修正を防ぐ）と全カバレッジ評価（テストケース全体での検証）により、修復の質を保証する。(3) コスト制御：収束ガード（改善が見られない場合の早期停止）と反復回数の上限を設定し、トークン消費を抑える。

4. どうやって有効だと検証した？

実験では、Debug Pass@1が66.7%を達成し、Regenerate Avg Pass@1の25.9%やRegenerate Pass@3の40.7%を上回った。また、成功あたりのトークン消費は3回の再生成と比較して92.8%削減された。さらに、コンポーネントのアブレーション研究により、知識ベースが修復の主要因であること、整合性ゲートがワークフロー自身が受け入れた成功の12.5〜33.3%を拒否することが示された。

5. 議論はある？

要旨からは、提案手法の限界や一般化可能性に関する議論は明示されていない。ただし、デバッグエージェントの有効性はドメイン固有の知識ベースに依存するため、他のドメインへの適用には知識ベースの構築が必要となる可能性が示唆される。また、アンチチート検出が成功の一部を拒否する点は、過剰拒否のリスクがあるが、整合性を優先する設計と解釈できる。

6. 次に読むべき論文は？

要旨で参照されている関連研究として、LLMとエージェント強化学習および進化的探索を組み合わせたカーネル生成システムが挙げられる。具体的な論文名は不明だが、同分野の定番として、LLMを用いたコード生成のための強化学習（RL）や進化的アルゴリズムに関する研究が考えられる。また、ハードウェアカーネル生成の分野では、TVMやHalideなどの自動チューニング手法も関連する。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Yansong Sun, Shenxiu Wu, Siyuan Chen, Runlin Hou, Junhao Qiu, Junming Cao, Shudi Shao, Zhichao Lu, Qingfu Zhang

分類: cs.SE, cs.AI

原文アブストラクト

Kernel generation for hardware accelerators such as GPUs and NPUs has become a proving ground for large language models (LLMs), and state-of-the-art systems raise correctness through pipelines that couple LLMs with agentic reinforcement learning and evolutionary search. Such pipelines generate, compile, and execute large numbers of candidate kernels, discarding most of them and forgoing the opportunity to distill failures into reusable knowledge. Many discarded candidates are near-miss operators that compile and run but fail numerical validation; each embodies genuine domain knowledge and a nontrivial investment in LLM inference, cross-compilation, and hardware execution. We argue for a paradigm shift: rather than regenerate, debug. Debugging is far more constrained than generating from scratch: the search space is small and feedback is dense. We present a domain-specific debug agent that addresses three core challenges in autonomous repair: mitigating knowledge scarcity through retrieved patterns and diagnostic instrumentation, ensuring integrity through anti-cheat detection and full-coverage evaluation, and controlling cost via convergence guards and bounded iteration. Debugging serves two complementary roles: it extends the capability frontier by recovering operators that repeated regeneration fails to produce, and it lowers cost per deliverable operator. Debug Pass@1 achieves 66.7% versus Regenerate Avg Pass@1's 25.9% and Regenerate Pass@3's 40.7%, while consuming 92.8% fewer tokens per success than three-trial regeneration. Component ablations show that the knowledge base drives recovery, while integrity gates reject 12.5-33.3% of the successes the workflow itself accepted.

arXivで原文を読む →arXiv概要ページ

← 論文一覧