凍結ベースモデルに対する安全な誤り訂正：能力を保ちながら修正する軽量モジュール

言語モデルの出力誤りを、base modelを凍結したまま小さな補正モジュールで修正できるかを調べた研究。 - 提案はCRN v2：logit-levelの軽量補正モジュール（約34M trainable parameters、4.65B text moduleの0.73%）。 - 完全に凍結したGemma 4 E2Bの上に載せ、base modelは更新せず補正モジュールのみ学習。 - 学習はsupervised fine-tuning後にreference-free DPOを83,400のerror-correction pairsで実施。 - 60問のdomain exam（CEHRI: Certified Human-Robot Intelligence、facts/arithmetic/implicit-goal reasoning）で評価。 - 設計原理（frozen base + logit correction + KL anchoring）の研究であり、architectural noveltyの主張ではない。

先行研究との比較は要旨内で明示的に述べられていないが、同一条件下のbaselineとの比較が示されている。 - LoRA baseline（CRN v1相当の6.6M params、rank 19）は83.3%のcorrectionを達成するが、同じbenchmarkで30-75%のcapability lossを被る。 - これに対しCRN v2は53.3%のcorrection（reworded variant: 43.3%）で、tested capability benchmarks（MMLU/BoolQ N=200、car-wash N=8）で劣化を示さない。 - つまりcorrection-capability tradeoffを避ける点が相対的な利点。 - ただし絶対的なcorrection率はLoRA baselineより低い。

技術の肝は、凍結base model上でのlogit-level correctionとKL preservationによるcapability保持。 - 補正モジュールCRN v2は約34M trainable parametersで、4.65B text moduleの0.73%。 - base model（Gemma 4 E2B）は完全凍結し、補正モジュールのみを学習。 - 学習手順はsupervised fine-tuningの後、reference-free DPOを83,400のerror-correction pairsで実施。 - KL preservation term（lambda=0.1）が重要で、0.01に下げるとcorrectionが35.0%に劣化。 - 代替構成としてhidden-state injection（earlier layers、1.6M params、SFT-only）やshallower injection（layer 4）、multi-depth logit correction（約35M）、longer training（5,000 S…

60問のdomain exam（CEHRI）とcapability benchmarksで検証。 - CEHRIはfacts、arithmetic、implicit-goal reasoningをカバー。 - CRN v2はbase-model errorsの53.3%を修正（reworded variant: 43.3%）。 - capability benchmarks（MMLU/BoolQ N=200、car-wash N=8）で劣化なし。 - LoRA baseline（6.6M params、rank 19）は83.3%修正だが30-75%のcapability loss。 - ablationでKL preservation term（lambda=0.1）がcriticalと判明、0.01でcorrection 35.0%に低下。 - 代替構成（hidden-state injection 1.6M params SFT-only: 50.0%/55.8%、shallower injection layer 4: 30.0%/28.3%、multi-depth logit…

要旨で議論されている点は以下の通り。 - correction-capability tradeoffの存在：LoRA baselineは高いcorrection率と引き換えにcapability lossが大きい。 - KL preservation termの重要性：lambda=0.1がcriticalで、0.01ではcorrectionが35.0%に低下。 - 代替構成の限界：hidden-state injection、shallower injection、multi-depth logit correction、longer trainingのいずれもrank-128 logit結果を超えず、~53%がbest-achieved result（floorではない）と解釈。 - 本研究はdesign principleの研究であり、architectural noveltyの主張ではないと明記。 - 限界や未解決点の詳細は要旨からは不明。

要旨で参照・比較されている研究や関連手法を挙げる。 - LoRA baseline（rank 19、6.6M params）との比較。 - CRN v1（matched budgetとして言及）。 - reference-free DPO。 - KL preservation term（lambda=0.1）を用いたKL anchoring。 - hidden-state injection variant（earlier layers、1.6M params、SFT-only）。 - multi-depth logit correction（約35M）。 - 同分野の定番として、frozen language modelへのparameter-efficient fine-tuning（PEFT）やlogit-level correctionに関する研究も次に読む候補。 - ただし要旨に具体的な論文名・著者名の記載はないため、これらは手法名・概念名としての参照。