重み付き拒否方向最適化：プロンプト別拒否方向の学習的統合によるアラインメント強化

- アラインメント済み大規模言語モデル（LLM）の refusal 挙動を操作する手法の研究。 - refusal は residual-stream 上の単一方向で媒介されることが多いが、標準的な difference-of-means では異種の harmful prompt を一様平均してしまう問題を指摘。 - prompt ごとの refusal direction を学習した重みで合成する Weighted Refusal Direction Optimization（WRDO）を提案。 - 介入の強化と、abliterated model における refusal 回復の両方向を扱う。

- 先行研究では refusal が単一の residual-stream direction（harmful と harmless の difference-of-means 等）で媒介されるとされてきた。 - しかし単一方向は異種の harmful prompt を一様に平均し、異なる refusal 現象を混同しうる。 - WRDO は prompt ごとの方向バンクから学習した集約重みで合成方向を作り、各 prompt の寄与を不均等にできる点が新しい。 - 単一方向手法と比較して、より効果的かつ柔軟な refusal 表現操作を可能にすると主張。

- prompt ごとの refusal direction を集めた bank を構築。 - その bank から composite refusal direction を学習済み aggregation weights で合成。 - 重み学習により、異なる harmful prompt が最終介入方向へ不均等に寄与できる。 - 同じ最適化機構を逆方向に用い、abliterated model checkpoint で refusal 挙動を回復する防御的設定も検討。

- 3つの open-weight language model で、先行の単一方向手法と WRDO を比較。 - 3つの guard judges と外部評価器 HarmBench を用いて評価。 - 標準的な utility benchmarks で、介入が一般モデル能力へ与える影響も測定。 - abliterated model checkpoint で refusal を回復する防御的設定も調査。

- 重み付き集約が refusal 表現操作のより効果的で柔軟な機構になることを結果は示す。 - 一方、要旨からは具体的な限界・失敗事例・計算コスト・重みの解釈性についての議論は不明。 - 単一方向仮説の妥当性や、prompt 間の異質性をどこまで分離できるかは要旨からは不明。

- 要旨で直接参照されている prior single-direction methods（difference-of-means に基づく refusal direction 介入）をまず読む。 - 評価に用いられた HarmBench および abliterated model 関連の研究。 - 関連手法として activation-space intervention や weight-space intervention の文献。 - 同分野の定番として refusal direction / representation engineering に関する研究。