Abliteration（アブリテレーション）とは
アブリテレーション
LLM内部で応答拒否を担う方向を特定し、重みからその成分を取り除くことで拒否行動を無効化する手法
最終更新:
ひとことで言うと
AIの頭の中にある「断る」働きの部分を見つけて、そこだけを消してしまう改造方法。
概要
Abliterationとは、LLMが有害な依頼を断る応答拒否(refusal)の振る舞いを、追加学習なしで取り除く手法。ablate(除去する)とobliterate(消し去る)を合わせた造語。 有害な指示と無害な指示をそれぞれ多数モデルに入力し、残差ストリーム上の活性化の平均の差を取ると、応答拒否に対応する1本の方向ベクトル(refusal direction)が得られる。推論時に各層の活性化からこの方向の成分を射影で取り除く方法と、同じ操作を重み行列に対して行い(重みの直交化)、改変済みのモデルとして保存する方法がある。 学習データやGPUによるファインチューニングを必要とせず、比較的少ない計算量で適用できるため、オープンウェイトモデルからアンセンサードモデルを作る手段として広まった。一方で、応答拒否以外の能力がわずかに低下する場合があり、性能を回復させるためにDPOなどで追加学習を行う例もある。 安全性のための制約をモデルから外す手法であり、悪用のリスクを伴う。
歴史
2024年に発表された論文「Refusal in Language Models Is Mediated by a Single Direction」(Arditiら)が、応答拒否が単一の方向で表現されることと、その方向の除去で拒否を無効化できることを示し、この手法の基礎となった。同年6月、Maxime LabonneがHugging Faceのブログ記事で手順を解説し、広く知られるようになった。