アンセンサードモデル（無検閲モデル）とは
Uncensored model / 無検閲モデル
安全性のための応答拒否や出力制限を取り除いたLLM
最終更新:
ひとことで言うと
ふつうのAIが断るような質問にも答えるように、断る仕組みを外して作り直したAIモデル。
概要
アンセンサードモデル(Uncensored model)とは、LLMに組み込まれた有害な依頼への応答拒否や出力の制限を、追加の学習やモデルの改変によって取り除いたモデルのこと。主にオープンウェイトモデルを元に、個人や開発者コミュニティが作成・公開している。 作り方には大きく2つある。1つは、指示チューニング用のデータセットから応答拒否や道徳的な注意書きを含む例を除き、そのデータでファインチューニングする方法。もう1つは、モデル内部で応答拒否を担う方向(refusal direction)を特定し、重みからその成分を取り除く方法で、abliterationと呼ばれる。 創作や研究、レッドチーミングなどで、元のモデルが過剰に応答を拒否する問題を避ける目的で使われる。一方で、危険な情報の生成など悪用のリスクがあり、利用する側でガードレールを設ける責任を負う。改変版の利用には、元のモデルのライセンスや利用規約も適用される。
歴史
2023年5月、Eric Hartfordがブログ記事「Uncensored Models」で、応答拒否を含む学習例を除いたデータセットでファインチューニングする手法と、その手法で作成したモデルを公開した。