PEFTとは
Parameter-Efficient Fine-Tuning / パラメータ効率的ファインチューニング
モデルの大部分を凍結し、少数のパラメータだけを学習してファインチューニングする手法の総称
ひとことで言うと
巨大なAIモデルの全体を作り直すのではなく、ごく一部の部品だけを差し替えて調整する省エネなカスタマイズ方法のまとめ言葉。
概要
PEFT（Parameter-Efficient Fine-Tuning）とは、モデルの大部分の重みを凍結し、少数の追加・選択パラメータだけを学習してファインチューニングする手法の総称を指す。 全パラメータを更新するフルファインチューニングは、大規模モデルでは膨大なGPUメモリを要する。そこで、低ランク行列を挿入するLoRAや小さな中間層を挟むアダプターなど、更新対象を絞る手法が発展した。 少ない計算資源で実用的な適応性能を得られ、タスクごとの差分を小さなファイルとして管理できるため、LLMのファインチューニングの標準的な選択肢になっている。
歴史
アダプターによる手法は2019年のHoulsbyらの研究が知られ、2021年のLoRAの発表以降に広く普及した。Hugging Faceが2023年に公開した同名のライブラリも定着に寄与した。
比較
- LoRA — LoRAはPEFTの代表的な一手法で、PEFTはLoRAのほかアダプターやプロンプトチューニングなどを含む総称
- ファインチューニング — フルファインチューニングが全パラメータを更新するのに対し、PEFTは少数のパラメータだけを更新して計算資源を節約する
関連用語
参考文献
- GitHubhuggingface/peft