Re Reference AI

PEFT

PEFTに関連する用語(2件)

PEFT(Parameter-Efficient Fine-Tuning)は、モデルの一部のパラメータのみを更新する効率的なファインチューニング手法の総称です。LoRAなどが代表例で、少ない計算資源でモデルをカスタマイズできます。

用語一覧

LoRA

Low-Rank Adaptation

低ランク行列の追加学習により、事前学習済みモデルを効率的にファインチューニングする手法

技術ファインチューニングPEFT

PEFT

Parameter-Efficient Fine-Tuning / パラメータ効率的ファインチューニング

モデルの大部分を凍結し、少数のパラメータだけを学習してファインチューニングする手法の総称

技術ファインチューニングPEFT