Re Reference AI

技術

汎化性能(般化能力)とは

般化能力 / 汎化能力 / Generalization

学習に使っていない未知のデータに対してモデルが適切に予測できる能力

機械学習評価

概要

汎化性能とは、モデルが学習データだけでなく、学習時に見ていない未知のデータに対しても精度を維持して予測できる能力を指す。 学習データに過度に適合し未知データで性能が落ちる状態を過学習(オーバーフィッティング)、逆に学習データにすら十分適合できない状態を未学習(アンダーフィッティング)と呼び、汎化性能はその中間で最大化される。 正則化・データ拡張・早期終了(early stopping)・ドロップアウトなどは汎化性能を高めるための代表的な手法。 LLMにおいては、学習データにない指示やドメインへどれだけ適応できるかという文脈でも汎化性能が議論される。

関連用語

Few-shotメタ学習カリキュラム学習訓練-評価乖離