Re Reference AI

技術

訓練-評価乖離(Train-Eval Gap)とは

Train-Eval Gap / Train-Test Mismatch

学習時の性能指標と、実運用・評価時の性能とが一致しない現象

評価機械学習

概要

モデルは学習データや検証セットで高い性能を示しても、実運用環境や異なる分布のデータでは性能低下することがある。原因として、ベンチマークデータが事前学習コーパスに混入するデータ汚染(data-contamination)、学習データの分布と実タスクの分布のずれ、ベンチマーク自体が実世界の使用パターンを十分に反映していないことなどが挙げられる。この乖離は、ベンチマークスコアの高さが実際の有用性を保証しない、という評価手法全体への懐疑にもつながっている。

比較

  • データ汚染データ汚染は訓練-評価乖離を見えにくくする主要因の1つ
  • 汎化性能汎化性能の低さは訓練-評価乖離の背景にある現象

関連用語

データ汚染汎化性能過学習LLM-as-a-Judge