データ汚染とは
Data Contamination / ベンチマーク汚染 / データコンタミネーション
評価用ベンチマークの問題や解答が学習データへ混入し、評価スコアが実力以上に高く出てしまう問題
ひとことで言うと
AIが「試験問題と答えを事前に見てしまっていた」状態。テストの点数が本当の実力より高く出てしまい、評価が信用できなくなる問題。
概要
データ汚染とは、評価用ベンチマークの問題や解答がモデルの学習データへ混入し、評価スコアが実力以上に高く出てしまう問題を指す。 LLMはWeb全体から収集したデータで学習するため、公開されているベンチマークは学習データへ紛れ込みやすく、スコアが能力の測定ではなく記憶の再生を反映してしまう。 対策として、公開後の新しい問題での評価（新年度のAIMEなど）、非公開テストセットの維持、汚染検出手法の研究、実施のたびに問題を差し替える動的ベンチマークなどが使われている。 ベンチマークスコアの比較を信頼するうえで前提となる、評価の信頼性の中核的な課題になる。
比較
- データポイズニング — データポイズニングが攻撃者による学習データへの意図的な混入を指すのに対し、データ汚染は主にベンチマークの問題が意図せず学習データへ混入する評価上の問題を指す