アンサンブル学習とは
Ensemble Learning
複数の予測モデルの出力を組み合わせることで、単体のモデルより高い予測性能を実現する機械学習の手法群
ひとことで言うと
複数のAIモデルの答えを組み合わせて、より精度の高い答えを出す手法。
概要
アンサンブル学習とは、複数の予測モデル(弱学習器)を組み合わせ、それぞれの予測結果を統合することで、単体のモデルよりも高い予測性能や安定性を実現する機械学習の手法群を指す。 学習データや特徴量をランダムに変えた複数のモデルを並列に学習させ多数決・平均で統合するバギング(ランダムフォレストが代表例)と、モデルを1つずつ順番に学習させ直前までの誤りを補正していくブースティング(勾配ブースティングが代表例)は、代表的な2つのアプローチとして知られる。 個々のモデルの誤りが互いに独立しやすいほど、組み合わせた際の性能向上効果が大きくなるとされる。
背景
単体のモデルは、学習データの偏りやモデル自体の限界によって特定の誤りを起こしやすいという課題があった。 アンサンブル学習は、性質の異なる複数のモデルを組み合わせて誤りを打ち消し合わせ、より安定した予測を得るために発展してきた。
利点
- 単体のモデルと比べて過学習しにくく、汎化性能が向上しやすい
- バギング・ブースティング等、目的に応じて多様な組み合わせ方を選択できる
欠点
- 複数のモデルを学習・保持する必要があり、単体のモデルと比べて学習・推論のコストが増加する
- 個々のモデルの判断根拠は追えても、組み合わせ全体としての説明性は低下しやすい