準教師あり学習（半教師あり学習）とは
Semi-Supervised Learning / 半教師あり学習
少量のラベル付きデータと大量のラベルなしデータを組み合わせて学習する機械学習の枠組み
ひとことで言うと
少しだけある正解付きデータと、大量の正解なしデータを組み合わせて、ラベル付けの手間を抑えつつ賢く学ばせる方法。
概要
準教師あり学習(Semi-Supervised Learning)とは、少量のラベル付きデータと大量のラベルなしデータを組み合わせて学習する機械学習の枠組みを指す。 教師あり学習が正解ラベル付きデータのみを用い、教師なし学習がラベルなしデータのみを扱うのに対し、準教師あり学習はその中間に位置し、ラベル付けのコストを抑えつつラベルなしデータが持つデータ分布の構造を活用して性能向上を図る。 モデル自身の予測をラベルなしデータの疑似ラベルとして学習に用いる自己学習(self-training)や、入力に加えるノイズやデータ拡張の違いによらず同じ予測を出すよう促す一貫性正則化などの手法が代表的。 ラベル付きデータの収集が高コストな医療画像診断や、大量の未ラベルテキストが存在する自然言語処理などで活用される。
歴史
ラベルなしデータを学習に活用する考え方自体は1960年代から研究されてきた。近年では、2020年にGoogleの研究者ら(Sohnら)が一貫性正則化に基づく手法FixMatchを発表し、性能向上を牽引した。