SimCLRとは
Simple Framework for Contrastive Learning of Visual Representations
データ拡張と対照学習によって画像の表現をラベルなしで学習する自己教師あり学習フレームワーク
概要
SimCLR(Simple Framework for Contrastive Learning of Visual Representations)は、Google Researchが発表した、ラベルなし画像から表現学習を行う自己教師あり学習フレームワーク。 同じ画像に異なるデータ拡張(クロップ・色調変換など)を2通り適用した2枚を「正例ペア」、それ以外の画像を「負例」として扱い、正例ペアの埋め込みが近く、負例とは遠くなるよう対照学習(contrastive learning)で表現を学習する。 大きなバッチサイズと強力なデータ拡張の組み合わせが性能に大きく寄与することを示し、以降の自己教師あり画像表現学習の設計に影響を与えた。 学習した表現は少量のラベル付きデータでの線形評価やファインチューニングを通じて、下流の分類タスクに転用される。