Re Reference AI

技術

教師あり学習とは

Supervised Learning

入力データと正解ラベルの対応関係を学習し、未知データのラベルを予測する機械学習の基本的な枠組み

機械学習学習

最終更新:

ひとことで言うと

問題と正解のペアをたくさん見せて、新しい問題にも正しい答えを出せるように学ばせる方法。

概要

教師あり学習とは、入力とそれに対応する正解ラベル(教師信号)のペアからなるデータセットを用いて、入力から出力を予測する関数を学習する機械学習の枠組みを指す。 モデルは訓練データに対する予測と正解ラベルとの誤差(損失)を最小化するようにパラメータを更新し、未知の入力に対しても妥当な出力を予測できるよう汎化することを目指す。 出力が連続値か離散値かによって回帰と分類に大別され、線形回帰・決定木・ニューラルネットワークなど多様な手法がこの枠組みで用いられる。 画像分類やスパム判定、需要予測など、正解データを用意しやすいタスクで広く使われる代表的な学習パラダイム。

歴史

教師あり学習という枠組み自体は特定の1本の論文に起源を持つものではなく、パーセプトロン(1958年、Rosenblatt)をはじめとする初期の機械学習アルゴリズムの時代から、入力と正解の対を用いてパラメータを調整する学習方法として存在してきた。

ワークフロー

入力と正解ラベルの対からなる訓練データを用意する → モデルが入力から出力を予測する → 予測と正解ラベルの誤差を損失関数で計算する → 誤差を小さくする方向へモデルのパラメータを更新する → 検証データで汎化性能を確認しながら反復する。

利点

  • 正解ラベルという明確な学習目標があるため、モデルの評価や改善の指針を立てやすい
  • 回帰・分類など多様なタスクに適用でき、手法や実装例が豊富に蓄積されている
  • 損失関数を通じて最適化すべき目的を数式として明確に定義できる

欠点

  • 大量の正解ラベル付きデータを人手で用意するコストが高い
  • 訓練データの分布に偏りがあると、未知データへの汎化性能が低下する
  • ラベル付けが難しい、または唯一の正解が存在しないタスクには適用しにくい

比較

  • 強化学習 — 教師あり学習が入力と正解ラベルの対から直接学習するのに対し、強化学習は報酬という間接的な信号をもとに試行錯誤で方策を学習する
  • 自己教師あり学習 — 教師あり学習が人手で付与した正解ラベルを用いるのに対し、自己教師あり学習はデータ自体から擬似的な正解ラベルを生成して学習する
  • 準教師あり学習 — 教師あり学習が全データに正解ラベルを必要とするのに対し、準教師あり学習は少量のラベル付きデータと大量のラベルなしデータを組み合わせて学習する

関連する用語

準教師あり学習機械学習深層学習勾配ブースティング強化学習自己教師あり学習カリキュラム学習マルチタスク学習メタ学習連続学習決定木損失関数

よくある質問

教師あり学習と教師なし学習の違いは?

教師あり学習は入力と正解ラベルの対から学習するのに対し、教師なし学習は正解ラベルのないデータからクラスタリングや次元削減などパターンを見出す。

関連する比較

教師あり学習 vs 強化学習

教師あり学習は入力と正解ラベルのペアから入力と出力の対応関係を学習する枠組み、強化学習はエージェントが環境との試行錯誤を通じて、長期的な報酬の合計を最大化する方策を学習する枠組み。教師あり学習は「正解」が直接与えられるのに対し、強化学習は行動の良し悪しが報酬という間接的な信号としてのみ伝えられる。LLMの開発では、事前学習後の指示チューニングに教師あり学習、RLHFなどのアライメントに強化学習が使われる。

教師あり学習強化学習