Re Reference AI

技術

特徴量空間(特徴空間)とは

特徴空間 / Feature Space

データを特徴量の組(ベクトル)として表したときに、各データ点が配置される多次元空間

機械学習埋め込み

最終更新:

概要

特徴量空間(Feature Space)とは、データを複数の特徴量(身長・体重、画素値、単語の出現頻度など)の組として表現したときに、各特徴量を1つの軸とみなして構成される多次元のベクトル空間。個々のデータは、この空間上の1点(特徴ベクトル)として表される。 機械学習の多くの手法は、特徴量空間上での点どうしの距離や位置関係を利用する。たとえば分類では空間を分割する決定境界を学習し、クラスタリングでは近くに集まる点をまとめ、類似検索ではコサイン類似度などでベクトル間の近さを測る。 深層学習では、ニューラルネットワークの隠れ層が入力を別の特徴量空間へ写像していると捉えられる。学習によって意味的に近いデータが近くに配置されるよう構成された空間は、埋め込み空間や潜在空間とも呼ばれる。 また、SVMのカーネル法のように、元の空間では線形分離できないデータを高次元の特徴量空間へ写像して分離可能にする考え方もある。一方で、次元が増えるほどデータが疎になり距離の差が小さくなる「次元の呪い」が生じるため、特徴選択や次元削減で空間を扱いやすくする工夫も行われる。

比較

  • Embedding — 埋め込みは、データを学習済みの特徴量空間上のベクトルとして表現したもの
  • 密ベクトル — 密ベクトルは特徴量空間上の点を表す表現形式の1つ

関連する用語

機械学習SVMコサイン類似度密ベクトル深層学習Embeddingクラスタリングニューラルネットワーク隠れ層転移学習決定木ランダムフォレスト