特徴量空間(特徴空間)とは
特徴空間 / Feature Space
データを特徴量の組(ベクトル)として表したときに、各データ点が配置される多次元空間
最終更新:
概要
特徴量空間(Feature Space)とは、データを複数の特徴量(身長・体重、画素値、単語の出現頻度など)の組として表現したときに、各特徴量を1つの軸とみなして構成される多次元のベクトル空間。個々のデータは、この空間上の1点(特徴ベクトル)として表される。 機械学習の多くの手法は、特徴量空間上での点どうしの距離や位置関係を利用する。たとえば分類では空間を分割する決定境界を学習し、クラスタリングでは近くに集まる点をまとめ、類似検索ではコサイン類似度などでベクトル間の近さを測る。 深層学習では、ニューラルネットワークの隠れ層が入力を別の特徴量空間へ写像していると捉えられる。学習によって意味的に近いデータが近くに配置されるよう構成された空間は、埋め込み空間や潜在空間とも呼ばれる。 また、SVMのカーネル法のように、元の空間では線形分離できないデータを高次元の特徴量空間へ写像して分離可能にする考え方もある。一方で、次元が増えるほどデータが疎になり距離の差が小さくなる「次元の呪い」が生じるため、特徴選択や次元削減で空間を扱いやすくする工夫も行われる。