Re Reference AI

アーキテクチャ

オートエンコーダとは

Autoencoder / 自己符号化器

入力データを一度圧縮してから復元するよう学習させることで、データの特徴表現を教師なしで獲得するニューラルネットワーク

ニューラルネットワーク機械学習

ひとことで言うと

データを一度圧縮してから元に戻す練習をすることで、データの特徴を学ぶAIモデル。

概要

オートエンコーダとは、入力データを低次元の内部表現(潜在表現)へ圧縮するEncoderと、その内部表現から元の入力をできるだけ忠実に復元するDecoderからなるニューラルネットワーク。 正解ラベルを必要とせず、入力データそのものを再構成できるよう学習するため、教師なし学習の代表的な手法の1つとして扱われる。 圧縮された内部表現は、データの本質的な特徴を捉えた次元削減や異常検知(正常データではうまく復元できるが、異常データでは復元誤差が大きくなる性質を利用)などに応用される。

背景

ラベル付きデータを大量に用意することが難しい場面でも、データそのものから有用な特徴表現を獲得したいという要求があった。 オートエンコーダは、入力を圧縮して復元するという自己教師的なタスクを通じ、ラベルなしにデータの特徴表現を学習する手法として考案された。

利点

  • 正解ラベルを必要とせず、入力データそのものから特徴表現を学習できる
  • 圧縮された内部表現を次元削減や異常検知に応用できる

欠点

  • 単純に入力の復元を学習するだけでは、意味のある特徴表現を獲得できるとは限らず、正則化等の工夫を要することがある
  • 生成タスクに用いる場合、GAN拡散モデルと比べて生成結果が不明瞭(ぼやけた出力)になりやすいとされる

関連用語

ニューラルネットワークEmbeddingVAE

関連Zenn記事