埋め込み
埋め込みに関連する用語(10件)
埋め込み(Embedding)は、テキストや画像を意味を保持した数値ベクトルに変換する技術です。ベクトル検索・RAG・クラスタリングなど、意味的な類似度計算を必要とする応用の基盤です。
用語一覧
埋め込みモデル
Embedding Model
テキストや画像などを埋め込みベクトルへ変換する専用のニューラルネットワークモデル
Word2Vec
単語の周辺文脈から、意味的な類似性を反映した低次元の分散表現(単語埋め込み)を学習する手法
コサイン類似度
Cosine Similarity
2つのベクトルがなす角度の近さから、意味的な類似度を測る指標
Cohere
Command R
カナダのCohereが開発する、企業向けRAG・検索用途に強みを持つLLM・埋め込みモデルファミリー
CLIP
Contrastive Language-Image Pre-training
画像とテキストを同じ埋め込み空間へ対応づけ、両者の意味的な近さを比較できるようにするOpenAIのマルチモーダルモデル
対照学習
Contrastive Learning / コントラスティブ学習 / 対比学習
似たデータの表現を近づけ、異なるデータの表現を遠ざけるように埋め込みを学習する方式
MTEB
Massive Text Embedding Benchmark
分類・クラスタリング・検索等の複数タスク・100以上の言語にわたり、テキスト埋め込みモデルの性能を横断的に評価するベンチマーク
Sentence-BERT
SBERT
シャム(Siamese)ネットワーク構造でBERTを微調整し、コサイン類似度で比較可能な文単位の埋め込みを高速に得られるモデル
負例サンプリング
Negative Sampling
全ての負例ではなく一部を無作為抽出して学習コストを抑える手法
密ベクトル
Dense Vector / Dense Embedding
ほとんどの次元が0以外の値を持ち、意味的な特徴を圧縮して表現する低〜中次元の実数値ベクトル