Re Reference AI

埋め込み

埋め込みに関連する用語(8件)

埋め込み(Embedding)は、テキストや画像を意味を保持した数値ベクトルに変換する技術です。ベクトル検索・RAG・クラスタリングなど、意味的な類似度計算を必要とする応用の基盤です。

用語一覧

埋め込みモデル

Embedding Model

テキストや画像などを埋め込みベクトルへ変換する専用のニューラルネットワークモデル

モデル埋め込みRAG

Word2Vec

単語の周辺文脈から、意味的な類似性を反映した低次元の分散表現(単語埋め込み)を学習する手法

技術埋め込み自然言語処理

コサイン類似度

Cosine Similarity

2つのベクトルがなす角度の近さから、意味的な類似度を測る指標

技術埋め込みベクトル検索

Cohere

Command R

カナダのCohereが開発する、企業向けRAG・検索用途に強みを持つLLM・埋め込みモデルファミリー

モデルLLM埋め込み

CLIP

Contrastive Language-Image Pre-training

画像とテキストを同じ埋め込み空間へ対応づけ、両者の意味的な近さを比較できるようにするOpenAIのマルチモーダルモデル

モデルマルチモーダル埋め込み

対照学習

Contrastive Learning / コントラスティブ学習

似たデータの表現を近づけ、異なるデータの表現を遠ざけるように埋め込みを学習する方式

技術学習埋め込み

MTEB

Massive Text Embedding Benchmark

分類・クラスタリング・検索等の複数タスク・100以上の言語にわたり、テキスト埋め込みモデルの性能を横断的に評価するベンチマーク

評価ベンチマーク埋め込み

Sentence-BERT

SBERT

シャム(Siamese)ネットワーク構造でBERTを微調整し、コサイン類似度で比較可能な文単位の埋め込みを高速に得られるモデル

モデルNLP埋め込み