モデルのしくみ 中級
埋め込み
Embedding
文章や画像などを、意味の近さが距離として表れる数値の並び(ベクトル)に変換したものです。意味の近い文書を探す検索や分類に使われます。
別の呼び方エンベディング、ベクトル表現、埋め込みベクトル
例FAQ を埋め込みに変換しておき、問い合わせ文に意味が近い回答候補を3件表示している。
詳しく
- 埋め込み専用のモデル(埋め込みモデル)に文章を入力すると、数百〜数千次元のベクトルが返ってきます。
- 2つのベクトルの近さ(コサイン類似度など)を計算すると、言葉が違っても意味が近い文書を見つけられます。キーワードが一致しないと見つからない従来の全文検索との違いです。
- RAG では、文書をあらかじめ埋め込みに変換してベクトルデータベースに保存し、質問に近い文書を取り出して LLM に渡します。
- 埋め込みモデルを変えると、保存済みのベクトルは作り直す必要があります。