モデルのしくみ 中級

埋め込み

Embedding

文章や画像などを、意味の近さが距離として表れる数値の並び(ベクトル)に変換したものです。意味の近い文書を探す検索や分類に使われます。

別の呼び方エンベディング、ベクトル表現、埋め込みベクトル

例FAQ を埋め込みに変換しておき、問い合わせ文に意味が近い回答候補を3件表示している。

詳しく

  • 埋め込み専用のモデル(埋め込みモデル)に文章を入力すると、数百〜数千次元のベクトルが返ってきます。
  • 2つのベクトルの近さ(コサイン類似度など)を計算すると、言葉が違っても意味が近い文書を見つけられます。キーワードが一致しないと見つからない従来の全文検索との違いです。
  • RAG では、文書をあらかじめ埋め込みに変換してベクトルデータベースに保存し、質問に近い文書を取り出して LLM に渡します。
  • 埋め込みモデルを変えると、保存済みのベクトルは作り直す必要があります。

あわせて知りたい言葉

「モデルのしくみ」の言葉をすべて見る