基本 初級
大規模言語モデル
LLM (Large Language Model)
大量のテキストで学習し、文章の続きを予測することで文章の生成・要約・翻訳・質問応答などをこなすモデルです。ChatGPT、Claude、Gemini などのサービスの中核にあります。
別の呼び方LLM、言語モデル
例問い合わせメールの分類と返信の下書きに LLM を使い、担当者が確認してから送信している。
詳しく
LLM は入力をトークンという単位に分け、次に来るトークンの確率を計算して1つずつ出力します。この単純な仕組みを大規模なデータとパラメータで学習させることで、幅広い言語タスクをこなせるようになりました。
現在の多くの LLM は、事前学習のあと、指示に従うための追加学習（インストラクションチューニングや RLHF など）を経て提供されています。画像や音声も扱えるものはマルチモーダルモデルと呼ばれます。
能力の目安になるのは、文脈長・推論の強さ・ツール呼び出しへの対応・料金などで、用途に応じて使い分けます。
あわせて知りたい言葉
- トークンLLM がテキストを処理するときの最小単位です。単語や文字のかけらに相当し、料金・文脈長・出力の上限はトークン数で数えられます。
- Transformer2017年の論文「Attention Is All You Need」で提案されたニューラルネットワークの構造です。現在の LLM の大半がこの構造を土台にしています。
- 基盤モデル大量の汎用データで事前学習され、さまざまな用途に転用できる大きなモデルのことです。LLM や画像生成モデルの多くがこれにあたります。
- 文脈長モデルが1回の処理で扱えるトークン数の上限です。入力（指示・会話履歴・資料）と出力の合計がこの範囲に収まる必要があります。
- パラメータモデル内部で学習によって調整される数値（重み）のことです。数が多いほど多くの知識やパターンを表現できる傾向がありますが、計算コストも大きくなります。