モデルのしくみ 初級
文脈長
Context Window
モデルが1回の処理で扱えるトークン数の上限です。入力(指示・会話履歴・資料)と出力の合計がこの範囲に収まる必要があります。
別の呼び方コンテキストウィンドウ、コンテキスト長、コンテキストサイズ
例契約書10本をまとめて比較したかったので、文脈長が100万トークンあるモデルを選んだ。
詳しく
文脈長が長いほど、長い文書やコードベース、長い会話履歴を一度に渡せます。2026年時点の主要なテキストモデルでは数十万〜100万トークン程度のものが多く見られますが、具体的な値はモデルごとに公式ドキュメントで確認が必要です。
注意点:
- 文脈長いっぱいまで入れても、すべての情報を同じ精度で使えるとは限りません。関係の薄い情報が多いと、答えの質が下がることがあります。
- 入力トークンが増えるほど料金と待ち時間も増えます。一定の長さを超えると単価が上がる料金体系のモデルもあります。
- 最大出力トークン数は文脈長とは別に上限が決められています。
あわせて知りたい言葉
- トークンLLM がテキストを処理するときの最小単位です。単語や文字のかけらに相当し、料金・文脈長・出力の上限はトークン数で数えられます。
- コンテキストエンジニアリングモデルに渡す情報全体(指示、会話履歴、検索結果、ツールの定義や結果、記憶など)を、何をどれだけ・どの順で入れるかまで設計することです。とくに長い作業を続けるエージェントで重要になります。
- RAG(検索拡張生成)質問に関係する文書を検索で取り出し、それを LLM に渡してから回答させる仕組みです。モデルが学習していない社内資料や最新情報にもとづいた回答ができます。
- プロンプトキャッシュ繰り返し送る同じ内容のプロンプト(システムプロンプトや長い資料など)の処理結果を一時的に保存し、再利用する仕組みです。料金と応答までの時間を減らせます。