使い方・開発 上級
コンテキストエンジニアリング
Context Engineering
モデルに渡す情報全体(指示、会話履歴、検索結果、ツールの定義や結果、記憶など)を、何をどれだけ・どの順で入れるかまで設計することです。とくに長い作業を続けるエージェントで重要になります。
別の呼び方コンテキスト設計
例長時間動くエージェントで回答の質が落ちてきたため、古いツール結果を要約して捨てるようにコンテキストを設計し直した。
詳しく
プロンプトの書き方(プロンプトエンジニアリング)が1回分の指示の工夫だとすると、コンテキストエンジニアリングは、限られた文脈の中に常に必要な情報だけが入っている状態を保つための設計です。
- 必要な資料は全部入れるのではなく、検索やツールで必要なときに取りに行かせる
- 長くなった会話履歴を要約・整理して圧縮する
- 作業の途中経過をファイルなどの外部メモに書き出し、あとで読み返させる
- 詳しい作業はサブエージェントに任せ、結果だけを受け取る
- ツールの数や説明を絞り、似たツールで迷わせない
文脈長が長くなっても、関係の薄い情報が多いと答えの質は下がるため、量より選び方が重要です。
あわせて知りたい言葉
- 文脈長モデルが1回の処理で扱えるトークン数の上限です。入力(指示・会話履歴・資料)と出力の合計がこの範囲に収まる必要があります。
- プロンプトAIに与える指示や入力の文章のことです。何をしてほしいか、前提条件、出力の形式などを書きます。
- RAG(検索拡張生成)質問に関係する文書を検索で取り出し、それを LLM に渡してから回答させる仕組みです。モデルが学習していない社内資料や最新情報にもとづいた回答ができます。
- サブエージェントメインのエージェントから一部の作業を任される、別のエージェントのことです。独立した文脈で作業し、結果だけをメインに返します。
- スキルAI エージェントに特定の作業のやり方を教えるための、指示書と補助ファイルをまとめたフォルダです。必要な場面でだけ読み込まれるため、多くの専門知識を持たせても文脈を圧迫しにくい仕組みです。