モデルのしくみ 中級

推論モデル

Reasoning Model

答えを出す前に内部で段階的に考える過程(思考)を生成してから回答するモデルや機能のことです。数学・コーディング・複雑な分析など、手順の多い問題で精度が上がりやすくなります。

別の呼び方思考モデル、シンキングモデル、拡張思考、Extended Thinking、Thinking

例集計ロジックのバグ調査は推論モデルに、定型メールの下書きは思考なしの軽量モデルに任せている。

詳しく

推論モデルは、回答の前に問題を分解したり、途中の検算をしたりする「思考トークン」を出力します。各社で「推論」「思考(thinking)」「拡張思考」など呼び方が異なり、1つのモデルで思考の有無や深さを切り替えられるものも増えています。

  • 思考に使ったトークンも通常は出力トークンとして課金されるため、料金と待ち時間が増えます。
  • 思考の量は「effort」や思考予算(トークン数)などの設定で調整できる場合があります。
  • 単純な要約や分類では、思考を使わない方が速く安く済むことが多いです。

なお、ここでの「推論(reasoning)」は、学習済みモデルを動かすこと全般を指す「推論(inference)」とは別の意味です。

あわせて知りたい言葉

「モデルのしくみ」の言葉をすべて見る