モデルのしくみ 中級
温度(temperature)
Temperature
LLM が次のトークンを選ぶときのばらつきを調整する設定値です。低くすると毎回似た無難な出力に、高くすると多様で意外性のある出力になります。
別の呼び方temperature、サンプリング温度、top_p
例商品説明のキャッチコピー案は温度を上げて10案出し、仕様表の抽出は温度を下げて実行している。
詳しく
- 抽出・分類・コード生成など正確さが大事な作業では低め、アイデア出しやコピー案づくりでは高めにするのが一般的です。
- 似た役割の設定に top_p(確率の高い候補から一定の割合までに絞る)があります。
- 温度を 0 にしても、出力が完全に同じになるとは限りません。
- 推論モデルなど一部のモデルでは、温度を変更できない、または推奨値が決められていることがあります。