#料金

料金・コストに関するもの

タグの種類:話題 タグの一覧

モデル6

AI用語6

  • トークンTokenLLM がテキストを処理するときの最小単位です。単語や文字のかけらに相当し、料金・文脈長・出力の上限はトークン数で数えられます。
  • プロンプトキャッシュPrompt Caching繰り返し送る同じ内容のプロンプト(システムプロンプトや長い資料など)の処理結果を一時的に保存し、再利用する仕組みです。料金と応答までの時間を減らせます。
  • バッチ処理Batch API多数のリクエストをまとめて送り、すぐではなく一定時間内に処理してもらう方式です。リアルタイムの応答が不要な大量処理を、通常より安く実行できます。
  • メガピクセルMegapixel (MP)画像の画素(ピクセル)数を100万単位で表す言葉です。1024×1024 の画像は約1メガピクセルで、画像生成の料金や解像度の目安として使われます。
  • トークン単価Token PricingLLM の API で、処理したトークン数に応じて料金が決まる仕組みと、その単価のことです。「100万トークンあたり何ドル」と表示されるのが一般的です。
  • レート制限Rate LimitAPI やサービスで、一定時間内に送れるリクエスト数や処理できるトークン数に設けられた上限です。超えるとエラーが返り、しばらく待つ必要があります。