料金・権利 中級
レート制限
Rate Limit
API やサービスで、一定時間内に送れるリクエスト数や処理できるトークン数に設けられた上限です。超えるとエラーが返り、しばらく待つ必要があります。
別の呼び方レートリミット、利用上限、使用量の上限
例キャンペーン当日にレート制限のエラーが増えたので、再送処理を入れ、上位のティアへの引き上げを申請した。
詳しく
- API では「1分あたりのリクエスト数（RPM）」「1分あたりのトークン数（TPM）」などで決められていることが多く、利用実績や支払額に応じて上限が引き上げられる段階制（ティア）を採る提供元が多いです。
- 上限を超えると HTTP 429 などのエラーが返ります。少し待ってから再送する処理（指数バックオフ）を組み込むのが基本です。
- 急ぎでない大量処理は、バッチ処理に回すと通常の上限とは別枠で処理できる場合があります。
- チャットサービスの有料プランにも、一定時間あたりのメッセージ数などの使用量の上限があります。