使い方・開発 初級
API
Application Programming Interface
プログラムから AI モデルを呼び出すための窓口です。自社のアプリや業務システムに AI の機能を組み込むときに使います。
別の呼び方AI API、Web API
例社内の日報システムに API で LLM を組み込み、提出時に要約が自動で付くようにした。
詳しく
- 各社の API に、モデル名・プロンプト・設定値を送ると、生成結果が返ってきます。認証には API キーを使います。
- 料金はチャットサービスの月額プランとは別で、使った量(トークン数や生成した枚数・秒数)に応じて課金されるのが一般的です。
- API ではツール呼び出し・構造化出力・プロンプトキャッシュ・バッチ処理など、チャット画面にはない細かい機能を使えます。
- 同じモデルが、提供元の API のほか、クラウド各社(AWS、Google Cloud、Microsoft Azure など)や fal.ai などの仲介サービス経由で提供されていることもあります。
- API キーはソースコードに直接書かず、環境変数や秘密情報の管理機能に置きます。
あわせて知りたい言葉
- トークン単価LLM の API で、処理したトークン数に応じて料金が決まる仕組みと、その単価のことです。「100万トークンあたり何ドル」と表示されるのが一般的です。
- レート制限API やサービスで、一定時間内に送れるリクエスト数や処理できるトークン数に設けられた上限です。超えるとエラーが返り、しばらく待つ必要があります。
- ツール呼び出しLLM が、あらかじめ定義された外部の関数や API を「この引数で呼んでほしい」と指定できる機能です。検索・計算・データベース参照・外部サービスの操作など、モデル単体ではできない処理につなげられます。
- バッチ処理多数のリクエストをまとめて送り、すぐではなく一定時間内に処理してもらう方式です。リアルタイムの応答が不要な大量処理を、通常より安く実行できます。