料金・権利 中級
モデルの提供終了
Deprecation
AI モデルの提供元が、古くなったモデルの提供を終了することです。API で特定のモデルを使っているアプリは、終了日までに新しいモデルへ移行する必要があります。
別の呼び方モデルの廃止、提供終了、Deprecation、サンセット
例利用中のモデルの提供終了が告知されたので、保存してある評価データで新モデルの精度を比べ、移行日程を決めた。
詳しく
モデルの提供終了(deprecation)とは、AI の提供元が、古くなったモデルの提供を段階的に終了することです。ソフトウェアのサポート終了と似ていますが、AI では新しいモデルが次々に登場するため、数か月〜1年程度の周期で移行を迫られる場面があり、運用上の重要な論点になっています。
どう進むか
提供元によって細部は異なりますが、おおむね次のように進みます。
- 非推奨の告知:新しいモデルへの移行を推奨するお知らせが出る。
- 終了予定日の通知:一定の予告期間を置いて、いつ使えなくなるかを示す。
- 提供終了:その日以降、そのモデルを指定した呼び出しはエラーになる。
予告期間の長さや通知の方法は、各社の文書に定められています。内容は変更されることがあるので、利用しているサービスの最新のポリシーを確認してください。
なぜ起きるか
古いモデルを動かし続けるには、専用の計算資源と保守の手間がかかります。提供元は、新しいモデルに計算資源を集中させたいという事情があります。また、安全性の改善を反映した新しいモデルへ利用者を誘導する意図もあります。
移行で起きること
新しいモデルは一般に性能が上がりますが、同じ入力に対する出力が同じとは限りません。
- 回答の文体、長さ、書式が変わる
- これまで効いていた指示が効かなくなる、あるいは過剰に効く
- JSON などの出力形式の守り方が変わる
- 単価、レイテンシ、文脈の長さ、対応する機能が変わる
これらは、プロンプトを書き直す必要が出ることを意味します。
具体例
あるモデルを指定して社内の問い合わせ分類を動かしている場合、終了の告知が出たら、まず新しいモデルで過去の問い合わせデータを使って評価(eval)を実行します。精度が下がった項目があればプロンプトを調整し、問題がなければ切り替えます。
備えるときの注意
- モデル名を固定する:「最新版」を指す別名ではなく、日付や版が明示されたモデル名を指定すると、突然挙動が変わるのを避けられます。ただし、その場合は終了日の把握が必須になります。
- 評価データを用意しておく:移行の可否をすばやく判断できます。
- 終了のお知らせを受け取る窓口を決める:開発者のメールにだけ届き、気づかれないという事故があります。
- 複数の提供元を切り替えられる設計にしておくと、リスクが分散されます。
- オープンウェイトのモデルを自社で運用すれば、提供終了の影響を受けにくくなります。
あわせて知りたい言葉
- 評価(eval)AI の出力がどれくらい目的に合っているかを、決めたテストケースと基準で測ることです。モデルやプロンプトを変えたときに、良くなったか悪くなったかを判断する根拠になります。
- APIプログラムから AI モデルを呼び出すための窓口です。自社のアプリや業務システムに AI の機能を組み込むときに使い、使った量に応じて料金がかかるのが一般的です。
- SLAサービス提供者が利用者に約束する品質の水準を、稼働率などの数値と補償の条件で定めた取り決めです。AI の API を業務で使うときに、確認したい契約項目の1つです。
- LLMOpsLLMを使ったアプリを、開発から本番運用まで安定して回し続けるための考え方と仕組みの総称です。評価、監視、プロンプトやモデルの版管理、コスト管理などを含みます。
- オープンウェイト学習済みモデルの重み(パラメータ)が公開され、ダウンロードして自分の環境で動かせるモデルのことです。データを外部に出さずに使える、自由に追加学習できるといった利点があります。