オンプレミス運用

オンプレミス運用（on-premises、略してオンプレ）とは、サーバーなどの機器を自社の施設や契約したデータセンターに置き、自分たちの責任で運用する方式です。クラウドのように外部事業者の設備を借りるのではなく、機器を所有（またはリース）して管理します。AI の文脈では、LLM を自社のサーバーで動かし、入力するデータが社外へ出ない状態をつくることを指す場合が多いです。

なぜ選ばれるか

• データを外に出したくない：顧客情報、設計図、医療・金融データなど、規則や契約で社外送信が制限されているデータを扱えます。
• 通信が切れても使える：閉じた社内ネットワークや、インターネットにつなげない工場・研究施設でも動かせます。
• コストの見通し：利用量が多く、常に一定の負荷がかかる場合、従量課金より総額が安くなることがあります。
• 細かな制御：モデルのバージョンを固定でき、提供終了や仕様変更に左右されにくいです。

具体例

オープンウェイトのモデルを、GPU を積んだ社内サーバーに推論サーバー（vLLM など）で載せ、社内の文書検索や要約に使う構成が典型です。ローカル LLM を各自の PC で動かすのも、広い意味でデータが手元に残る運用です。

使うときの注意

• 初期費用が大きい：高性能な GPU サーバーは高額で、納期が長くなることもあります。さらに電源、冷却、設置場所も必要です。
• 運用の負担：故障対応、セキュリティ更新、モデルの入れ替え、監視を自社で担います。専任の人材がいないと、かえって危険になります。
• 性能の差：自社で動かせる規模のモデルは、クラウドで提供される最上位モデルより小さいことがあります。必要な品質が出るか、実際の業務データで評価してから決めるべきです。
• 「オンプレなら安全」とは限りません：外部への流出は防げても、社内の権限管理や脆弱性対策が甘ければ、別の経路で漏れます。
• 利用量の変動に弱い：需要が急に増えたとき、機器を即座に増やせません。

現実的な選択肢

完全なオンプレとクラウドの中間として、特定の国・地域にデータを置く契約、専有環境（プライベート環境）、機密情報だけをオンプレに残し他はクラウドを使うハイブリッド構成もあります。ゼロデータリテンション契約や SOC 2 などの認証、データ保持の条件も判断材料になります。