#大規模言語モデル

文章・コードを扱う大規模言語モデル（LLM）に関するもの

タグの種類：技術　タグの一覧

モデル25

AI用語25

  • 生成AIGenerative AI学習したデータの傾向をもとに、文章・画像・音声・動画・コードなどの新しいデータを作り出すAIの総称です。分類や予測を主な目的とする従来の機械学習と区別して使われます。
  • 大規模言語モデルLLM (Large Language Model)大量のテキストで学習し、文章の続きを予測することで文章の生成・要約・翻訳・質問応答などをこなすモデルです。ChatGPT、Claude、Gemini などのサービスの中核にあります。
  • 基盤モデルFoundation Model大量の汎用データで事前学習され、さまざまな用途に転用できる大きなモデルのことです。LLM や画像生成モデルの多くがこれにあたります。
  • プロンプトPromptAIに与える指示や入力の文章のことです。何をしてほしいか、前提条件、出力の形式などを書きます。
  • システムプロンプトSystem Prompt会話全体を通じてAIの役割・口調・守るべきルールを決めるために、ユーザーの発言とは別に与える指示です。アプリ開発者が API で設定するのが一般的です。
  • ハルシネーションHallucinationAIが事実と異なる内容や存在しない情報を、もっともらしく出力してしまう現象です。架空の文献・URL・数値・機能などを作ることがあります。
  • 学習データの時点Knowledge Cutoffモデルの学習に使ったデータがいつまでのものかを示す時点です。それ以降の出来事は、検索や資料を渡さない限りモデルは知りません。
  • トークンTokenLLM がテキストを処理するときの最小単位です。単語や文字のかけらに相当し、料金・文脈長・出力の上限はトークン数で数えられます。
  • 文脈長Context Windowモデルが1回の処理で扱えるトークン数の上限です。入力（指示・会話履歴・資料）と出力の合計がこの範囲に収まる必要があります。
  • パラメータParametersモデル内部で学習によって調整される数値（重み）のことです。数が多いほど多くの知識やパターンを表現できる傾向がありますが、計算コストも大きくなります。
  • 推論モデルReasoning Model答えを出す前に内部で段階的に考える過程（思考）を生成してから回答するモデルや機能のことです。数学・コーディング・複雑な分析など、手順の多い問題で精度が上がりやすくなります。
  • TransformerTransformer2017年の論文「Attention Is All You Need」で提案されたニューラルネットワークの構造です。現在の LLM の大半がこの構造を土台にしています。
  • MoE（混合エキスパート）Mixture of Expertsモデルの中に複数の「エキスパート」と呼ばれる部分を用意し、入力ごとにその一部だけを使って計算する構造です。全体のパラメータ数を大きくしながら、1回あたりの計算量を抑えられます。
  • 埋め込みEmbedding文章や画像などを、意味の近さが距離として表れる数値の並び（ベクトル）に変換したものです。意味の近い文書を探す検索や分類に使われます。
  • 蒸留Distillation大きく性能の高いモデル（教師）の出力を手本にして、小さいモデル（生徒）を学習させる手法です。小さく速いモデルに、大きいモデルの能力の一部を移すことができます。
  • ファインチューニングFine-tuning学習済みのモデルに、特定の用途向けのデータを追加で学習させて調整することです。出力の形式や口調、特定分野の判断のしかたをモデルに覚えさせるのに使います。
  • RLHF（人間のフィードバックによる強化学習）Reinforcement Learning from Human Feedback人が「どちらの回答が良いか」を評価したデータをもとに、モデルの出力を人の好みや方針に近づける学習方法です。チャット向け LLM を役に立ち、安全に振る舞うよう調整するのに使われてきました。
  • 温度（temperature）TemperatureLLM が次のトークンを選ぶときのばらつきを調整する設定値です。低くすると毎回似た無難な出力に、高くすると多様で意外性のある出力になります。
  • APIApplication Programming Interfaceプログラムから AI モデルを呼び出すための窓口です。自社のアプリや業務システムに AI の機能を組み込むときに使います。
  • RAG（検索拡張生成）Retrieval-Augmented Generation質問に関係する文書を検索で取り出し、それを LLM に渡してから回答させる仕組みです。モデルが学習していない社内資料や最新情報にもとづいた回答ができます。
  • 構造化出力Structured OutputsLLM の出力を、指定した JSON Schema などの決まった形に従わせる機能です。プログラムで結果を扱うときに、形式の崩れによるエラーを防げます。
  • プロンプトキャッシュPrompt Caching繰り返し送る同じ内容のプロンプト（システムプロンプトや長い資料など）の処理結果を一時的に保存し、再利用する仕組みです。料金と応答までの時間を減らせます。
  • バッチ処理Batch API多数のリクエストをまとめて送り、すぐではなく一定時間内に処理してもらう方式です。リアルタイムの応答が不要な大量処理を、通常より安く実行できます。
  • 評価（eval）EvalsAI の出力がどれくらい目的に合っているかを、決めたテストケースと基準で測ることです。モデルやプロンプトを変えたときに、良くなったか悪くなったかを判断する根拠になります。
  • コンテキストエンジニアリングContext Engineeringモデルに渡す情報全体（指示、会話履歴、検索結果、ツールの定義や結果、記憶など）を、何をどれだけ・どの順で入れるかまで設計することです。とくに長い作業を続けるエージェントで重要になります。

企業9

  • OpenAIオープンエーアイChatGPT と GPT シリーズのモデルを開発する米国の AI 企業。2026年は ChatGPT にエージェント機能「Work」とコーディングエージェント Codex をまとめ、作業を任せる方向に広げている。
  • AnthropicアンソロピックAI アシスタント Claude を開発する米国の AI 企業。安全性の研究を重視するパブリック・ベネフィット・コーポレーションとして運営されている。
  • GoogleグーグルGemini シリーズのモデルを開発し、検索や Workspace、Android など自社の製品に組み込んでいる。AI の研究開発は Google DeepMind が担う。
  • xAIエックスエーアイGrok シリーズのモデルを開発する、イーロン・マスク氏が2023年に設立した AI 企業。2026年2月に SpaceX に買収され、現在は SpaceX の AI 部門として Grok を提供している。
  • MetaメタFacebook・Instagram・WhatsApp を運営する米国の企業で、AI アシスタントの Meta AI を自社サービスに組み込んでいる。2026年4月に Meta Superintelligence Labs の最初のモデル Muse Spark を公開した。
  • DeepSeekディープシーク中国・杭州の AI 企業で、重みを公開した大規模言語モデルと低価格の API で知られる。2026年は DeepSeek V4 系のモデルを公開している。
  • Mistral AIミストラル・エーアイフランス・パリの AI 企業で、重みを公開したモデルと商用モデルの両方を開発している。対話アプリ Le Chat やコーディング支援の Mistral Vibe も提供する。
  • Alibabaアリババ中国・杭州の大手 IT 企業で、Qwen（通義千問）シリーズの大規模言語モデルを開発している。多くのモデルの重みを公開し、Alibaba Cloud の Model Studio から API でも提供している。
  • ByteDanceバイトダンスTikTok や CapCut を運営する中国の企業で、AI の研究開発は Seed チームが担う。言語モデルの Seed、動画生成の Seedance、画像生成の Seedream などを開発している。