基本 初級
学習データ
Training Data
AI モデルに学習させるために使う、文章・画像・音声などの大量のデータです。モデルの得意・不得意や偏りは、何を学習したかに大きく左右されるため、質と中身が重要です。
別の呼び方トレーニングデータ、訓練データ、学習用データ
例このモデルは学習データに日本語が少ないらしく、敬語の使い分けがやや不自然だった。
詳しく
学習データは、モデルがパターンを身につけるための教材です。AI は人が書いたルールで動くのではなく、教材から規則性を引き出して能力を得るため、教材の中身がそのまま性能や癖に表れます。
どんなものが使われるか
- 大規模言語モデル:Web ページ、書籍、論文、百科事典、プログラムのコードなど。
- 画像生成モデル:画像と、それに付けられた説明文(キャプション)の組。
- 音声モデル:音声と書き起こしの組。
- 調整用:人が書いた質問と理想の回答、人による出力の比較評価など。
量が多いだけでなく、質も重要です。重複や低品質な文章を取り除き、バランスを整える前処理が、性能に大きく影響します。また、実際のデータが足りない分野では、AI で作った合成データを併用する方法もあります。
たとえ話
料理人の修業に似ています。どんな料理を、どれだけ食べ、作ってきたかで腕前や得意な味が決まります。和食ばかり学んだ人は和食に強く、偏った環境で育てば偏った味付けになります。
具体例
- 日本語のデータが少ないモデルは、日本語の細かいニュアンスに弱くなりやすい。
- 古い時点までのデータで学習したモデルは、最近の出来事を知らない(知識のカットオフ)。
- 特定の属性に偏った写真で学習した顔認識は、他の属性で精度が落ちる。
使うときの注意・よくある誤解
- 著作権・個人情報の問題があります。 学習データに他者の著作物や個人情報が含まれることへの懸念から、各国で議論や訴訟が続いています。扱いは国や地域、サービスの規約で異なります。
- 入力した内容が学習に使われるかは、サービスにより異なります。 利用規約やデータの取り扱い設定を確認します。法人向けのプランでは、学習に使わないと明記されることが多いです。
- 学習データの全容は、多くの場合、非公開です。 概要が公表されるだけのことも珍しくありません。
- 生成物が学習データそのままとは限りません。 モデルは記憶ではなく統計的なパターンを持ちますが、まれに元の内容に近い出力が出る場合も報告されています。
- AI の出力を再び学習に使い続けると、質が下がる恐れがあります。 これはモデル崩壊と呼ばれる現象です。
関連する考え方
データの偏りは AI バイアスの主な原因です。学習データが評価用の問題に混ざるデータ汚染は、ベンチマークの信頼性を損ないます。
自分でデータを用意する場合
社内の文書で追加学習や検索を行う場合も、同じ原則が働きます。重複や古い版を整理し、機密情報や個人情報を除き、誰が内容に責任を持つかを決めておくと、後の品質管理が容易になります。
あわせて知りたい言葉
- 事前学習大量の文章や画像などから、言語や世界についての一般的な知識を身につけさせる、モデル作りの最初の学習段階です。これに続く調整の土台になる、最も計算費用がかかる工程です。
- AIのバイアスAI の出力が、特定の属性の人や考え方に不利または有利になるよう偏ってしまうことです。学習データや設計に含まれる偏りが原因で、意図せず差別的な結果を生むことがあります。
- 合成データ現実の記録ではなく、プログラムや AI で人工的に作ったデータのことです。個人情報を避けたい場合や、不足しているデータを補いたい場合に、AI の学習や評価に使われます。
- データ汚染モデルの評価に使うテスト問題や答えが、学習データに混ざってしまうことです。問題を事前に見ていると、本来の実力より高い点数が出てしまい、評価が信頼できなくなります。
- 学習データの時点モデルの学習に使ったデータがいつまでのものかを示す時点です。それ以降の出来事は、検索や資料を渡さない限りモデルは知らないため、答えが古くなります。最新情報が必要なときは検索や資料の提示が有効です。