AIのバイアス

AI のバイアスとは、AI の判断や出力が、性別・人種・年齢・出身地・言語などの属性によって、公平とは言えない偏り方をすることです。「バイアス」という言葉は統計学の誤差の意味でも使われますが、ここでは主に社会的な不公平を指します。

どこから生まれるのか

バイアスは、AI が悪意を持っているから生じるのではありません。主な原因は次のとおりです。

• 学習データの偏り：インターネット上の文章や過去の記録には、社会にもともとある偏見や不均衡が反映されています。AI はそれを学んでしまいます。
• データの不足：特定の集団のデータが少ないと、その集団に対する精度が下がります。
• 設計と評価の偏り：何を「正解」とするか、何を指標に評価するかを決める人の前提が、結果に影響します。
• 利用の仕方：AI の出力を人が無批判に採用すると、偏りが現実の決定に組み込まれます。

具体例

• 過去の採用データで学習した選考支援ツールが、男性に有利な評価をしてしまう。
• 顔認識が、肌の色や性別によって精度が異なる。
• 文章生成で、職業を尋ねると特定の性別を連想させる回答に偏る。
• 画像生成で、「医者」と指示すると特定の人種・性別ばかりが出る。
• 日本語では、英語中心のデータで学習したモデルが、日本の文化や制度に不正確な説明をすることがあります。

どう対処するのか

完全にバイアスをなくすことは難しいため、減らして管理する方針が取られます。

• 学習データの偏りを調べ、必要に応じて整える。
• 属性ごとに精度や結果を測り、差を検証する（評価）。
• RLHF や Constitutional AI などで、望ましくない出力を抑える調整をする。
• 重要な判断には人が関わり、AI の結果を鵜呑みにしない運用にする。
• 偏りが疑われる出力を報告できる窓口を設ける。

注意点とよくある誤解

• 「中立」を単純に定義できない：何をもって公平とするかは、立場や状況で異なります。例えば、結果の割合をそろえる公平と、同じ基準で扱う公平は、両立しないことがあります。
• 補正にも副作用がある：過剰な補正が、事実と異なる出力を招くこともあります。
• データを増やせば解決するとは限らない：データが大量でも、元の社会に偏りがあれば反映されます。

関連する考え方

訓練に使うデータは training-data、人間の好みに合わせる調整は rlhf、価値観に沿わせる広い考え方は alignment の項目を参照してください。