モデルカード

モデルカードとは、AI モデルの「取扱説明書」にあたる文書です。家電に仕様書や注意事項が付いてくるように、モデルにも、何ができて、どんな場面で使うべきでないかを説明する資料が必要だという考え方から広まりました。2019年に研究者らが提案した枠組みが出発点とされています。

何が書かれているか

提供元によって形式は違いますが、一般的に次のような項目があります。

• 概要と想定する用途：何のためのモデルか、誰が使うことを想定しているか
• 性能の評価：どのテストで、どのような結果だったか
• 制限・既知の弱点：苦手な言語や分野、誤りやすい場面
• 学習データの概要：どんな種類のデータで学習したか
• 安全性の評価：有害な出力、偏り、悪用の可能性についての検証結果
• ライセンスと利用条件：商用利用の可否、禁止されている用途

大手の提供元は、大型モデルの公開時に、より詳細な安全性の報告書を「システムカード」などの名前で出すことがあります。オープンウェイトのモデルでは、配布ページ（Hugging Face など）の説明文がモデルカードの役割を果たしています。

具体例

業務で使うモデルを選ぶとき、ベンチマークの数字だけを見るのではなく、モデルカードで次の点を確かめます。

1. 自社の用途（日本語での長文の要約など）が、想定された範囲か
2. 商用利用ができるライセンスか
3. 苦手な領域として、自社の仕事に関わる分野が挙がっていないか

読むときの注意

• 記載内容は提供元が自己申告で書いたものです。第三者による検証とは限りません。
• 書かれていないことは、分からないことであって、問題がないという意味ではありません。学習データの詳細などは非公開の場合も多いです。
• 評価結果は、そのテストの条件の範囲内の話です。実際の業務で同じ結果になる保証はありません。
• モデルの版が更新されると、内容が変わります。使っている版に対応した文書を読んでください。

関連する考え方

モデルカードは、AI の説明責任や透明性を高める取り組みの一部です。バイアスの検討、ライセンスの確認、評価結果の読み方（ベンチマークやデータ汚染）と合わせて読むと、情報の価値を適切に判断できます。

提供元が書く理由

モデルが社会のさまざまな場面で使われるほど、想定外の使われ方による問題も増えます。使い方の範囲と限界を事前に示しておくことは、提供元にとっても利用者にとっても、トラブルを減らす手段になります。