モデルのしくみ 中級
拡散モデル
Diffusion Model
ノイズだらけの状態から少しずつノイズを取り除いていくことで、画像・動画・音声などを生成するモデルです。現在の画像生成・動画生成の多くがこの方式を使っています。
別の呼び方ディフュージョンモデル、Diffusion
例拡散モデルのステップ数を下げて、ラフ案を短時間でたくさん出してから本番用を作り直した。
詳しく
学習時には、画像にノイズを少しずつ加えていく過程を逆にたどる方法をモデルに学ばせます。生成時は、ランダムなノイズからスタートして、テキストの指示(プロンプト)に沿うようにノイズを取り除く処理を何段階も繰り返します。
- ステップ数を増やすと品質が上がりやすい反面、時間がかかります。少ないステップで生成する高速化手法も広く使われています。
- 中身のネットワークには Transformer が使われることが多く(Diffusion Transformer)、動画生成モデルでも主流の構成です。
- テキスト生成にも拡散方式を使う研究・製品が出てきていますが、テキストでは LLM の自己回帰方式が今も主流です。
あわせて知りたい言葉
- Text-to-Xテキストを入力として画像・動画・音声・音楽などを生成することを表す呼び方です。X の部分に出力の種類が入り、Text-to-Image(画像)、Text-to-Video(動画)のように使います。
- Transformer2017年の論文「Attention Is All You Need」で提案されたニューラルネットワークの構造です。現在の LLM の大半がこの構造を土台にしています。
- 生成AI学習したデータの傾向をもとに、文章・画像・音声・動画・コードなどの新しいデータを作り出すAIの総称です。分類や予測を主な目的とする従来の機械学習と区別して使われます。
- メガピクセル画像の画素(ピクセル)数を100万単位で表す言葉です。1024×1024 の画像は約1メガピクセルで、画像生成の料金や解像度の目安として使われます。