ディープフェイク

ディープフェイクは、「ディープラーニング」と「フェイク（偽物）」を合わせた言葉で、AI によって本物らしく作られた偽の映像・画像・音声を指します。ある人が実際には言っていないことを話している動画や、他人の顔に差し替えた映像などが典型です。

しくみ

主な手法は次のとおりです。

• 顔の入れ替え：ある人物の顔を、別の人物の映像に重ねて表情や動きに合わせて合成する。
• 口の動きの合成：音声に合わせて、口元の動きを作り替える（リップシンク）。
• 声の複製：数秒から数分の音声サンプルから、その人の声で任意の文章を話させる（ボイスクローン）。
• 全体の生成：存在しない人物の写真や動画を、一から生成する。

以前は専門的な技術と時間が必要でしたが、生成 AI の進歩で、短時間で自然な品質のものが作れるようになりました。

具体例

• 悪用の例：経営者の声をまねて送金を指示する電話、著名人を装った投資詐欺広告、本人の同意のない性的な画像の作成、選挙前の偽の発言動画。
• 適切な利用の例：映画での若い頃の姿の再現、俳優の吹き替えを本人の声のまま多言語化する、同意を得た上での広告制作、研究や教育。

見分けるときのヒント

• 不自然な瞬き、口と音声のずれ、髪や耳の輪郭の乱れ、背景の歪みなどが手がかりになることがありますが、技術の進歩でこうした特徴は減っています。見た目だけでの判断は、次第に難しくなっています。
• 出所を確認する：元の投稿者、報道機関の報道、公式発表と一致するか。
• 金銭の要求や急がせる内容には、別の連絡手段（折り返しの電話など）で本人確認をする。

対策と注意

C2PA のように、制作の履歴を記録して来歴を示す技術や、AI で作られたことを示す透かしの取り組みが進んでいます。ただし、すべての偽物が対象になるわけではなく、検出技術と作る技術のいたちごっこが続いています。法律面では、国や地域により規制の内容が異なります。EU では AI 規則により、AI 生成物であることの表示義務が定められています。日本でも、他人の権利を侵害する場合は、名誉毀損、肖像権の侵害、詐欺などの法的責任を問われうるため、実在の人物を扱う際は、本人の同意が欠かせません。

関連する考え方

声の複製を扱うボイスクローン、口元を合わせるリップシンク、来歴を示す C2PA などが、関連技術・対策として並びます。