ディープフェイクとは
Deepfake
深層学習で人物の顔・声・動作を合成し、本物と見分けにくい偽の画像・動画・音声を作る技術とその生成物
ひとことで言うと
AIで作った「本物そっくりの偽動画・偽音声」。有名人のなりすましや詐欺への悪用が世界的な問題になっている。
概要
ディープフェイクとは、深層学習を使って人物の顔・声・動作を合成・差し替えし、本物と見分けにくい偽の画像・動画・音声を作る技術、およびその生成物を指す。 当初は顔の入れ替えを行うGANベースの手法が中心だったが、拡散モデルによる画像・動画生成や音声クローニングの進歩により、少量の素材から高品質な偽コンテンツを作れるようになった。 なりすまし詐欺・偽情報の拡散・名誉毀損などへの悪用が世界的な問題となり、検出技術・電子透かし・来歴証明などの対策と、各国での法規制の整備が進んでいる。
歴史
2017年に米国の掲示板Redditで顔交換動画を投稿したユーザー名「deepfakes」に由来して広まった呼称になる。
欠点
- 悪意ある用途では、なりすまし詐欺・名誉毀損・偽情報の拡散に利用されうる
- 検出技術と生成技術がいたちごっこの関係にあり、恒久的な対策が難しい
- 本物の映像・音声そのものへの信頼(証拠能力)を毀損する副作用がある
関連用語
よくある質問
ディープフェイクは違法か。
内容や用途による。多くの国・地域で、なりすましや名誉毀損、詐欺に該当する用途は既存の法律で規制対象になり得るほか、ディープフェイクを名指しで規制する法律の整備も進んでいる。
ディープフェイクを見分ける方法はあるか。
不自然な瞬きや照明の不整合を人手で見抜く方法に加え、AIによる検出モデルや、コンテンツの生成来歴を記録する電子透かし・来歴証明の技術が開発されている。