最終更新日:
ディープラーニング（深層学習）技術を用いて、既存の画像や動画内の人物を別人の容姿に置き換えたシンセティックメディア（合成メディア）のこと。
GAN（敵対的生成ネットワーク）やオートエンコーダーを用いて、ある顔を別の顔へ高精度にマッピングすることで生成されます。ディープフェイクは、誤情報、名誉毀損、詐欺などのガバナンス上の懸念を引き起こしており、検知アルゴリズム、電子透かしの標準化、そして悪意のある使用をラベル付けまたは禁止するための法的枠組みの開発を後押ししています。
実際の導入事例：
政治キャンペーンが、候補者が扇動的な発言をしているディープフェイク動画の標的にされました。キャンペーンのフォレンジックAIチームは、瞬きの不自然さや顔のテクスチャの矛盾を特定する検出モデルを使用し、その動画が偽物であることを検証、数時間以内に公式な訂正を発表しました。
