ディープフェイク
既存の画像やビデオ内の人物が、ディープラーニング技術を使用して作成された他の人物の肖像に置き換えられる合成メディア。
GAN やオートエンコーダーを用いて、一方の顔を他方の顔へ説得力をもって対応付けるよう学習することで生成されます。ディープフェイクは、誤情報、名誉毀損、詐欺といったガバナンス上の懸念を引き起こし、悪意ある利用を表示または禁止するための検出アルゴリズム、電子透かし標準、法的枠組みの整備を促進しています。
ある政治キャンペーンが、候補者が扇動的な発言をしているように見せるディープフェイク動画の標的となります。キャンペーンのフォレンジックAIチームは、まばたきや顔のテクスチャにおける不整合を検出するモデルを活用して当該動画が偽物であることを確認し、数時間以内に公式な訂正を公表します。
