Synthetische Medien, bei denen eine Person in einem bestehenden Bild oder Video durch das Abbild einer anderen Person ersetzt wird, das mit Hilfe von Deep-Learning-Techniken erstellt wurde.
Generiert mittels GANs oder Autoencodern, die lernen, ein Gesicht überzeugend auf ein anderes abzubilden. Deepfakes werfen Governance-Bedenken auf – Desinformation, Verleumdung, Betrug – und treiben die Entwicklung von Erkennungsalgorithmen, Watermarking-Standards und rechtlichen Rahmenwerken voran, um böswillige Anwendungen zu kennzeichnen oder zu verbieten.
Eine politische Kampagne wird mit einem Deepfake-Video gezielt angegriffen, das einen Kandidaten bei hetzerischen Äußerungen zeigt. Das forensische KI-Team der Kampagne nutzt ein Erkennungsmodell, das Inkonsistenzen beim Augenblinzeln und in den Gesichtstexturen identifiziert, verifiziert das Video als Fälschung und veröffentlicht innerhalb weniger Stunden eine öffentliche Richtigstellung.
