Techniken, die AI-Modelle durch das Einführen täuschender Eingaben manipulieren, um fehlerhafte Ergebnisse zu verursachen.
Gezielte, oft kaum wahrnehmbare, Veränderungen an Eingabedaten – Bildern, Texten oder Audiodaten –, die Schwachstellen in den Entscheidungsgrenzen eines KI-Modells ausnutzen. Solche Angriffe machen Schwächen von Black-Box-Systemen sichtbar und unterstreichen den Bedarf an proaktiven Schutzmaßnahmen: Adversarial Training (Einbringen gezielt erzeugter Beispiele während des Trainings), Eingabesanitierungs-Schichten und fortlaufende „Red-Team“-Penetrationstests.
Sicherheitsforscher bringen winzige, kunstvoll gestaltete Aufkleber auf einem Stoppschild an, damit das Sichtsystem eines selbstfahrenden Fahrzeugs es fälschlicherweise als „Geschwindigkeitsbegrenzung 45“ interpretiert. Der Automobilhersteller reagiert darauf, indem er Detektoren für adversariale Beispiele integriert und das Modell durch randomisierte Eingabevorverarbeitung robuster macht.
