Glossar
Aktualisiert
Gezielte, oft nicht wahrnehmbare Modifikationen von Eingabedaten wie Bildern, Texten oder Audiodateien, die Schwachstellen in den Entscheidungsgrenzen eines KI-Modells ausnutzen. Solche Angriffe verdeutlichen die Schwächen von Black-Box-Systemen und unterstreichen die Notwendigkeit proaktiver Schutzmaßnahmen: Adversarial Training (das Einbringen manipulierter Beispiele während des Trainings), Bereinigungsebenen für Eingabedaten (Input Sanitization) sowie kontinuierliche Penetrationstests durch „Red Teams“.
Beispiel
Sicherheitsforscher platzieren winzige, kunstvolle Aufkleber auf einem Stoppschild, sodass das Bilderkennungssystem eines selbstfahrenden Autos dieses fälschlicherweise als „Geschwindigkeitsbegrenzung 45“ interpretiert. Der Automobilhersteller reagiert darauf mit der Integration von Detektoren für adversariale Beispiele und der Härtung des Modells durch randomisierte Eingabevorverarbeitung.