Glossar
Aktualisiert
Eine gezielte Überprüfung, die spezifische Risiken (Sicherheit, Datenschutz, wirtschaftliche und Reputationsschäden) für die jeweilige KI-Anwendung kategorisiert. Sie nutzt die Kartierung von Stakeholder-Auswirkungen, Bewertungen von Schweregrad und Wahrscheinlichkeit sowie die Schadensminderungsplanung (Designänderungen, Guardrails, menschliche Aufsicht). Die Ergebnisse fließen in Risikoregister ein und dienen als Entscheidungsgrundlage dafür, ob das System fortgeführt, pausiert oder neu konzipiert werden soll.
Beispiel
Vor der Einführung einer KI für automatisierte Kreditentscheidungen führt eine Bank eine Schadensbewertung durch: Sie identifiziert potenzielle wirtschaftliche Schäden (Verweigerung von Dienstleistungen), Reputationsschäden (öffentliche Gegenreaktionen) und schlägt Maßnahmen zur Schadensminderung vor (Berufungsverfahren, externe Prüfungsausschüsse). Dies stellt sicher, dass Entscheidungswege und Kanäle zur Benutzerunterstützung vor der Einführung eingerichtet sind.