Der Prozess der Identifizierung, Analyse und Priorisierung potenzieller Schäden oder Ausfälle in KI-Systemen, um geeignete Minderungsstrategien zu bestimmen.
Eine systematische Aktivität, die Bedrohungen (z. B. Verzerrungen, Datenschutzverletzungen, Sicherheitsangriffe) katalogisiert, deren Wahrscheinlichkeit und potenzielle Auswirkungen (finanziell, reputationsbezogen, sicherheitsrelevant) bewertet und sie anhand eines Risikoscores priorisiert. Das Ergebnis ist ein Risikoregister, das die Planung von Minderungsmaßnahmen steuert. Risikobewertungen werden immer dann erneut durchgeführt, wenn sich Modelle, Daten oder operative Kontexte ändern, um sicherzustellen, dass neu entstehende Bedrohungen über den gesamten KI-Lebenszyklus hinweg erfasst werden.
Bevor eine KI für Kreditentscheidungen eingesetzt wird, erfasst das Risikoteam einer Bank die Risiken (z. B. falsch-positive Ergebnisse, die zur Ablehnung von Krediten führen, sowie Datenlecks), bewertet Eintrittswahrscheinlichkeit und Auswirkungen und identifiziert die größten Risiken. Anschließend entwickelt es gezielte Kontrollen – eine erweiterte menschliche Prüfung für abgelehnte Anträge und eine verschlüsselte Protokollierung –, um die Elemente mit der höchsten Priorität wirksam zu adressieren.
