Zuletzt aktualisiert am:
Der Prozess der Identifizierung, Analyse und Priorisierung potenzieller Risiken oder Fehlfunktionen in KI-Systemen zur Bestimmung geeigneter Minderungsstrategien.
Eine systematische Aktivität, die Bedrohungen (z. B. Verzerrungen, Datenschutzverletzungen, Sicherheitslücken) katalogisiert, deren Wahrscheinlichkeit und potenzielle Auswirkungen (finanziell, reputationsbezogen, sicherheitsrelevant) bewertet und sie nach Risiko-Score einstuft. Das Ergebnis ist ein Risikoregister, das die Minderungsplanung steuert. Risikoanalysen werden immer dann neu bewertet, wenn sich Modelle, Daten oder betriebliche Rahmenbedingungen ändern, um sicherzustellen, dass neu auftretende Bedrohungen während des gesamten KI-Lebenszyklus erfasst werden.
Praxisbeispiel:
Vor der Bereitstellung einer KI für Kreditentscheidungen analysiert das Risikoteam einer Bank potenzielle Risiken (z. B. fälschlicherweise abgelehnte Kredite, Datenlecks), bewertet deren Eintrittswahrscheinlichkeit sowie Auswirkungen und identifiziert die kritischsten Risiken. Anschließend entwickelt das Team gezielte Kontrollmaßnahmen – wie eine verstärkte manuelle Überprüfung abgelehnter Anträge und eine verschlüsselte Protokollierung –, um die prioritären Risikobereiche effektiv zu adressieren.
