Risikobeurteilung
Der Prozess der Identifizierung, Analyse und Priorisierung potenzieller Schäden oder Ausfälle in KI-Systemen zur Festlegung geeigneter Minderungsstrategien.
Definition
Eine systematische Aktivität, bei der Bedrohungen (z. B. Vorurteile, Datenschutzverletzungen, Sicherheitslücken) katalogisiert, ihre Wahrscheinlichkeit und potenziellen Auswirkungen (finanzielle, Reputation, Sicherheit) bewertet und sie nach Risikobewertung eingestuft werden. Das Ergebnis ist ein Risikoregister, das als Grundlage für die Planung von Schadensbegrenzungen dient. Risikobewertungen werden immer dann überprüft, wenn sich Modelle, Daten oder betriebliche Kontexte ändern, um sicherzustellen, dass neu auftretende Bedrohungen während des gesamten KI-Lebenszyklus erfasst werden.
Real-World Example
Vor dem Einsatz einer KI für Kreditentscheidungen kartografiert das Risikoteam einer Bank Risiken (z. B. falsch positive Ergebnisse, Kreditverweigerung, Datenlecks), weist Wahrscheinlichkeits- und Folgenabschätzungen zu und identifiziert die wichtigsten Risiken. Anschließend entwickeln sie gezielte Kontrollen — eine erweiterte menschliche Überprüfung abgelehnter Anträge und verschlüsselte Protokollierung —, um die Punkte mit der höchsten Priorität anzugehen.
.svg)
