Glossar
Aktualisiert
Ein Teilbereich des KI-Risikos, der sich auf moralische und gesellschaftliche Schäden konzentriert, d. h. auf Verletzungen von Würde, Autonomie, Fairness und Rechten. Ethisches Risikomanagement umfasst das Identifizieren von Szenarien (z. B. diskriminierende Kreditvergabe), die Bewertung ihres Schweregrads, deren Integration in die Risikoregister des Unternehmens sowie die Implementierung von Kontrollmechanismen (z. B. Bias-Prüfungen, Einwilligungsprozesse), um ethische Risiken innerhalb akzeptabler Grenzen zu halten.
Beispiel
Es wird festgestellt, dass eine KI für Kreditkarten-Aktionen einkommensschwächeren Wohngegenden Angebote mit höheren Zinssätzen unterbreitet. Das ethische Risikoregister der Bank meldet dies, löst eine Untersuchung aus und führt zu einer Neukalibrierung des Promotionsalgorithmus, um gerechte Zinssätze unabhängig von der Einkommensklasse zu gewährleisten.