Das Potenzial eines KI-Systems, Schaden durch unethisches Verhalten wie Voreingenommenheit, Diskriminierung oder Verletzung der Privatsphäre zu verursachen.
Eine Teilmenge des KI-Risikos, die sich auf moralische und gesellschaftliche Schäden konzentriert – Beeinträchtigungen von Würde, Autonomie, Fairness und Rechten. Das Management ethischer Risiken umfasst die Identifikation von Szenarien (z. B. diskriminierende Kreditvergabe), die Bewertung ihrer Schwere, die Aufnahme in unternehmensweite Risikoregister sowie die Implementierung von Kontrollen (z. B. Bias-Prüfungen, Einwilligungsprozesse), um ethische Expositionen innerhalb akzeptabler Grenzen zu halten.
Es wird festgestellt, dass eine KI für Kreditkartenaktionen in einkommensschwächeren Wohngebieten Angebote mit höheren Zinssätzen unterbreitet. Das ethische Risikoregister der Bank kennzeichnet diesen Umstand, löst eine Untersuchung aus und führt zur Neukalibrierung des Promotionsalgorithmus, um faire Zinssätze unabhängig von der Einkommensklasse sicherzustellen.
