Zuletzt aktualisiert am:
Das Potenzial eines KI-Systems, durch unethisches Verhalten Schaden zu verursachen, einschließlich Befangenheit, Diskriminierung oder der Verletzung der Privatsphäre.
Ein Teilbereich des KI-Risikos, der sich auf moralische und gesellschaftliche Schäden konzentriert – d. h. Verletzungen von Würde, Autonomie, Fairness und Rechten. Ethisches Risikomanagement umfasst das Identifizieren von Szenarien (z. B. diskriminierende Kreditvergabe), die Bewertung ihres Schweregrads, deren Integration in die Risikoregister des Unternehmens sowie die Implementierung von Kontrollmechanismen (z. B. Bias-Prüfungen, Einwilligungsprozesse), um ethische Risiken innerhalb akzeptabler Grenzen zu halten.
Praxisbeispiel:
Es wird festgestellt, dass eine KI für Kreditkarten-Aktionen einkommensschwächeren Wohngegenden Angebote mit höheren Zinssätzen unterbreitet. Das ethische Risikoregister der Bank meldet dies, löst eine Untersuchung aus und führt zu einer Neukalibrierung des Promotionsalgorithmus, um gerechte Zinssätze unabhängig von der Einkommensklasse zu gewährleisten.
