Ethisches Risiko
Das Potenzial eines KI-Systems, durch unethisches Verhalten, einschließlich Voreingenommenheit, Diskriminierung oder Verletzung der Privatsphäre, Schaden anzurichten.
Definition
Ein Teil des KI-Risikos konzentrierte sich auf moralische und gesellschaftliche Schäden — Schäden an Würde, Autonomie, Fairness und Rechten. Ethisches Risikomanagement umfasst die Identifizierung von Szenarien (z. B. diskriminierende Kreditvergabe), die Bewertung ihres Schweregrads, deren Aufnahme in Unternehmensrisikoregister und die Einführung von Kontrollen (z. B. Überprüfung von Vorurteilen, Zustimmungsprozesse), um ethische Risiken innerhalb akzeptabler Grenzen zu halten.
Real-World Example
Es wurde festgestellt, dass eine KI für Kreditkartenaktionen in Vierteln mit niedrigerem Einkommen Angebote mit höheren Zinsen anbietet. Das Register der Bank für ethische Risiken weist darauf hin, löst eine Untersuchung aus und führt dazu, dass der Förderalgorithmus neu kalibriert wird, um unabhängig von der Einkommensklasse faire Zinssätze zu gewährleisten.
.svg)
