KI-Risiko
Das Potenzial von KI-Systemen, Schaden oder unbeabsichtigte Folgen zu verursachen, einschließlich ethischer, rechtlicher und betrieblicher Risiken.
Definition
Das Spektrum potenzieller negativer Folgen — technisches Versagen, unfaire Behandlung, Datenschutzverletzungen, Rechtsverstöße, Rufschädigung — wird qualitativ oder quantitativ quantifiziert und dient als Richtschnur für Regierungsentscheidungen.
Real-World Example
Ein Versicherer quantifiziert potenzielle Verluste, wenn seine KI für die Schadensbearbeitung hochwertige Schadensfälle fälschlicherweise als risikoarm einstuft. Sie weisen zusätzliche Kapitalreserven zu und integrieren Schritte zur manuellen Überprüfung von Schadensfällen mit hohem Wert, um das betriebliche Risiko und das Reputationsrisiko zu minimieren.
.svg)
