Schadensbeurteilung
Bewertung potenzieller negativer Auswirkungen (physisch, psychisch, gesellschaftlich) von KI-Systemen und Definition von Minderungsstrategien.
Definition
Eine gezielte Überprüfung, die Schäden (Sicherheit, Datenschutz, Wirtschaft, Reputation), die für die KI-Anwendung spezifisch sind, kategorisiert. Dabei werden die Auswirkungen der Stakeholder, die Bewertung des Schweregrads und die Planung zur Schadensbegrenzung (Konstruktionsänderungen, Leitplanken, menschliche Aufsicht) verwendet. Die Ergebnisse fließen in Risikoregister ein und geben Aufschluss darüber, ob das System fortgesetzt, unterbrochen oder neu gestaltet werden sollte.
Real-World Example
Vor der Einführung einer KI zur automatisierten Kreditentscheidung führt eine Bank eine Schadensanalyse durch: Sie identifiziert potenzielle wirtschaftliche Schäden (Denial of Services) und Reputationsschäden (öffentliche Gegenreaktion) und schlägt Abhilfemaßnahmen vor (Berufungsverfahren, externe Prüfungsgremien). Auf diese Weise wird sichergestellt, dass vor der Einführung Entscheidungswege und Kanäle zur Unterstützung der Nutzer vorhanden sind.
.svg)
