Bewertung potenzieller negativer Auswirkungen (physisch, psychologisch, gesellschaftlich) von KI-Systemen und Definition von Minderungsstrategien.
Eine zielgerichtete Überprüfung, die Schäden (Sicherheit, Datenschutz, wirtschaftliche und reputationsbezogene Schäden) kategorisiert, die für die KI-Anwendung spezifisch sind. Sie nutzt ein Stakeholder-Impact-Mapping, eine Schweregrad-Wahrscheinlichkeits-Bewertung und eine Minderungsplanung (Designänderungen, Schutzmechanismen, menschliche Aufsicht). Die Ergebnisse fließen in Risikoregister ein und informieren darüber, ob das System weitergeführt, pausiert oder neu konzipiert werden sollte.
Bevor eine Bank eine KI für automatisierte Kreditentscheidungen einführt, führt sie eine Schadensbewertung durch: Sie identifiziert potenzielle wirtschaftliche Schäden (Verweigerung von Dienstleistungen), Reputationsschäden (öffentliche Gegenreaktionen) und schlägt Minderungsmaßnahmen vor (Einspruchsverfahren, externe Prüfungsgremien). Dadurch wird sichergestellt, dass Entscheidungswege und Kanäle zur Nutzerunterstützung vor der Einführung vorhanden sind.
