Glossar
Aktualisiert
Ein formaler Prozess, oft nach dem Vorbild von Umweltverträglichkeitsprüfungen, bei dem multidisziplinäre Teams KI-Anwendungsfälle Stakeholder-Gruppen zuordnen, potenzielle Schäden (Datenschutz, Voreingenommenheit, Sicherheit) aufzählen, deren Schweregrad und Wahrscheinlichkeit bewerten und Minderungsmaßnahmen vorschreiben. Das Ergebnis ist ein „Wirkungsregister“ und ein Aktionsplan, die vor jeder Freigabe für die Produktion von den Governance-Gremien genehmigt werden müssen.
Beispiel
Vor der Einführung eines automatisierten HR-Vorauswahlverfahrens führt eine HR-Abteilung eine Folgenabschätzung durch: Sie simuliert Bewerber-Pipelines, identifiziert Risiken geschlechtsspezifischer Voreingenommenheit, stuft diese als hochrelevant ein, entwirft einen Plan zur Risikominderung (diverse Trainingsdaten, menschliche Überprüfung) und holt die Freigabe von Rechts- und Ethikausschüssen ein.
