Folgenabschätzung
Eine strukturierte Bewertung zur Identifizierung, Analyse und Minderung potenzieller ethischer, rechtlicher und gesellschaftlicher Auswirkungen eines KI-Systems vor dem Einsatz.
Definition
Ein formaler Prozess — der oft Umweltverträglichkeitsstudien nachempfunden ist —, bei dem multidisziplinäre Teams KI-Anwendungsfälle den Interessengruppen zuordnen, mögliche Schäden (Datenschutz, Vorurteile, Sicherheit) aufzählen, deren Schweregrad und Wahrscheinlichkeit bewerten und Abhilfemaßnahmen vorschreiben. Es erstellt ein „Wirkungsregister“ und einen Aktionsplan, die vor der Veröffentlichung der Produktion von den Leitungsgremien genehmigt werden müssen.
Real-World Example
Vor der Einführung eines automatisierten Einstellungs-Screeners führt eine Personalabteilung eine Folgenabschätzung durch: Sie simuliert die Kandidatenpipeline, identifiziert Risiken geschlechtsspezifischer Vorurteile, bewertet sie als besonders wirksam, entwirft einen Plan zur Minderung von Vorurteilen (vielfältige Schulungsdaten, menschliche Überprüfung) und sorgt für die Genehmigung durch Rechts- und Ethikkommissionen.
.svg)
