Last updated:
Eine strukturierte Bewertung zur Identifizierung, Analyse und Minderung potenzieller ethischer, rechtlicher und gesellschaftlicher Auswirkungen eines KI-Systems vor dessen Einsatz.
Ein formaler Prozess – häufig nach dem Vorbild von Umweltverträglichkeitsprüfungen modelliert – bei dem multidisziplinäre Teams KI-Anwendungsfälle den Stakeholder-Gruppen zuordnen, potenzielle Schäden (Datenschutz, Verzerrung, Sicherheit) erfassen, deren Schweregrad und Eintrittswahrscheinlichkeit bewerten und Maßnahmen zur Risikominderung festlegen. Er führt zu einem „Impact-Register“ und einem Aktionsplan, die vor jeder Produktionsfreigabe von Governance-Gremien genehmigt werden müssen.
Real world example:
Bevor eine Personalabteilung ein automatisiertes Bewerber-Screening einführt, führt sie eine Folgenabschätzung durch: Sie simuliert Kandidaten-Pipelines, identifiziert Risiken geschlechtsspezifischer Verzerrungen, stuft diese als hochwirksam ein, entwickelt einen Plan zur Verzerrungsminderung (diverse Trainingsdaten, menschliche Überprüfung) und holt die Freigabe von Rechts- und Ethikgremien ein.
