Zuletzt aktualisiert am:
Eine strukturierte Bewertung zur Identifizierung, Analyse und Abschwächung potenzieller ethischer, rechtlicher und gesellschaftlicher Auswirkungen eines KI-Systems vor dessen Bereitstellung.
Ein formaler Prozess – oft nach dem Vorbild von Umweltverträglichkeitsprüfungen –, bei dem multidisziplinäre Teams KI-Anwendungsfälle für Stakeholder-Gruppen kartieren, potenzielle Risiken (Datenschutz, Voreingenommenheit, Sicherheit) aufzählen, deren Schweregrad und Wahrscheinlichkeit bewerten und Minderungsmaßnahmen vorschreiben. Das Ergebnis ist ein „Wirkungsregister“ und ein Aktionsplan, die vor jeder Freigabe für die Produktion von den Governance-Gremien genehmigt werden müssen.
Praxisbeispiel:
Vor der Einführung eines automatisierten HR-Vorauswahlverfahrens führt eine HR-Abteilung eine Folgenabschätzung durch: Sie simuliert Bewerber-Pipelines, identifiziert Risiken geschlechtsspezifischer Voreingenommenheit, stuft diese als hochrelevant ein, entwirft einen Plan zur Risikominderung (diverse Trainingsdaten, menschliche Überprüfung) und holt die Freigabe von Rechts- und Ethikausschüssen ein.
