Glossar
Aktualisiert
Eine formelle Zuweisung von Verantwortung für jede Phase eines KI-Systems, von der Datenerfassung über die Bereitstellung bis hin zur Außerbetriebnahme. Rechenschaftspflicht bedeutet, die Rollen zu benennen (z. B. Modelleigentümer, Datenverantwortlicher, Compliance-Beauftragter), klare Eskalationspfade für Fehler zu definieren und Überprüfungsprozesse so zu verankern, dass bei jeder KI-Entscheidung, die einen Schaden oder einen Rechtsverstoß verursacht, ein dokumentierter Pfad existiert, der aufzeigt, wer die Untersuchung durchgeführt, wer Abhilfe geschaffen und wie die Organisation ein erneutes Auftreten verhindert hat.
Beispiel
Die automatisierte Kreditbewertungs-KI einer Großbank stuft einen Kunden fälschlicherweise als Risikokunden ein. Das KI-Governance-Team führt den Fehler auf einen unzureichend repräsentativen Datensatz zurück, beruft eine Taskforce zur Ursachenanalyse ein, trainiert das Modell mit ausgewogenen Daten neu, entschuldigt sich beim Kunden und aktualisiert die Richtlinien so, dass jede ähnliche Abweichung eine sofortige menschliche Überprüfung auslöst. Das zeigt klare Verantwortlichkeit und konsequente Korrekturmaßnahmen.