KI-Rechenschaftspflicht
Die Verpflichtung der Entwickler und Betreiber von KI-Systemen, sicherzustellen, dass ihre Systeme verantwortungsbewusst entworfen und verwendet werden, wobei ethische Standards und gesetzliche Anforderungen eingehalten werden.
Definition
Eine formelle Zuweisung der Verantwortung für jede Phase eines KI-Systems — von der Datenerfassung über die Bereitstellung bis hin zur Außerbetriebnahme. Rechenschaftspflicht bedeutet, die Rollen zu benennen (z. B. Model Owner, Data Steward, Compliance Officer), klare Eskalationspfade für Fehler zu definieren und Überprüfungsprozesse so einzubetten, dass immer dann, wenn eine KI-Entscheidung zu einem Schaden oder einer Rechtsverletzung führt, dokumentiert wird, wer die Untersuchung durchgeführt hat, wer Abhilfe geschaffen hat und wie das Unternehmen eine Wiederholung verhindert hat.
Real-World Example
Die automatische KI einer Großbank zur Kreditbewertung stuft einen Kunden fälschlicherweise als risikoreich ein. Das KI-Governance-Team führt den Fehler auf einen unzureichend repräsentativen Datensatz zurück, beruft eine Arbeitsgruppe zur „Grundursache“ ein, trainiert das Modell anhand ausgewogener Daten neu, entschuldigt sich beim Kunden und aktualisiert die Richtlinien, sodass jede ähnliche Diskrepanz eine sofortige menschliche Überprüfung auslöst — was eine klare Verantwortung und Korrekturmaßnahmen aufzeigt.
.svg)
