Glossar
Aktualisiert
Institutionelle Prozesse wie Einspruchsverfahren, manuelle Überprüfungskanäle und automatisierte Erklärungsmodelle, die es Nutzern ermöglichen, KI-Entscheidungen (z. B. Kreditablehnungen, Deaktivierung von Inhalten) anzufechten. Die Governance von Abhilfemaßnahmen definiert Service Level Agreements (SLAs) für die Bearbeitung von Einsprüchen, die erforderliche Transparenz bei der Begründung von Entscheidungen sowie Kennzahlen zur Wirksamkeit von Rechtsbehelfen (z. B. der Prozentsatz aufgehobener Entscheidungen). Dies stellt sicher, dass Organisationen die Rechte betroffener Parteien wahren und die Rechenschaftspflicht von KI-Systemen stärken.
Beispiel
Das KI-basierte Scoring-Portal einer Kreditauskunftei liefert Antragstellern eine Erklärung, warum ihr Antrag abgelehnt wurde, sowie eine Schaltfläche „Überprüfung anfordern“. Innerhalb von fünf Werktagen bewertet ein menschlicher Prüfungsexperte den Fall neu, nimmt gegebenenfalls Korrekturen vor und informiert den Antragsteller. Damit erfüllt die Organisation ihre Verpflichtungen zur Gewährung von Rechtsbehelfen.