Zuletzt aktualisiert am:
Mechanismen, die es betroffenen Personen ermöglichen, KI-gestützte Entscheidungen, welche ihre Rechte oder Interessen beeinträchtigen, anzufechten oder diesbezüglich Rechtsbehelfe einzulegen.
Institutionelle Prozesse – wie Einspruchsverfahren, manuelle Überprüfungskanäle und automatisierte Erklärungsmodelle –, die es Nutzern ermöglichen, KI-Entscheidungen (z. B. Kreditreklamationen, Deaktivierung von Inhalten) anzufechten. Die Governance von Abhilfemaßnahmen definiert Service Level Agreements (SLAs) für die Bearbeitung von Einsprüchen, die erforderliche Transparenz bei der Begründung von Entscheidungen sowie Kennzahlen zur Wirksamkeit von Rechtsbehelfen (z. B. der Prozentsatz aufgehobener Entscheidungen). Dies stellt sicher, dass Organisationen die Rechte betroffener Parteien wahren und die Rechenschaftspflicht von KI-Systemen stärken.
Praxisbeispiel:
Das KI-basierte Scoring-Portal einer Kreditauskunftei liefert Antragstellern eine Erklärung, warum ihr Antrag abgelehnt wurde, sowie eine Schaltfläche „Überprüfung anfordern“. Innerhalb von fünf Werktagen bewertet ein menschlicher Prüfungsexperte den Fall neu, nimmt gegebenenfalls Korrekturen vor und informiert den Antragsteller – was den Verpflichtungen der Organisation zur Gewährung von Rechtsbehelfen entspricht.
