Mechanismen, die betroffenen Personen ermöglichen, KI-gesteuerte Entscheidungen, die ihre Rechte oder Interessen betreffen, anzufechten oder eine Abhilfe zu suchen.
Institutionelle Prozesse – Einspruchs-Workflows, Kanäle für menschliche Überprüfung und automatisierte Erklärungsmechanismen – ermöglichen es Nutzern, KI-Ergebnisse (z. B. Kreditablehnungen oder die Entfernung von Inhalten) anzufechten. Recourse Governance definiert Service-Level-Agreements (SLAs) für die Bearbeitung von Einsprüchen, die erforderliche Transparenz bei Ergebnisbegründungen sowie Kennzahlen zur Wirksamkeit von Rechtsbehelfen (z. B. den Prozentsatz revidierter Entscheidungen). So wird sichergestellt, dass Organisationen die Rechte betroffener Parteien wahren und die Rechenschaftspflicht von KI kontinuierlich verbessern.
Das KI-basierte Scoring-Portal einer Kreditauskunftei bietet Antragstellern eine Erklärung, warum ihr Antrag abgelehnt wurde, sowie eine Schaltfläche „Überprüfung anfordern“. Innerhalb von fünf Geschäftstagen bewertet ein menschlicher Kreditprüfer den Fall erneut, nimmt bei Bedarf Korrekturen vor und informiert den Antragsteller über den aktualisierten Stand – und erfüllt damit die Verpflichtungen der Organisation aus ihrer Rückgriffsrichtlinie.
