Recours
Mécanismes qui permettent aux personnes concernées de contester ou de remédier aux décisions prises par l'IA qui ont un impact sur leurs droits ou leurs intérêts.
Définition
Processus institutionnels (flux de recours, canaux d'évaluation humains, explicateurs automatisés) qui permettent aux utilisateurs de contester les résultats de l'IA (par exemple, refus de prêt, suppression de contenu). La gouvernance des recours définit les SLA pour la résolution des recours, la transparence requise dans l'explication des résultats et les mesures relatives à l'efficacité des recours (par exemple, le pourcentage de décisions annulées), garantissant ainsi que les organisations respectent les droits des parties concernées et améliorent la responsabilité en matière d'IA.
Exemple concret
Le portail de notation basé sur l'IA d'une agence de crédit fournit aux candidats une explication des raisons pour lesquelles leur demande a été refusée et un bouton « Demander une révision ». Dans les cinq jours ouvrables, un souscripteur humain réévalue le dossier, propose des corrections si nécessaire et informe le demandeur, conformément aux engagements de l'organisation en matière de politique de recours.
.svg)
