Last updated:
Des mécanismes permettant à des individus désignés de surveiller, intervenir ou remplacer les décisions des systèmes d'IA afin d'assurer le respect des normes éthiques et légales.
Des contrôles formalisés — points d’approbation, boutons de substitution, tableaux de bord d’audit — permettent aux experts de suspendre ou de corriger les résultats de l’IA en temps réel. Les cadres de supervision humaine définissent les rôles, les critères de décision et les SLA d’intervention. La gouvernance suit les interventions de supervision (quand, par qui, résultats) afin d’ajuster les seuils de confiance accordée à l’IA et d’améliorer les niveaux d’autonomie futurs.
Real world example:
Dans le domaine du trading financier, un algorithme piloté par l’IA propose des positions importantes. Le système exige une validation manuelle par un responsable des risques pour les transactions dépassant 5 M$. La plateforme consigne chaque décision de dérogation, en enregistrant la justification du responsable, garantissant à la fois rapidité et contrôle humain sur les opérations de grande valeur.
