Dernière mise à jour :
Des mécanismes permettant à des personnes désignées de surveiller, d'intervenir ou d'annuler les décisions d'un système d'IA afin de garantir la conformité éthique et légale.
Contrôles formalisés - étapes d'approbation, boutons de contournement, tableaux de bord d'audit - permettant aux experts de suspendre ou de corriger les résultats de l'IA en temps réel. Les cadres de supervision humaine définissent les rôles, les critères de décision et les SLA pour les interventions. La gouvernance suit les interventions de supervision (quand, par qui, résultats) afin d'ajuster les seuils de confiance de l'IA et d'améliorer les futurs niveaux d'autonomie.
Exemple concret :
Dans le cadre des transactions financières, un algorithme basé sur l'IA propose des positions importantes. Le système exige une validation manuelle par un responsable des risques pour les transactions dépassant 5 millions de dollars. La plateforme enregistre chaque décision d'arbitrage, en consignant les motivations du responsable, garantissant ainsi à la fois la rapidité d'exécution et le contrôle humain sur les opérations de grande valeur.
