Supervision humaine
Mécanismes qui permettent à des personnes désignées de surveiller, d'intervenir ou d'annuler les décisions relatives aux systèmes d'IA afin de garantir la conformité éthique et légale.
Définition
Contrôles formalisés (portes d'approbation, boutons de remplacement, tableaux de bord d'audit) permettant aux experts de suspendre ou de corriger les résultats de l'IA en temps réel. Les cadres de supervision humaine définissent les rôles, les critères de décision et les SLA pour l'intervention. La gouvernance suit les interventions de supervision (quand, par qui, quels résultats) afin d'itérer sur les seuils de confiance liés à l'IA et d'améliorer les futurs niveaux d'autonomie.
Exemple concret
Dans le trading financier, un algorithme piloté par l'IA propose des positions importantes. Le système nécessite l'approbation manuelle d'un responsable des risques pour les transactions supérieures à 5 millions de dollars. La plateforme enregistre chaque décision d'annulation, saisit les raisons motivées par les agents, garantissant à la fois rapidité et contrôle humain sur les opérations à forte valeur ajoutée.
.svg)
