Une norme réglementaire et opérationnelle garantissant que les humains conservent la capacité de superviser, d'intervenir et de contrecarrer les processus décisionnels de l'IA.
Dans le contexte de l’IA agentique, le « contrôle » ne signifie pas nécessairement qu’un humain doive approuver chaque microdécision, ce qui annulerait les gains de rapidité offerts par l’automatisation. Il renvoie plutôt à la conception du système : définir des limites opérationnelles claires, garantir que l’IA soit transparente quant à son statut de machine, et mettre en place un « interrupteur d’arrêt d’urgence » fonctionnel permettant à un opérateur humain d’arrêter immédiatement le système s’il s’écarte de ses objectifs initiaux ou de ses paramètres de sécurité.
Une entreprise de logistique utilise un planificateur d’IA autonome pour acheminer les camions de livraison en temps réel. Un « contrôle humain significatif » est assuré non pas par un répartiteur validant chaque manœuvre, mais par un tableau de bord qui permet au répartiteur de définir des « zones interdites » et de rappeler instantanément tous les camions au dépôt (le coupe-circuit) en cas d’alerte météorologique sévère ou de dysfonctionnement du système.
