Glossaire
Mis à jour
Dans le contexte de l'IA agentique, le « contrôle » ne signifie pas nécessairement qu'un être humain doit approuver chaque micro-décision, ce qui annulerait les gains de rapidité apportés par l'automatisation. Il fait plutôt référence à la conception même du système : définir des limites opérationnelles claires, garantir la transparence de l'IA quant à sa nature de machine, et mettre en œuvre un bouton d'arrêt d'urgence fonctionnel permettant à un opérateur humain de stopper immédiatement le système si celui-ci s'écarte de ses objectifs initiaux ou de ses paramètres de sécurité.
Exemple
Une entreprise de logistique utilise un planificateur IA autonome pour acheminer ses camions de livraison en temps réel. Le « contrôle humain significatif » n'est pas assuré par un régulateur qui validerait chaque changement de direction, mais par un tableau de bord qui lui permet de définir des « zones d'exclusion » et de rappeler instantanément tous les camions au dépôt (le bouton d'arrêt d'urgence) en cas d'alerte météo grave ou de dysfonctionnement du système.