Last updated:
La gouvernance des systèmes d'IA autonomes capables d'exécuter des actions indépendantes (par exemple, des transactions, le déploiement de code) se distingue de l'IA prédictive (qui fournit des insights) et de l'IA générative (qui crée du contenu).
Contrairement à la gouvernance de l’IA standard, qui se concentre sur la précision des modèles, les biais et la modération du contenu, la gouvernance agentique met l’accent sur les autorisations et les limites opérationnelles. Elle traite le « risque actif » des agents — des systèmes capables d’interagir avec le monde réel. Les principaux contrôles incluent des mécanismes de « contrôle humain significatif », des dispositifs d’arrêt d’urgence automatisés et des architectures de « gestion des autorisations » qui limitent le niveau d’autorité d’un agent (par exemple, accès en lecture seule vs accès en écriture) en fonction de son niveau de risque.
Real world example:
Une entreprise de services financiers déploie un agent autonome de service client autorisé à traiter des remboursements. Les protocoles de gouvernance agentique limitent l’agent à un plafond maximal de remboursement de 50 $ par transaction. Si l’agent tente de traiter un remboursement de 5 000 $ en raison d’une hallucination ou d’une erreur, la couche de gouvernance (le « garde-fou ») bloque automatiquement l’action et la signale pour examen humain, évitant ainsi une perte financière.
