Dernière mise à jour :
La gouvernance de l'IA agentielle désigne le contrôle des systèmes d'intelligence artificielle capables de planifier et d'agir de manière autonome, par opposition aux systèmes qui se limitent à générer des prédictions ou du contenu. Elle définit ce qu'un agent est autorisé à faire, les limites de son autonomie, la traçabilité de ses actions, ainsi que la responsabilité juridique et opérationnelle en cas de comportement inapproprié de l'agent.
En quoi cela diffère-t-il de la gouvernance des modèles ?
Gouverner un modèle prédictif ou génératif se concentre sur la qualité de ses résultats : précision, biais, explicabilité et sécurité du contenu. Un agent ajoute une seconde dimension, qui est le comportement. Il sélectionne ses propres étapes, appelle des outils et modifie l'état de systèmes critiques. Les questions de gouvernance deviennent alors : qu'est-ce que l'agent est autorisé à toucher, que peut-il faire sans demander, jusqu'où peut-il aller avant qu'une personne n'intervienne et quelle trace subsiste après son action. Un modèle qui produit une réponse erronée entraîne une mauvaise décision ; un agent qui agit de manière incorrecte réalise une transaction finalisée.
Quels contrôles sont spécifiques aux agents ?
Quatre groupes de contrôles accomplissent l'essentiel du travail. La classification de l'autonomie établit le degré d'indépendance d'un agent donné, depuis la simple suggestion jusqu'à l'action autonome, en passant par l'action avec confirmation. L'attribution des permissions d'action définit les opérations spécifiques qu'un agent peut effectuer et les systèmes auxquels il peut accéder, des droits généralement plus restreints que le rôle humain dont il a hérité. L'escalade et les seuils fixent les conditions qui imposent une décision humaine, telles que la valeur monétaire, le niveau de confiance ou une situation non reconnue. La journalisation des actions enregistre chaque appel d'outil et chaque changement d'état afin que le comportement puisse être reconstitué ultérieurement.
D'où proviennent les attentes réglementaires ?
Il n'existe pas de loi unique sur l'IA agentique, et les attentes sont issues de plusieurs sources. Le règlement européen sur l'IA (EU AI Act) s'applique à travers sa classification des risques et ses obligations de transparence et de surveillance humaine. L'IMDA de Singapour a publié un Model AI Governance Framework for Agentic AI en janvier 2026. Dans le secteur bancaire américain, la directive SR 26-2 adopte l'approche inverse et exclut l'IA agentique de son champ d'application, ce qui laisse aux institutions le soin de définir leur propre norme et de se préparer à la défendre. Sur le plan de la sécurité, le Top 10 de l'OWASP pour les applications agentiques fournit un vocabulaire de risques partagé.
Qu'est-ce qui rend les systèmes multi-agents plus complexes ?
Dès lors que des agents font appel à d'autres agents, plusieurs hypothèses s'effondrent. L'autorité devient transitive, de sorte qu'un agent disposant de permissions restreintes peut étendre sa portée en sollicitant un autre agent doté de droits plus larges. Les défaillances se propagent, et un résultat erroné en début de chaîne est traité comme un fait avéré par l'ensemble des éléments en aval. L'attribution devient difficile, car la reconstitution de l'agent à l'origine d'un résultat nécessite des journaux corrélés entre tous les agents. Par conséquent, la gouvernance doit s'opérer sur le système dans son ensemble, et non sur chaque agent de manière isolée, grâce à une identité qui se transmet au fil des appels et à une traçabilité couvrant l'intégralité de la chaîne.
Que convient-il de mettre en place avant le déploiement ?
Un enregistrement de l'agent dans l'inventaire des IA, avec un propriétaire désigné. Une description écrite de sa finalité et des actions qu'il est autorisé à entreprendre. Un niveau d'autonomie assorti des conditions d'escalade qui le supplantent. Des identifiants propres à l'agent lui-même et non empruntés à une personne physique. Une journalisation suffisante pour expliquer ce que l'agent a fait et pourquoi. Un mécanisme d'arrêt d'urgence défini et une personne responsable de son activation. La plupart des incidents impliquant des agents découlent de l'absence de l'un de ces éléments, et non d'une défaillance du modèle sous-jacent.
Exemple concret :
Une équipe d'approvisionnement exécute un agent qui examine les factures des fournisseurs, les vérifie par rapport aux bons de commande et approuve le paiement. Cet agent est configuré pour agir avec confirmation au-delà de 2 500 livres, et de manière autonome en deçà de ce seuil. Ses identifiants de base de données lui sont propres, limités à la lecture des bons de commande et à l'écriture des approbations de paiement, sans aucun accès aux coordonnées bancaires des fournisseurs. Toute anomalie qu'il ne parvient pas à résoudre est transmise à un approbateur désigné. Chaque vérification et approbation est enregistrée avec la référence de la facture et la règle appliquée. Lorsqu'un fournisseur soumet une facture contenant des instructions intégrées dans le champ de description, la séparation effectuée par l'agent entre le contenu récupéré et les instructions empêche le détournement de l'objectif, et la tentative est consignée dans le journal d'activité à l'attention de l'équipe de sécurité.
