Blog
•
18 min de lecture
La gouvernance de l’IA agentique désigne l’ensemble des politiques, contrôles et mécanismes de supervision qui garantissent que les systèmes d’IA autonomes poursuivent leurs objectifs dans des limites de risque acceptables. Contrairement à la gouvernance de l’IA traditionnelle, centrée sur la qualité et l’équité des résultats produits par les modèles, la gouvernance de l’IA agentique porte sur les actions que ces systèmes accomplissent dans le monde réel : les outils qu’ils appellent, les données auxquelles ils accèdent et les conséquences de leurs décisions.
La plupart des organisations ont consacré les trois dernières années à bâtir des programmes de gouvernance conçus pour une génération antérieure d’IA : des classifieurs qui étiquettent, des modèles qui prédisent et des chatbots qui génèrent du texte. Ces programmes reposent sur l’hypothèse qu’un système d’IA produit un résultat, qu’un humain l’évalue et que cet humain décide de la suite à lui donner. L’IA agentique remet en cause cette hypothèse. Un système d’IA agentique reçoit un objectif de haut niveau, le décompose en sous-tâches, sélectionne et appelle des outils pour accomplir chaque étape, évalue les résultats intermédiaires et ajuste son approche, souvent au fil de dizaines de décisions, avec une intervention humaine minimale à chaque stade.
Ce basculement n’a plus rien d’hypothétique. Le rapport State of AI 2025 de McKinsey, publié en novembre 2025, indique que 23 % des organisations déploient désormais l’IA agentique à grande échelle dans au moins une partie de l’entreprise, et que 39 % supplémentaires l’expérimentent activement.[1] Fin 2025, les capacités agentiques étaient passées des démonstrations de recherche à Salesforce, Microsoft Copilot, ServiceNow, SAP et des dizaines d’autres plateformes d’entreprise. Pour les entreprises, la question n’est plus de savoir s’il faut déployer des agents d’IA, mais si leur gouvernance est en place avant que quelque chose ne tourne mal.
Cet article vise à donner aux dirigeants d’entreprise (direction générale, membres du conseil d’administration, responsables GRC et IA) une définition claire et opérationnelle de la gouvernance de l’IA agentique : ce qu’elle recouvre, ce qui la distingue de la gouvernance de l’IA que leur organisation pratique peut-être déjà, pourquoi elle compte aujourd’hui, quels cadres émergent pour y répondre et par où commencer. Pour un guide de mise en œuvre plus approfondi, structuré autour des cadres de référence, consultez le guide d’Enzai « Gouvernance de l’IA agentique : le guide de référence pour les entreprises ».
Qu’est-ce qu’un agent d’IA ?
Avant d’aller plus loin, il est utile de préciser le terme « agent d’IA ». Il est employé de manière approximative dans les supports marketing, ce qui masque ce qui change réellement du point de vue de la gouvernance.
Dans cet article, un agent d’IA désigne un système qui combine quatre éléments :
Un modèle de fondation (généralement un modèle de langage de grande taille) qui apporte la capacité de raisonnement
Un objectif, explicite (formulé par un utilisateur) ou implicite (dérivé d’un but de plus haut niveau)
Des outils : API, bases de données, environnements d’exécution de code ou autres systèmes que l’agent peut appeler pour recueillir des informations ou agir
Une boucle d’exécution dans laquelle l’agent planifie, agit, observe les résultats de ses actions et itère
Un chatbot qui répond à des questions n’est pas un agent en ce sens : il produit des résultats mais n’agit pas. Un flux de travail qui appelle un LLM pour résumer un e-mail n’est pas non plus un agent : il ne dispose d’aucune boucle de décision autonome. Un agent est un système qui, face à l’instruction « trouve le meilleur candidat pour ce poste à pourvoir », peut décider de manière autonome quelles bases de données interroger, quels candidats présélectionner, quoi communiquer à qui et quand faire remonter la décision à un humain. C’est cette autonomie qui fait la valeur des agents. C’est aussi ce qui les rend difficiles à gouverner.
Ce qui distingue la gouvernance de l’IA agentique de la gouvernance de l’IA
Le point essentiel à comprendre est que la gouvernance de l’IA agentique ne se résume pas à « la même chose, en plus ». Trois différences structurelles transforment le paysage de la gouvernance d’une manière que les cadres conventionnels n’ont jamais été conçus pour gérer.
Le risque principal passe du résultat à l’action. La gouvernance de l’IA traditionnelle se préoccupe de ce que dit un modèle : ses résultats sont-ils exacts, équitables et exempts de contenus préjudiciables ? La gouvernance de l’IA agentique se préoccupe de ce que fait un agent, et nombre de ces actions sont irréversibles. Une image mal classée peut être réétiquetée. Un e-mail envoyé au mauvais destinataire, un enregistrement supprimé d’une base de données ou une transaction financière exécutée par erreur ne peuvent pas simplement être annulés.
Les décisions uniques deviennent des chaînes en plusieurs étapes. Une seule instruction de haut niveau peut déclencher des dizaines de décisions intermédiaires : quelles bases de données interroger, quels critères pondérer, quelles actions entreprendre ensuite. Les cadres de gouvernance conçus pour des systèmes à décision unique peinent à appréhender cette complexité cumulative. Une piste d’audit qui ne consigne que les entrées et les sorties passe à côté du raisonnement qui les a produites.
L’accès statique aux outils devient un appel dynamique d’outils. Les architectures d’agents modernes permettent aux agents de découvrir et d’appeler à l’exécution des outils (API, bases de données, services web) qui n’avaient pas forcément été anticipés lors de la conception ou de l’évaluation du système. Les capacités du système le lundi peuvent différer sensiblement de celles du vendredi. L’évaluation des risques, l’évaluation de la conformité et le respect des exigences réglementaires portent ainsi sur une cible mouvante.
Ces différences se cumulent. Une comparaison côte à côte rend ce changement de gouvernance concret :
Dimension | Gouvernance de l’IA traditionnelle | Gouvernance de l’IA agentique |
|---|---|---|
Risque principal | Ce que le modèle dit (qualité des résultats, biais, précision) | Ce que l’agent fait (actions, conséquences, irréversibilité) |
Schéma de décision | Une décision par requête | Chaînes de raisonnement en plusieurs étapes ; des dizaines de décisions par tâche |
Accès aux outils et aux données | Statique, fixé au déploiement | Dynamique à l’exécution : les agents découvrent et appellent des outils |
Rôle de l’humain | Examine les résultats | Définit les limites d’action, approuve les escalades |
Modèle d’autorisation | Ouvert par défaut | Liste d’autorisation par défaut |
Mode de défaillance | Mauvaise recommandation | Mauvaise action, souvent irréversible |
Validation | Évaluation avant le déploiement | Surveillance continue et garde-fous à l’exécution |
Piste d’audit | Entrées et sorties | Chaîne de raisonnement complète, appels d’outils, étapes intermédiaires |
Ampleur des dommages | Limitée au résultat produit | Illimitée : les agents peuvent enchaîner des actions entre plusieurs systèmes |
Chaque ligne de ce tableau correspond à un point où les pratiques de gouvernance existantes seront insuffisantes si elles sont appliquées telles quelles aux agents. Les entreprises qui avancent le plus vite aujourd’hui n’abandonnent pas leurs programmes de gouvernance de l’IA : elles les enrichissent des disciplines supplémentaires qu’exige ce tableau.
Pourquoi la gouvernance de l’IA agentique compte dès aujourd’hui
Trois facteurs ont fait passer la gouvernance de l’IA agentique du statut de préoccupation prospective à celui de priorité immédiate pour les entreprises.
Le premier est l’ampleur des déploiements. Les capacités d’IA agentique sont désormais intégrées aux plateformes que la plupart des entreprises utilisent déjà. Microsoft, Salesforce, ServiceNow, SAP et des dizaines d’autres ont ajouté des fonctionnalités d’agent à leurs produits d’entreprise au cours des dix-huit derniers mois. Selon McKinsey, 23 % des organisations déploient l’IA agentique à grande échelle dans au moins une fonction, et 39 % supplémentaires l’expérimentent.[1] Les systèmes agentiques qui fonctionnent déjà au sein de la plupart des entreprises ne sont pas toujours approuvés ni visibles : beaucoup sont des fonctionnalités intégrées à des plateformes SaaS, ou des déploiements d’IA fantôme réalisés par des équipes isolées.
Le deuxième est l’arrivée de la réglementation. La définition d’un système d’IA figurant à l’article 3, point 1, de l’EU AI Act vise explicitement des systèmes conçus pour fonctionner à « différents niveaux d’autonomie » et générant des sorties « qui peuvent influencer les environnements physiques ou virtuels » : une formulation qui englobe sans difficulté les systèmes agentiques. L’ensemble des obligations applicables aux systèmes d’IA à haut risque au titre des articles 9 à 15 s’applique à compter d’août 2026, la proposition d’omnibus numérique pouvant reporter certaines échéances de l’annexe III à décembre 2027.[2] Le périmètre réglementaire couvre donc déjà l’IA agentique ; les obligations opérationnelles arrivent selon un calendrier que les entreprises ne peuvent ignorer. (Pour approfondir, consultez l’analyse d’Enzai sur l’application de l’EU AI Act à l’IA agentique ainsi que notre guide de conformité à l’EU AI Act pour les entreprises.)
Le troisième est la maturité des cadres de risque propres aux agents. En décembre 2025, l’OWASP GenAI Security Project a publié le Top 10 for Agentic Applications 2026, un catalogue évalué par des pairs des risques de sécurité les plus critiques pour les systèmes d’IA autonomes, élaboré avec la contribution de plus de 100 chercheurs et praticiens.[3] Depuis, plusieurs éditeurs ont lancé des outils de contrôle à l’exécution explicitement alignés sur ces risques. Les risques ont été nommés, hiérarchisés et outillés. Le temps où l’on pouvait dire « nous ne savons pas encore quoi gouverner » est révolu.
Palo Alto Networks a résumé la préoccupation pratique immédiate dans ses prévisions 2026 en matière de cybersécurité : les agents autonomes sont désormais « la plus grande menace interne de 2026 », et seules 6 % des organisations disposent de ce que l’éditeur qualifie de stratégie avancée de sécurité de l’IA.[4] L’écart entre le rythme d’adoption et la maturité de la gouvernance se creuse, et l’IA agentique est à l’avant-garde de cet écart.
Les risques propres à l’IA agentique
Pour ancrer le concept abstrait de gouvernance de l’IA agentique dans le concret, il est utile d’examiner les risques précis qu’elle doit traiter. Le Top 10 for Agentic Applications 2026 de l’OWASP en constitue l’inventaire public le plus rigoureux. Les dix risques se répartissent en groupes distincts :
Risques pesant sur les objectifs de l’agent : le risque le plus cité, le détournement des objectifs de l’agent (Agent Goal Hijacking, ASI01), survient lorsque des attaquants manipulent les objectifs d’un agent au moyen d’entrées piégées (e-mails, documents, pages web) que l’agent traite dans le cadre d’une tâche. Comme les agents ne savent pas distinguer de manière fiable les instructions des données, une seule entrée malveillante peut amener un agent à exécuter des actions préjudiciables en utilisant ses outils et ses accès légitimes.[3] Risque connexe : l’empoisonnement de la mémoire (Memory Poisoning, ASI06), où un attaquant altère le contexte stocké de l’agent pour influencer ses décisions futures.
Risques pesant sur les actions de l’agent : l’utilisation abusive des outils (Tool Misuse, ASI02) est le deuxième risque du classement, lorsqu’un agent utilise un outil légitime à des fins illégitimes. L’abus d’identité et de privilèges (Identity and Privilege Abuse, ASI03) couvre les cas où un agent opère avec des droits d’accès plus étendus que ne l’exige sa tâche. L’exécution de code inattendue (Unexpected Code Execution, ASI05) concerne les agents qui génèrent ou exécutent du code hors des limites prévues.
Risques pesant sur l’environnement de l’agent : les vulnérabilités de la chaîne d’approvisionnement agentique (Agentic Supply Chain Vulnerabilities, ASI04) concernent les outils, modèles et services tiers dont les agents dépendent à l’exécution. La communication inter-agents non sécurisée (Insecure Inter-Agent Communication, ASI07) vise les systèmes multi-agents dans lesquels un agent compromis peut corrompre ou contraindre les autres.
Risques pesant sur le système dans son ensemble : les défaillances en cascade (Cascading Failures, ASI08) décrivent les situations où une seule erreur d’agent se propage à travers des chaînes de systèmes interdépendants. L’exploitation de la confiance entre humain et agent (Human-Agent Trust Exploitation, ASI09) couvre les attaques d’ingénierie sociale qui exploitent la confiance des utilisateurs dans les recommandations des agents. Les agents incontrôlés (Rogue Agents, ASI10) renvoient au problème de l’inventaire et de la détection : des agents qui opèrent en dehors de tout programme de gouvernance approuvé.
Ces dix risques ne sont pas exhaustifs, mais ils constituent une référence. Selon le consensus qui se dessine dans le domaine, un programme de gouvernance de l’IA agentique qui n’apporte pas de réponse défendable à chacun d’eux est incomplet.
À quoi ressemble une bonne gouvernance de l’IA agentique
Un cadre complet de gouvernance de l’IA agentique dépasse le périmètre de cet article. Cinq dimensions de gouvernance reviennent toutefois systématiquement dans les principaux cadres de référence (OWASP, l’EU AI Act, le NIST AI RMF, le Treasury Financial Services AI RMF), et tout programme sérieux de gouvernance de l’IA agentique doit couvrir ces cinq dimensions :
Classification de l’autonomie : tous les agents n’exigent pas le même niveau de gouvernance. Classez chacun selon son niveau d’autonomie opérationnelle, de l’assistance (chaque action approuvée par un humain) à l’autonomie complète (réalisation de tâches ouvertes).
Restriction des actions : définissez ce que chaque agent est autorisé à faire, selon une approche par liste d’autorisation. Les outils, les API, les données et les seuils d’impact (par exemple, le montant maximal d’une transaction) sont autant d’objets de gouvernance.
Logique d’escalade : définissez les conditions dans lesquelles un agent doit rendre la main à un humain, comme les seuils de confiance, les seuils d’impact, la détection d’anomalies, les limites de domaine ou les conditions d’échec.
Traçabilité : consignez non seulement les entrées et les sorties, mais aussi l’intégralité de la chaîne de raisonnement, chaque appel d’outil et chaque décision intermédiaire. Les exigences de journalisation de l’article 12 de l’EU AI Act le présupposent.
Surveillance continue : performance, comportement, conformité, équité et sécurité doivent tous être suivis en temps réel. Une validation ponctuelle ne suffit pas pour des systèmes dont les capacités peuvent évoluer d’un déploiement à l’autre.
Chacune de ces dimensions a sa propre profondeur de mise en œuvre. Pour la mise en pratique, notamment une architecture de gouvernance à cinq niveaux alignée sur l’EU AI Act, la question de la responsabilité partagée entre plusieurs parties prenantes et la réponse aux incidents en cas de défaillance d’un agent, consultez le guide d’Enzai « Gouvernance de l’IA agentique : le guide de référence pour les entreprises ».
Les cinq dimensions présupposent également une capacité fondamentale : un inventaire IA qui fait apparaître chaque système agentique séparément des modèles statiques. Sans cela, le programme de gouvernance n’a pas de périmètre. Le guide d’Enzai « Comment constituer un inventaire des systèmes d’IA pour la gouvernance » détaille les exigences propres à l’inventaire des systèmes agentiques.
Idées reçues
Plusieurs idées freinent l’adoption de la gouvernance de l’IA agentique par les entreprises. Chacune est erronée et mérite d’être explicitement corrigée.
« La gouvernance agentique peut attendre une nouvelle réglementation. » Elle ne le peut pas. La définition actuelle de l’EU AI Act couvre déjà les systèmes agentiques, et les obligations relatives aux systèmes d’IA à haut risque s’appliquent à partir d’août 2026. Les organisations qui attendent une réglementation « spécifique aux agents » se retrouveront en situation de non-conformité au regard de textes déjà en vigueur.
« La gouvernance de l’IA existante couvre l’IA agentique. » Pas entièrement. Comme le montre le tableau comparatif ci-dessus, la gouvernance de l’IA traditionnelle a été conçue pour des systèmes qui produisent des résultats, et non pour des systèmes qui agissent. Pour gouverner correctement les systèmes agentiques, les programmes existants doivent être étendus : nouveaux champs dans l’inventaire, nouvelles catégories de risques, nouveaux contrôles opérationnels.
« L’IA agentique est trop récente pour être gouvernée sérieusement. » C’est faux. Dès décembre 2025, l’OWASP disposait d’un catalogue des dix principaux risques évalué par des pairs. Au deuxième trimestre 2026, plusieurs éditeurs avaient lancé des outils de contrôle à l’exécution explicitement alignés sur ces risques.[3] Les cadres et les outils existent ; la contrainte tient à la maturité des entreprises en matière d’adoption, et non à la disponibilité des cadres.
« Les politiques suffisent à elles seules. » Une politique sans mise en application n’est qu’un vœu pieux. Les agents fonctionnent à la vitesse de la machine et peuvent effectuer des dizaines d’actions par seconde. Une revue manuelle des politiques ne peut pas suivre ce rythme : la gouvernance agentique doit être mise en œuvre dans l’infrastructure (garde-fous à l’exécution, application de listes d’autorisation, déclencheurs d’escalade automatisés), et non sous forme de documents rangés dans un wiki.
« C’est un problème de sécurité, pas de gouvernance. » C’est à la fois l’un et l’autre. Les disciplines de sécurité (authentification, autorisation, validation des entrées, surveillance) sont essentielles, mais elles répondent à d’autres questions que la gouvernance : qui est responsable, comment le risque est classé, quels cadres s’appliquent, quelles preuves satisferont un régulateur. L’IA agentique a besoin des deux, qui fonctionnent de concert.
Questions fréquentes
Qu’est-ce que la gouvernance de l’IA agentique ? La gouvernance de l’IA agentique désigne l’ensemble des politiques, contrôles et mécanismes de supervision qui garantissent que les systèmes d’IA autonomes poursuivent leurs objectifs dans des limites de risque acceptables. Elle se distingue de la gouvernance de l’IA traditionnelle parce qu’elle porte sur ce que les agents font (leurs actions et leurs conséquences), et pas seulement sur ce que les modèles disent.
Qu’est-ce qu’un agent d’IA ? Un agent d’IA est un système qui combine un modèle de fondation (pour le raisonnement), un objectif, un ensemble d’outils qu’il peut appeler (API, bases de données, exécution de code) et une boucle d’exécution dans laquelle il planifie, agit, observe les résultats et itère. Sa caractéristique déterminante est la capacité à agir de manière autonome, et pas seulement à produire des résultats.
La gouvernance de l’IA agentique est-elle identique à la gouvernance de l’IA ? Non. La gouvernance de l’IA agentique est une extension spécialisée de la gouvernance de l’IA. La gouvernance de l’IA traditionnelle porte sur les résultats des modèles (précision, biais, équité, contenu). La gouvernance de l’IA agentique doit en outre traiter l’action autonome, le raisonnement en plusieurs étapes, l’appel dynamique d’outils et l’irréversibilité de nombreuses actions des agents.
L’EU AI Act couvre-t-il les agents d’IA ? Oui. La définition d’un système d’IA à l’article 3, point 1, de l’EU AI Act vise explicitement des systèmes conçus pour fonctionner à « différents niveaux d’autonomie » et générant des sorties « qui peuvent influencer les environnements physiques ou virtuels » : une formulation qui englobe les systèmes agentiques. Lorsqu’un système agentique relève d’une catégorie à haut risque de l’annexe III, l’ensemble des obligations des articles 9 à 15 s’applique, l’échéance d’août 2026 pouvant être reportée par la proposition d’omnibus numérique.
Qu’est-ce que le Top 10 for Agentic Applications de l’OWASP ? Un catalogue évalué par des pairs des dix risques de sécurité les plus critiques pour les systèmes d’IA autonomes, publié par l’OWASP GenAI Security Project en décembre 2025. La liste comprend le détournement des objectifs de l’agent, l’utilisation abusive des outils, l’abus d’identité et de privilèges, les vulnérabilités de la chaîne d’approvisionnement agentique, l’exécution de code inattendue, l’empoisonnement de la mémoire, la communication inter-agents non sécurisée, les défaillances en cascade, l’exploitation de la confiance entre humain et agent et les agents incontrôlés.[3]
Comment la norme ISO 42001 s’applique-t-elle aux agents d’IA ? L’ISO/IEC 42001, norme internationale relative aux systèmes de management de l’IA, s’applique à l’IA agentique comme aux autres systèmes d’IA. Ses exigences en matière d’évaluation des risques, de supervision humaine et de surveillance continue sont directement pertinentes. Les organisations qui visent la certification doivent s’assurer que leur système de management de l’IA couvre explicitement les déploiements d’agents autonomes, et pas seulement les applications d’IA conventionnelles.
Quelle est la première étape pour gouverner les agents d’IA ? Constituer un inventaire IA qui fait apparaître les systèmes agentiques séparément des modèles statiques. Sans un recensement précis des agents existants, de ce qu’ils sont autorisés à faire et de leurs responsables, aucune autre étape de gouvernance n’est possible.
Quelle est la différence entre l’IA agentique et l’IA générative ? L’IA générative crée du contenu (texte, images, audio) ; l’IA agentique agit dans le monde réel. De nombreux systèmes agentiques reposent sur des modèles d’IA générative, mais le changement de gouvernance tient à la capacité d’action qui s’y ajoute, et non à l’architecture générative sous-jacente.
Pour aller plus loin
Pour les organisations qui débutent dans la gouvernance de l’IA agentique, la priorité est d’établir la visibilité : un inventaire IA qui fait apparaître spécifiquement les systèmes agentiques, associé à une classification de l’autonomie pour chacun d’eux. Pour les organisations plus avancées, le travail est opérationnel : mettre en place des restrictions par liste d’autorisation, des garde-fous à l’exécution et une logique d’escalade adaptés au niveau d’autonomie de chaque agent.
Le guide complet de mise en œuvre d’Enzai figure dans « Gouvernance de l’IA agentique : le guide de référence pour les entreprises », qui couvre le cadre de gouvernance à cinq niveaux, la responsabilité partagée entre parties prenantes, la réponse aux incidents et la correspondance des exigences avec l’EU AI Act, l’ISO 42001 et le NIST AI RMF.
Si vous souhaitez voir comment la plateforme d’Enzai prend en charge spécifiquement la gouvernance de l’IA agentique (classification de l’autonomie dès le processus de demande, autorisation d’actions en production, pistes d’audit pour chaque étape de raisonnement et surveillance continue de l’ensemble du parc agentique), réservez une démonstration.
Enzai est la principale plateforme de gouvernance de l’IA d’entreprise, conçue spécifiquement pour aider les organisations à passer de politiques abstraites à une supervision opérationnelle. Notre plateforme de gestion des risques liés à l’IA fournit l’infrastructure spécialisée nécessaire pour piloter la gouvernance de l’IA agentique, tenir à jour un inventaire IA exhaustif et garantir la conformité à l’EU AI Act. En automatisant des flux de travail complexes, Enzai permet aux entreprises de déployer l’IA à grande échelle en toute confiance, tout en restant alignées sur des normes internationales comme l’ISO 42001 et le NIST.
Références
McKinsey & Company, « The State of AI in 2025: Agents, Innovation, and Transformation », novembre 2025.
Règlement (UE) 2024/1689 du Parlement européen et du Conseil, articles 3, point 1, 9 à 15, 113 et 114. Journal officiel de l’Union européenne, août 2024. La proposition d’omnibus numérique sur l’IA de la Commission européenne (novembre 2025) pourrait modifier les échéances de l’annexe III, sous réserve des négociations en trilogue.
OWASP GenAI Security Project, « OWASP Top 10 for Agentic Applications 2026 », publié le 10 décembre 2025.
Palo Alto Networks, « 2026 Cybersecurity Predictions » et « AI agents 2026's biggest insider threat » (article de The Register), janvier 2026.
Certifié ISO 27001 depuis 2023, audité chaque année par NQA
Traitement des données aligné sur le RGPD
Données clients hébergées sur AWS dans plusieurs régions
Utilisez votre propre modèle d’IA via une connexion privée
Identifiez l’IA utilisée par vos équipes, examinez-la avant sa mise en service, évaluez-la au regard des règles applicables et contrôlez ce que les agents peuvent faire. Conçu pour les organisations réglementées.