Blog
•
14 min de lecture
Les entreprises encadrent l’IA agentique en enregistrant chaque agent, en le classant selon son autonomie et son rayon d’impact, en limitant les actions qu’il peut mener, en maintenant un humain sur les décisions lourdes de conséquences et en journalisant chaque étape. Ce qui change avec la taille de l’entreprise, c’est le degré de formalisation : un responsable désigné et un bouton d’arrêt à 500 salariés, trois lignes de défense et une validation indépendante à 10 000.
Pourquoi l’IA agentique met-elle en échec la gouvernance pensée pour les modèles ?
Un modèle produit un score ou un passage de texte, et un humain décide de ce qu’il en fait. Un agent reçoit un objectif, planifie une suite d’étapes, appelle des outils et des API, lit les résultats et agit de nouveau. L’objet de la gouvernance devient une politique d’action.
Cinq propriétés sont à l’origine du problème. Le plan n’est pas déterministe : deux exécutions à partir du même prompt peuvent emprunter des chemins différents à travers les mêmes outils. L’agent détient des identifiants, si bien que ses permissions comptent davantage que sa précision. Il peut dériver de l’objectif fixé au fil d’une longue chaîne sans qu’aucune étape ne paraisse erronée. Les agents appellent d’autres agents, de sorte qu’une défaillance se propage. Enfin, le modèle de base peut changer à la faveur d’une mise à jour du fournisseur, ce qui invalide les tests du trimestre précédent.
L’OWASP Top 10 for Agentic Applications, publié le 9 décembre 2025 par l’Agentic Security Initiative de l’OWASP GenAI Security Project, désigne les modes de défaillance qui en résultent par les codes ASI01 à ASI10. Il s’agit d’un document distinct de l’OWASP Agentic Skills Top 10.
Code | Nom |
|---|---|
ASI01 | Détournement de l’objectif de l’agent |
ASI02 | Usage abusif des outils |
ASI03 | Abus d’identité et de privilèges |
ASI04 | Vulnérabilités de la chaîne d’approvisionnement agentique |
ASI05 | Exécution de code inattendue |
ASI06 | Empoisonnement de la mémoire et du contexte |
ASI07 | Communication inter-agents non sécurisée |
ASI08 | Défaillances en cascade |
ASI09 | Exploitation de la confiance entre humain et agent |
ASI10 | Agents incontrôlés |
Le guide d’Enzai sur la gouvernance de l’IA agentique présente les cinq niveaux de contrôle qui répondent à ces risques. Cet article examine quelle part de ce dispositif est nécessaire à une entreprise selon sa taille, et dans quel ordre.
Quels référentiels s’appliquent aujourd’hui à la gouvernance de l’IA agentique ?
L’IMDA de Singapour a lancé le Model AI Governance Framework for Agentic AI le 22 janvier 2026, lors du Forum économique mondial. Il structure ses recommandations en quatre dimensions : évaluer et circonscrire les risques en amont, rendre les humains réellement responsables, mettre en œuvre des contrôles et des processus techniques, et favoriser la responsabilité des utilisateurs finaux. Selon des synthèses de cabinets d’avocats, une mise à jour du 20 mai 2026 ajoute des études de cas, les risques liés aux systèmes multi-agents et aux agents tiers, ainsi que des recommandations sur le biais d’automatisation, notamment le suivi des taux de dérogation humaine. L’entrée du glossaire d’Enzai consacrée au cadre singapourien retrace sa genèse.
L’EU AI Act est neutre sur le plan technologique. Son article 3, point 1), définit un système d’IA comme un système « conçu pour fonctionner à différents niveaux d’autonomie » : un agent est donc un système d’IA, et son cas d’usage détermine sa classe de risque. Les obligations relatives aux modèles d’IA à usage général prévues au chapitre V s’appliquent depuis le 2 août 2025. L’omnibus numérique sur l’IA, règlement (UE) 2026/1744, est entré en vigueur le 27 juillet 2026 et a reporté au 2 décembre 2027 les obligations applicables aux systèmes d’IA à haut risque de l’annexe III, et au 2 août 2028 celles de l’annexe I. La note d’Enzai sur les nouvelles échéances recense ce qui n’a pas changé.
Le NIST Generative AI Profile (NIST AI 600-1, juillet 2024) rattache douze catégories de risques aux quatre fonctions de l’AI RMF. Il ne mentionne les agents autonomes qu’une seule fois, en tant que menace de sécurité : considérez-le comme un socle, et non comme un cadre dédié aux agents.
Comment le niveau d’autonomie doit-il déterminer les contrôles ?
Classez le déploiement, pas le modèle. Le même modèle de fondation peut faire fonctionner un assistant de rédaction comme un agent qui déplace des fonds.
Niveau d’autonomie | Ce que l’agent peut faire | Contrôles minimaux | Approbation et revue |
|---|---|---|---|
Assistance | Lire des données et proposer ; un humain exécute chaque action | Enregistré dans l’inventaire avec un responsable désigné ; journalisation des prompts et des sorties ; politique standard d’utilisation acceptable de l’IA | Validation par le responsable ; revue annuelle |
Supervisé | Exécuter des actions à faible enjeu ; un humain approuve toute action importante avant son exécution | Liste d’autorisation des outils et des paramètres ; points de contrôle humains définis ; journalisation de chaque appel d’outil au niveau de la session ; procédure d’arrêt documentée | Approbation par la fonction gouvernance ; revue à chaque changement de modèle de base et au moins semestrielle |
Autonome encadré | Agir dans les limites d’une liste d’autorisation sans approbation action par action ; faire remonter les exceptions | Limites d’impact (valeur, nombre d’enregistrements, réversibilité) ; déclencheurs d’escalade ; tests indépendants avant la mise en production ; journal des actions immuable ; coupe-circuit testé et activable en quelques secondes ; suivi de la distribution des actions et des taux de dérogation | Approbateur distinct du concepteur ; revue trimestrielle ; nouvelle approbation en cas de changement de périmètre |
Entièrement autonome | Tâches ouvertes avec un large accès aux outils | Tout ce qui précède, plus une surveillance comportementale continue, des plafonds de récursion multi-agents, un plan de réponse aux incidents testé en exercice et une justification écrite expliquant pourquoi un niveau inférieur ne suffisait pas | Comité des risques ou équivalent ; validation indépendante ; visibilité au niveau du conseil d’administration |
Comment les entreprises de 250 à 1 000 salariés encadrent-elles l’IA agentique ?
Une entreprise de cette taille n’a pas de deuxième ligne de défense et ne devrait pas en créer une pour les agents. Une gouvernance proportionnée consiste ici à bien faire cinq choses.
Tenez un registre central de tous les agents, y compris ceux créés dans les plateformes SaaS que l’entreprise paie déjà, en consignant le responsable, la finalité, les systèmes dans lesquels l’agent peut écrire et son niveau d’autonomie. Mettez en place un processus de demande léger : un formulaire d’une page qui classe selon la sensibilité des données, l’autonomie et la réversibilité, examiné par la personne chargée des risques ou de la sécurité. Désignez pour chaque agent un responsable capable d’en répondre. Exigez qu’un humain approuve toute action qui engage une dépense, modifie une fiche client ou envoie quoi que ce soit à l’extérieur, tant que l’agent n’a pas fait ses preuves. Enfin, définissez un coupe-circuit : qui peut arrêter l’agent, comment et en combien de temps, testé avant la mise en production.
Ce dont une entreprise de cette taille n’a pas besoin, c’est d’une structure à trois lignes de défense, d’une équipe de validation indépendante ou d’un comité. À titre d’illustration, un éditeur de logiciels de 600 personnes disposant d’agents dans le support client, les opérations financières et la recherche commerciale peut s’appuyer sur un registre, un formulaire et une revue toutes les deux semaines, sous la responsabilité du responsable de l’IA ou de la sécurité.
Comment les entreprises de 1 000 à 10 000 salariés encadrent-elles l’IA agentique ?
Entre 1 000 et 10 000 salariés, le registre ne suffit plus. Plusieurs équipes que le responsable de la gouvernance ne pilote pas construisent des agents, et au moins l’un d’eux touche à une décision réglementée ou à un client.
Le processus de demande devient obligatoire. Aucun cas d’usage ne peut passer en production sans une approbation consignée indiquant qui l’a examiné, quelles preuves ont été examinées et pourquoi il a été accepté. Le guide du processus de demande en détaille la conception ; le workflow de cas d’usage et d’initiatives d’Enzai classe les demandes selon le type de cas d’usage, la sensibilité des données et l’autonomie, et journalise chaque approbation ou refus avec les examinateurs, les preuves et la justification.
La segmentation des risques repose sur deux variables : le niveau d’autonomie du tableau ci-dessus et le rayon d’impact, c’est-à-dire ce que l’agent peut atteindre et le degré de réversibilité de ses actions. Un agent de recherche en lecture seule et un agent qui écrit dans le système de facturation ne sont pas gouvernés de la même manière, même s’ils reposent sur le même modèle.
C’est ici que commence la séparation entre concepteurs et approbateurs. L’équipe qui construit un agent ne devrait pas l’approuver pour le niveau « Autonome encadré ». La conservation des preuves devient un enjeu en soi : résultats de tests, listes d’autorisation et approbations, rattachés à l’agent et à la version du modèle de base sur laquelle il a été testé.
Les agents des fournisseurs entrent en jeu. Les agents intégrés à un CRM, à une plateforme RH ou à un centre de services disposent des permissions du fournisseur au sein de votre environnement, et le fournisseur peut changer de modèle sans préavis. Chacun d’eux doit figurer dans l’inventaire IA et faire l’objet d’une évaluation du fournisseur ; le guide d’Enzai sur les risques liés à l’IA des fournisseurs détaille les questions à poser.
Comment les grandes entreprises de plus de 10 000 salariés ou des secteurs réglementés encadrent-elles l’IA agentique ?
À cette échelle, ou dans tout secteur réglementé quel que soit l’effectif, la gouvernance agentique devient un environnement de contrôle qu’une autorité de surveillance peut examiner.
Le modèle des trois lignes de défense s’applique. Les métiers détiennent et exploitent les agents ; une fonction risques ou conformité de deuxième ligne fixe la politique, classe les systèmes et approuve les déploiements à forte autonomie ; l’audit interne contrôle les deux. La validation indépendante des agents autonomes encadrés et entièrement autonomes relève de la deuxième ligne et porte sur la liste d’autorisation, la logique d’escalade et les preuves de test, pas seulement sur le modèle.
Le conseil d’administration ou le comité des risques doit savoir combien d’agents sont en production, à quels niveaux, combien d’exceptions ont été remontées, à quelle fréquence des humains ont passé outre l’agent, et quels incidents sont survenus. La recommandation de l’IMDA de suivre les taux de dérogation humaine fournit ici un indicateur concret : un taux qui tombe à zéro signale un biais d’automatisation, et non un agent exemplaire.
Les preuves sont constituées à l’intention d’un régulateur. En vertu de l’EU AI Act, le déployeur d’un système d’IA à haut risque relevant de l’annexe III doit confier le contrôle humain à des personnes physiques disposant des compétences, de la formation et de l’autorité nécessaires (article 26), et conserver les journaux générés par le système. Ces preuves doivent exister pour chaque agent et chaque version.
C’est sur la gestion du risque de modèle existante que les grandes institutions trébuchent. Aux États-Unis, les banques soumises à SR 26-2 constatent que l’IA générative et agentique est expressément exclue du champ de cette recommandation ; une banque britannique disposant d’une autorisation de modèles internes ne trouve aucune exclusion de ce type dans PRA SS1/23. La réponse pragmatique est un cadre agentique parallèle, gouverné par le même comité que le risque de modèle, avec une frontière documentée et un inventaire unique. Le module de gouvernance de l’IA agentique d’Enzai est conçu pour ce niveau : il classe chaque agent selon ce qu’il peut faire sans supervision, définit les actions autorisées et interdites en production, soumet à une revue humaine les tentatives hors limites, montre comment les agents s’appellent entre eux et met les contrôles en correspondance avec l’OWASP Agentic Top 10.
Qu’est-ce qui change d’une catégorie de taille à l’autre ?
Dimension | 250 à 1 000 salariés | 1 000 à 10 000 salariés | 10 000+ ou secteur réglementé |
|---|---|---|---|
Registre | Liste centrale avec responsable, finalité, niveau | Inventaire avec correspondance des référentiels et agents des fournisseurs | Système d’enregistrement examiné par l’audit et les autorités de contrôle |
Processus de demande | Formulaire d’une page, un seul examinateur | Workflow obligatoire, approbation consignée, modèles par niveau | Approbation par la deuxième ligne, validation indépendante pour les niveaux supérieurs |
Critères de classement | Autonomie et réversibilité | Autonomie et rayon d’impact | Autonomie, rayon d’impact et classification réglementaire |
Supervision humaine | Un humain approuve les actions importantes | Points de contrôle définis par niveau | Personnel de supervision désigné et formé conformément à l’article 26 ; taux de dérogation suivis |
Séparation des tâches | Responsable et examinateur distincts | Concepteurs distincts des approbateurs | Trois lignes de défense |
Preuves | Journaux conservés ; approbations dans le registre | Tests et approbations stockés par agent et par version de modèle | Piste de preuves destinée au régulateur, reporting au conseil d’administration |
Mécanisme d’arrêt | Coupe-circuit défini et testé | Coupe-circuit et déclencheurs d’escalade | Réponse aux incidents et notification testées en exercice |
De quels cadres de gouvernance l’IA agentique a-t-elle besoin dans l’assurance ?
Un agent qui établit un devis de prime, trie un sinistre ou ajuste une décision de souscription prend une décision réglementée, et le cadre qui s’y applique existe déjà, en quatre niveaux.
L’EU AI Act classe parmi les systèmes à haut risque, au titre de l’annexe III, point 5 c), les « systèmes d’IA destinés à être utilisés pour l’évaluation des risques et la tarification en ce qui concerne les personnes physiques en matière d’assurance-vie et d’assurance maladie ». Un agent qui accomplit cette tâche dans l’UE sera soumis à l’ensemble des obligations applicables aux systèmes d’IA à haut risque à partir du 2 décembre 2027. Pour tout le reste, l’avis de l’EIOPA sur la gouvernance et la gestion des risques de l’IA (EIOPA-BoS-25-360, 6 août 2025) précise comment le droit des assurances existant s’applique aux systèmes d’IA qui ne sont ni interdits ni à haut risque. Il couvre la gestion des risques, l’équité et l’éthique, la gouvernance des données, la documentation, la transparence, la supervision humaine, ainsi que la précision et la cybersécurité, en s’appuyant sur l’article 41 de Solvabilité II et l’article 17 de la DDA.
Au Royaume-Uni, le Consumer Duty de la FCA, introduit par PS22/9 et en vigueur depuis le 31 juillet 2023 pour les produits ouverts à la vente ou au renouvellement, impose aux entreprises de garantir de bons résultats en matière de produits, de prix et de valeur, de compréhension et d’accompagnement. Un agent qui fixe des prix ou traite des sinistres intervient dans ces quatre domaines. Ne vous appuyez pas ici sur PRA SS1/23 : ce texte s’applique aux banques et exclut les assureurs.
Aux États-Unis, le NAIC Model Bulletin on the Use of Artificial Intelligence Systems by Insurers, adopté le 4 décembre 2023 et depuis publié par plus de vingt États et le district de Columbia, prévoit un programme AIS écrit couvrant la gouvernance, la gestion des risques, la supervision de l’IA tierce et la coopération lors des contrôles des pratiques commerciales.
L’enjeu opérationnel tient à l’articulation avec la gouvernance des modèles actuariels. Les modèles de tarification et de provisionnement relèvent déjà d’une fonction actuarielle, avec validation et approbation formelle. Un agent qui appelle un modèle de tarification comme outil ne soustrait pas ce modèle à la gouvernance actuarielle ; il ajoute au-dessus une couche dont les actions exigent leur propre niveau, leur propre liste d’autorisation et leur propre journal. L’exposition en matière d’équité augmente, car un agent peut combiner un modèle conforme avec une étape discrétionnaire que la validation du modèle n’a jamais couverte. Les assureurs de toute taille devraient maintenir leurs agents de tarification, de souscription et de gestion des sinistres au niveau « Supervisé » tant que les données de dérogation ne justifient pas un niveau supérieur.
Ce que cela signifie sur le plan opérationnel
Pour une équipe de gouvernance, quelle que soit la taille de l’entreprise, l’ordre est le même ; seule la profondeur varie.
Commencez par le registre. Chaque agent, y compris ceux intégrés aux solutions des fournisseurs, avec son responsable, sa finalité, ses permissions d’outils et son niveau d’autonomie, dans un inventaire IA unique qui consigne pour chaque système le niveau de risque, le niveau d’autonomie, les référentiels associés et les preuves.
Classez selon l’autonomie et le rayon d’impact, puis appliquez les contrôles du tableau ci-dessus. De 250 à 1 000 salariés, c’est là tout le programme ; au-delà de 1 000, ce classement pilote le processus de demande et l’acheminement des approbations.
Appliquez techniquement la liste d’autorisation et le bouton d’arrêt. Une politique qui interdit à un agent d’écrire dans le système de facturation n’est pas un contrôle tant que l’agent en reste capable. Le module agentique d’Enzai définit les actions autorisées et interdites et soumet à une revue humaine les tentatives hors limites.
Conservez les preuves par agent et par version du modèle de base, et suivez les taux de dérogation et la distribution des actions dans le cadre de la supervision continue de l’IA. Articulez le cadre agentique avec la gestion du risque de modèle et, dans l’assurance, avec la gouvernance actuarielle.
Établissez la correspondance avec les référentiels qu’un régulateur citera, à commencer par l’OWASP Agentic Top 10. Si vous comparez des plateformes spécialisées, la comparaison entre Enzai et Credo AI indique où Credo AI est plus performant, à savoir l’évaluation technique des modèles, le red teaming et la détection des dérives, et où Enzai applique les règles au niveau des actions.
Pour voir comment le registre, le classement et l’application des règles s’articulent pour une organisation de votre taille, échangez avec l’équipe Enzai sur la gouvernance de l’IA agentique.
Certifié ISO 27001 depuis 2023, audité chaque année par NQA
Traitement des données aligné sur le RGPD
Données clients hébergées sur AWS dans plusieurs régions
Utilisez votre propre modèle d’IA via une connexion privée
Identifiez l’IA utilisée par vos équipes, examinez-la avant sa mise en service, évaluez-la au regard des règles applicables et contrôlez ce que les agents peuvent faire. Conçu pour les organisations réglementées.