Gouvernance de l’IA agentique : le guide d’entreprise de référence

En dix-huit mois, l'IA agentique est passée du statut de prototype de recherche à celui de réalité d'entreprise. D'ici la fin de l'année 2025, Gartner prévoyait que les capacités d'IA agentique seraient intégrées dans plus d'un tiers des applications logicielles d'entreprise d'ici 2028, contre moins de 1 % en 2024.[1] Salesforce a lancé Agentforce. Microsoft a intégré l'orchestration d'agents dans Copilot Studio. ServiceNow, SAP et des dizaines d'autres ont suivi le mouvement. Pour les entreprises, la question n'est plus de savoir s'il faut déployer des agents d'IA, mais s'ils disposent d'une gouvernance de l'IA agentique avant que quelque chose ne tourne mal.

L'urgence est justifiée. Les systèmes d'IA agentique sont qualitativement différents de l'IA pour laquelle la plupart des cadres de gouvernance ont été conçus. Un classificateur attribue des étiquettes. Un chatbot génère du texte. Un agent poursuit des objectifs : planifier des flux de travail multi-étapes, sélectionner des outils, exécuter des actions, observer les résultats et itérer — souvent à travers des dizaines de décisions avec une intervention humaine minimale. Cette autonomie opérationnelle est ce qui rend les agents précieux. C'est aussi ce qui les rend difficiles à gouverner. La gouvernance de l'IA agentique — l'ensemble des politiques, des contrôles et des mécanismes de surveillance qui garantissent que les agents d'IA autonomes opèrent dans des limites de risque acceptables — est désormais un impératif d'entreprise, et non une considération future.

Cette guide présente un cadre pratique pour la gouvernance de l'IA agentique en entreprise. Il aborde la nature des systèmes d'IA agentique et les raisons pour lesquelles ils nécessitent un traitement de gouvernance distinct, la manière dont les réglementations existantes s'appliquent, les contrôles de gouvernance fondamentaux que les organisations devraient mettre en œuvre, et la manière d'opérationnaliser ces contrôles sans étouffer l'innovation que les agents sont censés permettre.

Ce qui différencie l'IA agentique

Le terme « IA agentique » décrit des systèmes d'IA capables de prendre des actions autonomes dans la poursuite d'objectifs, plutôt que de simplement générer des résultats destinés à la consommation humaine. Cette distinction est cruciale car elle modifie fondamentalement le profil de risque.

Un système d'IA conventionnel fonctionne selon un paradigme de requête-réponse. Un utilisateur fournit une entrée ; le système génère une sortie ; l'utilisateur décide de ce qu'il en fait. L'humain reste présent à chaque étape décisionnelle. Un système agentique rompt ce schéma. Il reçoit un objectif de haut niveau, le décompose en sous-tâches, sélectionne et appelle des outils pour accomplir chaque étape, évalue les résultats intermédiaires et ajuste son approche — le tout avec différents degrés de surveillance humaine, allant d'une approbation complète à chaque étape à une exécution entièrement autonome.

Trois caractéristiques distinguent l'IA agentique des systèmes conventionnels et créent des défis de gouvernance spécifiques.

Prise de décision autonome

Les agents ne se contentent pas de recommander ; ils agissent. Ils envoient des e-mails, exécutent du code, modifient des bases de données, appellent des API, créent des fichiers et interagissent avec des services externes. Chaque action modifie l'état du monde de manière parfois difficile ou impossible à inverser. Une image mal classée peut être corrigée. Un e-mail envoyé au mauvais destinataire, un enregistrement de base de données écrasé ou une transaction financière exécutée par erreur ne peuvent pas simplement être annulés.

Chaînes de raisonnement multi-étapes

Les agents opèrent à travers des chaînes de raisonnement étendues où chaque étape s'appuie sur la précédente. Une simple instruction de haut niveau — « trouver le meilleur candidat pour ce poste ouvert » — peut déclencher des dizaines de décisions intermédiaires quant aux bases de données à interroger, aux critères à pondérer, aux candidats à présélectionner et à la manière de communiquer avec eux. Les cadres de gouvernance conçus pour des systèmes à décision unique peinent à gérer cette complexité cumulative.

Appel d'outils dynamique

Les architectures d'agents modernes permettent aux agents de découvrir et d'appeler des outils au moment de l'exécution (runtime) — API, bases de données, services web, interpréteurs de code — qui n'avaient peut-être pas été anticipés lors de la conception ou de l'évaluation du système. Cela crée une cible mouvante pour l'évaluation des risques et la conformité. Les capacités du système le lundi peuvent différer sensiblement de ses capacités le vendredi.

Ces trois caractéristiques interagissent. Un agent doté d'une prise de décision autonome, opérant sur des chaînes multi-étapes, appelant dynamiquement des outils qu'il découvre au runtime, présente un défi de gouvernance qui n'est pas seulement plus difficile que la gouvernance d'un système d'IA conventionnel — il est structurellement différent.

Comment s'appliquent les réglementations existantes

Une idée reçue courante veut que la réglementation actuelle sur l'IA ne couvre pas les systèmes agentiques — qu'un nouveau cadre législatif soit nécessaire avant que les obligations de gouvernance ne s'appliquent. C'est inexact, et les organisations qui attendent une réglementation « spécifique aux agents » risquent de se retrouver en situation de non-conformité par rapport à des lois déjà en vigueur.

La loi sur l'IA de l'UE (EU AI Act)

La définition d'un système d'IA à l'article 3, paragraphe 1, de la loi sur l'IA de l'UE décrit « un système basé sur une machine qui est conçu pour fonctionner avec différents niveaux d'autonomie et qui peut faire preuve d'adaptabilité après son déploiement et qui, pour des objectifs explicites ou implicites, déduit des entrées qu'il reçoit comment générer des sorties telles que des prédictions, du contenu, des recommandations ou des décisions qui peuvent influencer les environnements physiques ou virtuels. »[2]

Chaque élément de cette définition intègre l'IA agentique sans difficulté. Les « différents niveaux d'autonomie » envisagent explicitement un spectre allant d'un fonctionnement dirigé par l'homme à un fonctionnement entièrement autonome. Les « objectifs implicites » — bien que rédigés principalement pour englober des systèmes où l'objectif est implicite par conception ou par entraînement plutôt qu'énoncé sous forme de prompt — sont suffisamment larges pour couvrir les sous-objectifs émergents que les agents poursuivent lors de la décomposition d'instructions de haut niveau, bien que cette position d'interprétation n'ait pas encore été testée dans le cadre de l'application de la loi ou par des orientations formelles du Bureau de l'IA.[3] Le terme « décisions » capture la sélection d'actions que les agents effectuent à chaque étape. Et « influencer les environnements physiques ou virtuels » va au-delà de la génération passive de sorties pour englober les actions modifiant l'environnement qui définissent le comportement agentique.

Le calendrier de mise en œuvre de la loi est progressif. Les interdictions applicables aux systèmes d'IA présentant un risque inacceptable ont pris effet le 2 février 2025. Les obligations relatives aux modèles d'IA à usage général (GPAI) s'appliquent à compter du 2 août 2025. L'ensemble des obligations relatives aux systèmes à haut risque au titre de l'annexe III prendra effet le 2 août 2026.[4] Les organisations qui déploient des systèmes agentiques dans des cas d'usage à haut risque disposent d'une fenêtre d'action de plus en plus étroite pour s'y préparer.

Lorsqu'un système agentique s'inscrit dans un cas d'usage à haut risque répertorié à l'annexe III — décisions en matière d'emploi, scoring de crédit, application de la loi, gestion des infrastructures critiques — l'ensemble des obligations liées aux systèmes à haut risque s'applique. Celles-ci comprennent les systèmes de gestion des risques (article 9), la gouvernance des données (article 10), la documentation technique (article 11), la conservation des enregistrements et la journalisation automatique (article 12), la transparence (article 13), le contrôle humain (article 14), ainsi que les exigences en matière d'exactitude, de robustesse et de cybersécurité (article 15).[5] L'article 12 mérite une attention particulière : pour les systèmes dont les décisions se déroulent sur des chaînes de raisonnement multi-étapes avec des appels d'outils dynamiques, les exigences de journalisation sont à la fois l'obligation la plus exigeante sur le plan technique et la plus importante sur le plan opérationnel à réussir.

Le cadre opérationnel de la loi s'avère toutefois difficile à appliquer aux cas d'usage agentiques — notamment en ce qui concerne l'évaluation de la conformité pour les systèmes dynamiques, la répartition des responsabilités entre le fournisseur et le déployeur lorsque les agents appellent des outils tiers, et la signification d'un contrôle humain « proportionné » pour des systèmes prenant des dizaines de micro-décisions à la seconde.[6] Mais le périmètre réglementaire est clair. Les systèmes d'IA agentique sont des systèmes d'IA en vertu de la loi, et les obligations s'appliquent.

Obligations pour les modèles de GPAI

De nombreux agents d'entreprise s'appuient sur des modèles d'IA à usage général fournis par des tiers — Anthropic, OpenAI, Google, Meta et d'autres. La loi sur l'IA de l'UE impose des obligations spécifiques aux fournisseurs de modèles de GPAI au titre des articles 51 à 56, notamment en matière de documentation technique, de transparence des politiques de droits d'auteur et, pour les modèles désignés comme présentant un risque systémique, d'audits de sécurité (red teaming) et de signalement des incidents.[7] Le code de pratique pour l'IA à usage général, finalisé fin 2025, fournit une voie de conformité pour ces obligations.

Pour les déployeurs en entreprise, l'interaction entre les obligations du fournisseur de GPAI et les obligations du déployeur crée une image de conformité multicouche. Le fournisseur de modèle fondateur assume certaines responsabilités ; l'organisation de déploiement en assume d'autres. Lorsqu'un framework d'agent assemble un modèle GPAI, une couche d'orchestration et des outils tiers en un système composite, la répartition des obligations tout au long de la chaîne de valeur devient un défi de gouvernance en soi — un sujet que la section multipartite ci-dessous aborde directement.

ISO/IEC 42001

La norme internationale pour les systèmes de management de l'IA, publiée en décembre 2023, fournit un cadre pour établir, mettre en œuvre et améliorer continuellement un système de gestion de l'IA.[8] Bien qu'elle ne traite pas spécifiquement de l'IA agentique, ses contrôles relatifs à l'évaluation des risques, au contrôle humain et à la surveillance continue sont directement applicables. Les organisations qui visent la certification ISO 42001 doivent s'assurer que leur système de gestion de l'IA couvre explicitement les déploiements d'agents autonomes, et pas seulement les applications d'IA conventionnelles.

NIST AI Risk Management Framework

Les quatre fonctions clés du NIST AI RMF – Gouverner, Cartographier, Mesurer, Gérer – fournissent une approche structurée de la gestion des risques liés à l'IA qui s'étend naturellement aux systèmes agentiques.[9] L'accent mis par ce cadre sur l'évaluation contextuelle des risques et la surveillance continue est particulièrement pertinent compte tenu de la nature dynamique du comportement des agents. Le document d'accompagnement sur les risques de l'IA générative (NIST AI 600-1) aborde plusieurs risques pertinents pour les agents utilisant des outils, notamment l'injection de prompts et l'exposition involontaire de données.[10] L'OCDE, dont la définition du système d'IA a influencé l'article 3, paragraphe 1, a également développé activement des cadres de classification qui incluent le niveau d'autonomie comme dimension — un travail qui façonnera probablement l'évolution de la gouvernance de l'IA agentique à l'échelle internationale.[11]

Exigences émergentes au niveau des États et des secteurs

La loi sur l'IA du Colorado, applicable à compter de février 2026 sous réserve de modifications législatives en cours, exige des développeurs et des déployeurs de systèmes d'IA à haut risque qu'ils fassent preuve d'une diligence raisonnable pour éviter la discrimination algorithmique dans les décisions importantes.[12] Les systèmes agentiques qui prennent ou influencent de manière substantielle des décisions en matière d'emploi, de finances, d'assurance ou de logement entrent directement dans ce champ d'application. Dans le secteur des services financiers, les directives inter-agences sur la gestion des risques liés aux modèles (les lettres SR 11-7 de la Réserve fédérale et OCC 2011-12) s'appliquent aux agents d'IA utilisés pour l'évaluation des risques et la prise de décision, bien qu'elles aient été conçues pour des modèles statistiques traditionnels et nécessitent une interprétation minutieuse pour les agents basés sur des modèles fondateurs fonctionnant avec un accès autonome à des outils.[13]

Le cadre de gouvernance de l'IA agentique

Gouverner l'IA agentique nécessite des contrôles qui répondent aux caractéristiques spécifiques mentionnées ci-dessus : prise d'actions autonomes, raisonnement multi-étapes et appel d'outils dynamique. Le cadre développé ici, basé sur le travail d'Enzai avec des équipes de gouvernance d'entreprise, organise ces contrôles en cinq couches : classification de l'autonomie, liste blanche d'actions, logique d'escalade, traçabilité et surveillance continue. Chaque couche s'appuie sur la précédente.

Couche 1 : Classification de l'autonomie

Tous les agents ne requièrent pas le même niveau de gouvernance. Un agent qui rédige des ébauches de réponses par e-mail pour examen humain présente un profil de risque fondamentalement différent de celui d'un agent qui exécute de manière autonome des transactions financières. La première étape de tout programme de gouvernance de l'IA agentique consiste à classer le niveau d'autonomie de chaque agent et à associer cette classification à des contrôles proportionnés.

La classification doit être spécifique au cas d'usage, et non au modèle. Un même modèle fondateur peut alimenter un assistant de niveau 1 dans un déploiement et un agent autonome de niveau 3 dans un autre. Les obligations de gouvernance s'attachent au déploiement, et non au modèle.

Couche 2 : Listes blanches d'actions et espaces d'actions limités

Le contrôle le plus efficace pour l'IA agentique consiste à limiter ce qu'elle peut faire. Plutôt que de tenter de prédire et de prévenir tous les modes de défaillance possibles, la liste blanche d'actions définit l'ensemble des actions autorisées qu'un agent peut entreprendre — les outils qu'il peut appeler, les API qu'il peut solliciter, les données auxquelles il peut accéder, les systèmes qu'il peut modifier.

Il s'agit d'une approche par liste d'autorisation, et non par liste d'exclusion. La posture par défaut est que toute action qui n'est pas explicitement autorisée est interdite. Cela inverse le modèle de sécurité classique des systèmes logiciels (où tout ce qui n'est pas explicitement interdit est autorisé) et reflète le fait que les systèmes d'IA agentique peuvent découvrir et tenter des actions que leurs concepteurs n'avaient jamais envisagées.

La mise en œuvre pratique implique de définir des limites d'actions à trois niveaux :

• Accès aux outils : Les API, bases de données, services et environnements d'exécution de code que l'agent est autorisé à appeler.

• Contraintes de paramètres : Les entrées que l'agent peut transmettre à chaque outil (par exemple, limiter un agent de requête de base de données à des opérations en lecture seule sur des tables spécifiques).

• Limites d'impact : Des seuils sur la portée de toute action individuelle (par exemple, plafonner la valeur monétaire des transactions qu'un agent peut autoriser sans approbation humaine).

Une considération opérationnelle essentielle : les listes blanches d'actions doivent être maintenues à jour au fur et à mesure de l'évolution des outils. Lorsqu'un fournisseur de modèle fondateur déploie une mise à jour qui modifie le comportement du modèle, ou lorsque de nouveaux outils sont ajoutés à l'espace d'actions potentiel d'un agent, la liste blanche doit être revue et revalidée. Considérer les listes blanches comme une configuration statique plutôt que comme des éléments de gouvernance vivants est une cause fréquente d'échec.

Couche 3 : Logique d'escalade

Même au sein d'espaces d'actions limités, les agents seront confrontés à des situations qui dépassent leurs compétences ou leur autorité. Une gouvernance efficace requiert des voies d'escalade prédéfinies — des règles claires sur le moment où un agent doit rendre le contrôle à un humain plutôt que de poursuivre de manière autonome.

Les déclencheurs d'escalade doivent inclure :

• Seuils de confiance : Lorsque le niveau de confiance de l'agent dans l'action choisie descend en dessous d'un seuil défini.

• Seuils d'impact : Lorsqu'une action proposée dépasse les limites d'impact prédéfinies (valeur financière, nombre d'enregistrements affectés, irréversibilité).

• Détection d'anomalies : Lorsque le comportement de l'agent s'écarte des schémas attendus.

• Limites de domaine : Lorsque l'agent rencontre une tâche ou un domaine en dehors de son champ d'application défini.

• Conditions d'échec : Lorsqu'un appel d'outil échoue ou renvoie des résultats inattendus.

La conception des mécanismes d'escalade est tout aussi importante que les déclencheurs eux-mêmes. L'escalade doit être fluide pour l'agent (il ne doit pas être « découragé » d'escalader par des schémas de conception qui le pénalisent en ce sens) et exploitable par l'humain (l'escalade doit inclure un contexte suffisant pour que l'humain prenne une décision éclairée sans avoir à reconstituer toute la chaîne de raisonnement de l'agent).

Couche 4 : Traçabilité et pistes d'audit

Les exigences réglementaires de la loi sur l'IA de l'UE (l'article 12 pour les systèmes à haut risque) ainsi que la gestion pratique des incidents exigent une journalisation complète de l'activité des agents.[14] Pour les systèmes agentiques, cela signifie enregistrer non seulement les entrées et les sorties, mais également l'intégralité de la chaîne de raisonnement, les appels d'outils, les résultats intermédiaires et les décisions prises à chaque étape.

Une piste d'audit efficace pour l'IA agentique doit enregistrer :

• L'objectif ou l'instruction initialement fourni à l'agent.

• Chaque étape de raisonnement et la justification de la sélection de l'action.

• Chaque appel d'outil, y compris l'outil appelé, les paramètres transmis et la réponse reçue.

• Les actions entreprises et leurs résultats.

• Les événements d'escalade et les interventions humaines.

• Les changements de l'état de l'environnement résultant des actions de l'agent.

• Des horodatages et des identifiants de session reliant les événements associés.

Ces journaux (logs) rattachés à plusieurs usages : investigation post-incident, conformité réglementaire, amélioration continue des contrôles de gouvernance, et attribution de la responsabilité en cas de problème. Ils doivent être immuables, horodatés et stockés indépendamment du système de l'agent lui-même pour empêcher toute altération.

Couche 5 : Surveillance continue

Une évaluation ponctuelle — évaluer un agent avant son déploiement et présumer qu'il restera conforme — est insuffisante pour des systèmes dont les capacités et le comportement peuvent changer dynamiquement. La gouvernance de l'IA agentique exige une surveillance continue selon plusieurs dimensions :

• Surveillance des performances : Les résultats de l'agent respectent-ils les seuils de qualité et d'exactitude ?

• Surveillance comportementale : Le comportement de l'agent reste-t-il conforme aux schémas attendus ? La répartition des actions évolue-t-elle au fil du temps ?

• Surveillance de la conformité : Les actions de l'agent restent-elles au sein de son espace d'actions autorisé ? Les protocoles d'escalade sont-ils respectés ?

• Surveillance de l'équité : Pour les agents qui prennent ou influencent des décisions concernant des individus, les résultats sont-ils équitables au regard des caractéristiques protégées ?

• Surveillance de la sécurité : L'agent fait-il l'objet de requêtes contradictoires, de tentatives d'injection de prompts ou d'autres manipulations ?

La surveillance doit alimenter les contrôles de gouvernance. Lorsque la surveillance détecte une anomalie — une action en dehors de l'ensemble autorisé, un glissement dans la répartition des résultats, un comportement suggérant une manipulation adverse — la réponse doit être automatisée dans la mesure du possible (mise en pause de l'agent, déclenchement de l'escalade) et documentée pour examen humain.

Qui est responsable lorsqu'un agent agit ?

L'un des aspects les plus complexes de la gouvernance de l'IA agentique réside dans la fragmentation de la responsabilité entre plusieurs acteurs. Un déploiement type d'agent en entreprise implique au moins quatre parties : le fournisseur du modèle fondateur (OpenAI, Anthropic, Google, Meta ou autres) ; le framework d'agent ou la couche d'orchestration (qui peut être une plateforme tierce ou développée en interne) ; l'organisation de déploiement ; et les fournisseurs d'outils et d'API que l'agent appelle lors de l'exécution.

La loi sur l'IA de l'UE répartit les obligations entre fournisseurs et déployeurs, certaines dispositions visant les importateurs et les distributeurs.[15] Mais cette dualité ne s'applique pas parfaitement à la chaîne de valeur de l'IA agentique. Qui est le « fournisseur » d'un agent qui associe un modèle fondateur tiers à une couche d'orchestration interne appelant des API externes ? L'article 25 traite des cas où des tiers modifient ou réaffectent des systèmes d'IA, devenant potentiellement eux-mêmes des fournisseurs, mais les limites restent floues pour les systèmes composés dynamiquement.[16]

Cette fragmentation crée également un risque lié à la chaîne d'approvisionnement des modèles fondateurs que de nombreuses organisations sous-estiment. Lorsqu'un fournisseur de modèle déploie une mise à jour — une nouvelle version de modèle, des filtres de sécurité modifiés, des changements de comportement — les contrôles de gouvernance validés pour la version précédente peuvent ne plus être valables. Les listes blanches d'actions, les seuils d'escalade et les évaluations de conformité présupposent un comportement de référence spécifique du modèle. Une mise à jour silencieuse du modèle peut invalider ces hypothèses sans aucun changement de la part du déployeur.

Une gouvernance pratique doit tenir compte de cette fragmentation. Les organisations qui déploient de l'IA agentique doivent :

• Cartographier l'intégralité de la chaîne de valeur pour chaque déploiement d'agent, en identifiant chaque acteur et ses responsabilités en matière de gouvernance.

• Établir des accords contractuels avec les fournisseurs d'outils et d'API traitant du traitement des données, de la responsabilité et de la gestion des incidents.

• Maintenir une structure claire de responsabilité interne — qui est propriétaire de chaque déploiement d'agent, qui est chargé de la surveillance, et qui détient l'autorité pour intervenir ou arrêter le système.

• Mettre en œuvre des processus de verrouillage de version (version pinning) et de gestion du changement pour les modèles fondateurs, avec des déclencheurs de revalidation lorsque les fournisseurs publient des mises à jour.

• Documenter la répartition des responsabilités d'une manière qui répondrait aux exigences d'un audit réglementaire.

Gestion des incidents pour l'IA agentique

La gouvernance n'a pas seulement pour but de prévenir les défaillances ; elle consiste également à y répondre de manière efficace lorsqu'elles surviennent. Les systèmes d'IA agentique nécessitent des procédures de gestion des incidents qui tiennent compte de leur nature autonome et multi-étapes.

Un plan de gestion des incidents d'IA agentique doit inclure :

• Des boutons d'arrêt d'urgence (kill switches) : La capacité d'interrompre immédiatement l'exécution d'un agent, d'annuler son accès aux outils et d'empêcher d'autres actions. Cela doit être techniquement fiable (indépendant de la coopération de l'agent) et accessible au personnel désigné en quelques secondes.

• Des procédures de restauration (rollback) : Dans la mesure du possible, des procédures prédéfinies pour annuler les actions entreprises par un agent. Toutes les actions ne sont pas réversibles, ce qui rend la piste d'audit et les limites d'impact décrites ci-dessus indispensables pour limiter la zone d'impact.

• Des obligations de notification : Dans les secteurs réglementés, certaines défaillances d'agents peuvent déclencher des obligations de déclaration. Dans les services financiers, des transactions non autorisées peuvent exiger une notification réglementaire sous quelques heures. En vertu de la loi sur l'IA de l'UE, les incidents graves impliquant des systèmes d'IA à haut risque doivent être signalés aux autorités de surveillance du marché.

• Une analyse des causes profondes : L'investigation post-incident doit retracer l'intégralité de la chaîne de raisonnement, depuis l'objectif initial à travers chaque appel d'outil et décision jusqu'au point de défaillance, en exploitant la piste d'audit capturée par la couche 4.

La planification de la gestion des incidents doit être menée avant le déploiement, et non après la première défaillance. Des exercices de simulation simulant des défaillances d'agents — un dépassement de limite d'actions, un échec d'escalade, une réponse d'outil compromise — aident les équipes à développer les réflexes nécessaires pour réagir efficacement sous pression.

Opérationnaliser la gouvernance de l'IA agentique

Les cadres de gouvernance n'ont de valeur que s'ils peuvent être opérationnalisés — mis en œuvre concrètement sans créer de frictions telles qu'elles empêcheraient l'innovation que les agents sont censés apporter. Plusieurs principes permettent de combler le fossé entre le cadre théorique et la pratique.

Intégrer la gouvernance dans le cycle de vie de l'agent

La gouvernance ne doit pas être un flux de travail distinct mené en parallèle du développement et du déploiement de l'agent. Elle doit être intégrée dans le pipeline de développement — classification de l'autonomie dès la conception, liste blanche d'actions lors du développement, test de la logique d'escalade avant le déploiement, surveillance continue en production. Cela s'apparente au mouvement de « shift-left » en sécurité : une gouvernance intégrée dès le départ, et non greffée après coup.

Automatiser les contrôles de gouvernance

Les processus de gouvernance manuels ne peuvent pas suivre le rythme d'agents fonctionnant à la vitesse des machines. L'application des listes blanches d'actions doit être automatisée au niveau programmatique, et non s'appuyer sur des documents de politique. Les déclencheurs d'escalade doivent s'activer automatiquement, sans dépendre d'une surveillance humaine des journaux. Les contrôles de conformité doivent être exécutés en tant qu'étapes automatiques dans les pipelines de CI/CD, fournissant aux équipes d'ingénierie des signaux de réussite/échec clairs plutôt que des formulaires de conformité à remplir.

Intégrer la gouvernance dans l'inventaire d'IA

Chaque système d'IA agentique doit être enregistré dans un inventaire d'IA centralisé qui répertorie sa classification d'autonomie, sa liste d'actions autorisées, ses protocoles d'escalade, sa configuration de surveillance, l'affectation des responsabilités et la version du modèle fondateur. Cet inventaire constitue le socle du programme de gouvernance — sans lui, une organisation ne peut pas répondre aux questions de base sur les agents qu'elle a déployés, ce qu'ils sont autorisés à faire et qui en est responsable.

Séquencer la mise en œuvre de façon pragmatique

Les organisations déployant des dizaines d'agents ne peuvent pas implémenter simultanément les cinq couches de gouvernance sur l'ensemble des déploiements. Une approche de séquençage pratique :

1. Commencer par l'inventaire. On ne peut pas gouverner ce qu'on ne peut pas voir. Répertoriez chaque déploiement d'agent, y compris les déploiements non officiels (shadow) que des équipes ont pu lancer de manière informelle.

2. Classer les niveaux d'autonomie. Associez chaque agent à un niveau. Cela détermine la proportionnalité de chaque contrôle ultérieur.

3. Mettre en œuvre d'abord la liste blanche d'actions pour les agents de niveau 3 et 4. Ce sont eux qui présentent le risque le plus élevé et qui bénéficient le plus d'espaces d'actions limités.

4. Créer des pistes durables dès le premier jour. La journalisation est le contrôle le moins coûteux à mettre en œuvre tôt et le plus onéreux à ajouter a posteriori.

5. Ajouter la surveillance continue à mesure que les déploiements mûrissent. Commencez par la surveillance de la conformité (l'agent reste-t-il dans sa liste blanche ?) puis développez la surveillance du comportement et de l'équité au fil du temps.

Considérer la gouvernance comme un avantage concurrentiel

Les organisations qui considèrent la gouvernance uniquement comme un coût de conformité sous-investiront dans ce domaine et susciteront de la frustration parmi leurs équipes d'ingénierie. Une meilleure perspective consiste à voir la gouvernance comme une condition pour changer d'échelle. Sans contrôles systématiques, les déploiements d'agents seront cantonnés à des cas d'usage à faible risque et à faible valeur ajoutée, car l'organisation ne pourra pas démontrer une surveillance adéquate pour des projets plus ambitieux. La gouvernance est ce qui permet à une entreprise de passer de projets pilotes prudents à des déploiements en production ayant un réel impact业务.

L'avenir de la réglementation de l'IA agentique

Le paysage de la gouvernance de l'IA agentique évoluera rapidement au cours des deux prochaines années. Le CEN et le CENELEC élaborent des normes harmonisées au titre de la loi sur l'IA de l'UE via le Comité technique conjoint 21, dont le mandat a été modifié en juin 2025 pour refléter l'accélération du programme de normalisation.[17] Ces normes devront définir ce qu'est un contrôle humain proportionné pour des systèmes hautement autonomes — espaces d'actions limités, points de contrôle structurés, pistes d'audit et mécanismes d'intervention — sans exiger une présence humaine constante à chaque étape.

La Commission européenne a le pouvoir de mettre à jour la liste des cas d'usage à haut risque de l'annexe III par le biais d'actes délégués au fur et à mesure de l'apparition de risques spécifiques liés aux agents, sans nécessiter de modification législative complète.[18] Les orientations de la Commission pourront également clarifier comment le cadre fournisseur-déployeur s'applique aux chaînes de valeur agentiques et à quel moment l'appel d'outils au runtime équivaut à une « modification substantielle » en vertu de l'article 3, paragraphe 23. Les codes de pratique au titre de l'article 56 offrent un autre levier pour traiter les risques spécifiques aux agents au niveau de la couche du modèle GPAI — fonctionnalités de contrôlabilité, journalisation de l'utilisation des outils et contraintes de l'espace d'actions.[19]

Des groupes sectoriels, dont l'IAPP et l'OCDE, travaillent activement sur des guides de gouvernance pour l'IA autonome.[20] L'ISO/IEC JTC 1/SC 42 continue d'enrichir la série de normes d'IA 42000, et il ne serait pas surprenant de voir apparaître des projets spécifiques aux agents à mesure que le paysage des déploiements se structure.

Les organisations qui attendent la publication de ces normes et orientations avant d'agir devront adapter a posteriori la gouvernance de déploiements d'agents qui n'ont jamais été conçus à cet effet — une démarche coûteuse et perturbatrice. L'approche la plus prudente consiste à bâtir l'infrastructure de gouvernance dès maintenant et à l'adapter à mesure que les exigences réglementaires et normatives se précisent.

Le défi de gouverner l'IA agentique est réel, mais il n'est pas sans précédent. Les entreprises ont déjà gouverné d'autres systèmes complexes, autonomes et à haut risque — du trading algorithmique aux véhicules autonomes en passant par l'automatisation robotisée des processus (RPA). Les principes sont identiques : classer le risque, limiter l'action, exiger l'escalade, maintenir la traçabilité et surveiller en continu. Ce qui est nouveau, c'est la vitesse à laquelle l'IA agentique est déployée et l'étendue des fonctions de l'entreprise qu'elle touche.

Mettre en œuvre ces cinq couches de gouvernance sur des dizaines de déploiements d'agents, chacun ayant des niveaux d'autonomie, des configurations d'accès aux outils et des obligations réglementaires différents, est un problème d'infrastructure tout autant qu'un problème politique. Chez Enzai, la création de cette infrastructure — de la classification de l'autonomie et de la liste blanche d'actions jusqu'à la surveillance continue et la conformité réglementaire avec la loi sur l'IA de l'UE, l'ISO 42001 et le NIST AI RMF — est le défi pour lequel notre plateforme a été conçue. Pour en savoir plus, réservez une démo.

Enzai est la plateforme leader de gouvernance de l'IA d'entreprise, spécialement conçue pour aider les organisations à passer de politiques abstraites à une surveillance opérationnelle. Notre plateforme de gestion des risques d'IA fournit l'infrastructure spécialisée requise pour gérer la gouvernance de l'IA agentique, maintenir un inventaire d'IA complet et assurer la conformité à la loi sur l'IA de l'UE. En automatisant des flux de travail complexes, Enzai permet aux entreprises de faire évoluer l'adoption de l'IA en toute confiance tout en restant alignées sur les normes mondiales telles que l'ISO 42001 et le NIST.

Références

[1] Gartner, « Agentic AI: The Next Frontier of Enterprise AI, » octobre 2024. Gartner prévoyait que les capacités d'IA agentique seraient présentes dans 33 % des applications logicielles d'entreprise d'ici 2028.

[2] Règlement (UE) 2024/1689 du Parlement européen et du Conseil, article 3, paragraphe 1. Journal officiel de l'Union européenne, série L, 12 juillet 2024.

[3] Les orientations interprétatives de la Commission européenne sur la définition du système d'IA (publiées en 2025) apportent un contexte supplémentaire mais n'ont pas traité spécifiquement de la décomposition émergente de sous-objectifs dans les systèmes agentiques.

[4] Règlement (UE) 2024/1689, articles 113-114 (dates d'entrée en vigueur et d'application).

[5] Règlement (UE) 2024/1689, chapitre III, section 2, articles 9 à 15.

[6] Pour une analyse détaillée de ces contraintes opérationnelles, voir Enzai, « The EU AI Act Bends. It Need Not Break, » mars 2026.

[7] Règlement (UE) 2024/1689, chapitre V, articles 51 à 56 (Obligations des fournisseurs de modèles d'IA à usage général).

[8] ISO/CEI 42001:2023, Technologies de l'information — Intelligence artificielle — Système de management. Organisation internationale de normalisation, décembre 2023.

[9] NIST, Artificial Intelligence Risk Management Framework (AI RMF 1.0), NIST AI 100-1, janvier 2023.

[10] NIST, Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile, NIST AI 600-1, juillet 2024.

[11] OCDE, « OECD Framework for the Classification of AI Systems, » OECD Digital Economy Papers No. 323, février 2022. Les principes de l'OCDE sur l'IA ont été mis à jour en mai 2024.

[12] Colorado SB 24-205, Concernant la protection des consommateurs pour l'intelligence artificielle, signé en mai 2024. Date d'entrée en vigueur initiale le 1er février 2026 ; sous réserve de modifications législatives en cours.

[13] Conseil des gouverneurs du système de la Réserve fédérale, lettre SR 11-7, « Supervisory Guidance on Model Risk Management, » avril 2011 ; Bureau du contrôleur de la monnaie, OCC 2011-12.

[14] Règlement (UE) 2024/1689, article 12 (Conservation des enregistrements / journalisation automatique pour les systèmes d'IA à haut risque).

[15] Règlement (UE) 2024/1689, articles 16 (obligations des fournisseurs) et 26 (obligations des déployeurs).

[16] Règlement (UE) 2024/1689, article 25 (Obligations d'autres parties le long de la chaîne de valeur de l'IA).

[17] Demande de normalisation M/593 de la Commission européenne au CEN et au CENELEC, telle que modifiée en juin 2025 ; programme de travail du CEN-CENELEC JTC 21.

[18] Règlement (UE) 2024/1689, article 7 (Modifications de l'annexe III).

[19] Règlement (UE) 2024/1689, article 56 (Codes de pratique pour les modèles d'IA à usage général).

[20] IAPP AI Governance Center ; Observatoire des politiques de l'IA de l'OCDE, oecd.ai ; programme de travail de l'ISO/CEI JTC 1/SC 42.