Produits
Explorez la suite complète de produits de gouvernance de l'IA d'Enzai, conçue pour aider les organisations à gérer, superviser et déployer l'IA en toute confiance. Du processus d'intégration structuré et des inventaires centralisés de l'IA aux évaluations automatisées et à la surveillance en temps réel, Enzai fournit les éléments fondamentaux pour intégrer la gouvernance directement au sein des flux de travail quotidiens liés à l'IA, sans ralentir l'innovation.
Tous
Livre blanc
Réglementations sur l'IA
Balados
Mises à jour du produit
Couverture Médiatique
Glossaire
Rejoignez notre podcast ou collaborez sur du contenu
Contactez-nous et nous verrons ce que nous pouvons réaliser ensemble.
A
Charte d'utilisation acceptable
Un ensemble de règles définies par une organisation, qui précise les usages autorisés et interdits des outils d'intelligence artificielle mis à la disposition des collaborateurs.
Certification accréditée
Un certificat délivré par un organisme de certification qui a été formellement reconnu par un organisme national d'accréditation (tel que l'ANAB ou l'UKAS) comme compétent pour réaliser des audits conformément à une norme spécifique.
Aperçu de l'action
Une exigence de gouvernance selon laquelle un agent d'IA doit afficher précisément les conséquences d'une opération irréversible avant qu'un humain n'accorde son approbation finale.
Autorisation préalable d'actions
Un dispositif de contrôle de sécurité et de gouvernance qui définit les seuls outils, API et actions qu'un agent d'IA est autorisé à exécuter.
Attaque contradictoire
Techniques consistant à manipuler les modèles d'IA en y introduisant des données trompeuses afin de générer des résultats erronés.
Agent Fabric
Un substrat d'exécution intégré qui héberge, orchestre et gouverne de multiples agents d'IA, ainsi que les modèles, les outils et les données dont ils dépendent.
Détournement d'objectif de l'agent (ASI01)
Une vulnérabilité par laquelle un attaquant manipule les objectifs ou les processus décisionnels d'un agent afin de réorienter son comportement autonome vers des résultats non souhaités.
Réseau d'agents
Une topologie en réseau au sein de laquelle des agents d'IA se découvrent, communiquent et se délèguent mutuellement des tâches par le biais d'une couche d'infrastructure partagée.
Agentic IA
Une catégorie de systèmes d'intelligence artificielle conçus pour poursuivre de manière autonome des objectifs complexes et exécuter des actions multi-étapes (telles que le déploiement de logiciels ou des transactions financières) avec une intervention humaine minimale.
Gouvernance de l'IA Agentique
La gouvernance de l'IA agentielle désigne le contrôle des systèmes d'intelligence artificielle capables de planifier et d'agir de manière autonome, par opposition aux systèmes qui se limitent à générer des prédictions ou du contenu. Elle définit ce qu'un agent est autorisé à faire, les limites de son autonomie, la traçabilité de ses actions, ainsi que la responsabilité juridique et opérationnelle en cas de comportement inapproprié de l'agent.
Moteur de politiques agentique
Un composant logiciel d'exécution qui intercepte les actions des agents et les évalue par rapport à un ensemble de règles de gouvernance déterministes avant leur exécution.
Responsabilité de l'IA
L'obligation des développeurs et des exploitants de systèmes d'IA de garantir que leurs systèmes sont conçus et utilisés de manière responsable, conformément aux normes éthiques et aux exigences légales.
Alignement de l'IA
Le processus visant à garantir que les objectifs et les comportements des systèmes d'intelligence artificielle sont alignés sur les valeurs et les intentions humaines.
Assistant IA
Un système d'intelligence artificielle conversationnelle conçu pour aider les utilisateurs à accomplir des tâches par le biais d'interactions en langage naturel, généralement propulsé par un grand modèle de langage.
Audit de l'IA
L'évaluation systématique des systèmes d'IA afin de garantir leur conformité avec les normes éthiques, les réglementations en vigueur et les indicateurs de performance.
Biais de l'IA
Erreurs systématiques dans les résultats de l'IA découlant de données d'entraînement biaisées ou d'algorithmes défectueux, entraînant des décisions inéquitables.
Nomenclature de l'IA (AIBOM)
Un inventaire structuré répertoriant les composants d'un système d'IA, y compris les modèles de fondation, les jeux de données d'entraînement, les bibliothèques et les dépendances — l'équivalent pour l'IA d'une nomenclature logicielle (SBOM).
Conformité de l'IA
La conformité des systèmes d'IA aux lois, réglementations et directives éthiques applicables tout au long de leur cycle de vie.
Éthique de l'IA
Le domaine d'étude consacré aux implications morales et aux responsabilités associées au développement et au déploiement des technologies d'intelligence artificielle.
Explicabilité de l'IA
La mesure dans laquelle les mécanismes internes d'un système d'intelligence artificielle peuvent être compris et interprétés par l'être humain.
Empreinte IA
L'ensemble des systèmes d'IA, modèles, agents et fonctionnalités d'IA intégrées utilisés au sein d'une organisation à un moment donné, y compris les systèmes approuvés et non autorisés (shadow IT).
Gouvernance de l'IA
Le cadre de politiques, de processus et de contrôles qui guide le développement et l'utilisation éthiques et efficaces des systèmes d'intelligence artificielle.
Gouvernance de l'IA pour les services financiers
La gouvernance de l'IA pour les services financiers consiste à appliquer des contrôles de conformité et de gestion des risques liés à l'IA, conformément aux régimes de supervision du secteur. Les réglementations applicables varient selon la juridiction et le type d'entreprise : la directive SR 26-2 pour les grandes banques américaines, la norme PRA SS1/23 pour les banques britanniques disposant d'une approbation de modèle interne, les principes MAS FEAT à Singapour, et le règlement européen sur l'IA (EU AI Act) pour l'ensemble de ces entités.
Logiciel de gouvernance de l'IA
Outils d'entreprise spécialisés pour automatiser l'inventaire, l'évaluation des risques et la conformité réglementaire des systèmes d'intelligence artificielle.
Gestion des stocks par IA
Un catalogue complet et centralisé de tous les systèmes, modèles et agents d'IA utilisés au sein d'une organisation, assurant le suivi de leur objectif commercial, de leur niveau de risque et de leur gouvernance.
Directive européenne sur la responsabilité en matière d'intelligence artificielle
Une proposition de directive européenne visant à simplifier le processus d'indemnisation des victimes de dommages causés par des systèmes d'IA, en introduisant une présomption réfragable de causalité.
Maîtrise de l'IA
La compréhension des concepts, des capacités et des limites de l'IA, permettant ainsi une interaction éclairée avec ces technologies.
Système de Gestion de l'Intelligence Artificielle (SGIA)
Un ensemble d'éléments corrélés ou en interaction au sein d'une organisation, visant à établir des politiques, des objectifs et des processus pour un développement ou une utilisation responsable de l'IA.
Supervision de l'IA
La surveillance de l'IA consiste en l'observation continue des systèmes d'intelligence artificielle en production afin de détecter toute dégradation, dérive, comportement anormal ou défaillance de contrôle. Elle englobe la performance des modèles, la distribution des données d'entrée et de sortie, les indicateurs d'équité, les coûts et la latence, ainsi que les actions entreprises par le système dans le cas des systèmes agentiels.
Risques liés à l'IA
Le potentiel des systèmes d'intelligence artificielle à causer des préjudices ou des conséquences imprévues, englobant les risques éthiques, juridiques et opérationnels.
Gestion des risques liés à l'IA
Le processus d'identification, d'évaluation et de l'atténuation des risques associés aux systèmes d'intelligence artificielle.
La prolifération de l'IA
La prolifération incontrôlée des systèmes d'intelligence artificielle au sein d'une organisation, généralement favorisée par un accès facilité aux outils d'IA et par l'absence de processus efficaces d'évaluation et de référencement.
Évaluation de l'impact du système d'IA
Un processus formel visant à évaluer les conséquences potentielles du déploiement d'un système d'intelligence artificielle sur les individus, les groupes et la société dans son ensemble.
Transparence de l'IA
Le principe selon lequel les systèmes d'IA doivent faire preuve d'ouverture et de clarté concernant leur fonctionnement, leurs décisions et l'utilisation des données.
TRiSM de l'IA
Un acronyme créé par Gartner signifiant AI Trust, Risk, and Security Management (gestion de la confiance, des risques et de la sécurité de l'IA) ; un cadre de référence qui unifie la gouvernance, la fiabilité et la sécurité au sein d'une stratégie opérationnelle unique.
Loi sur l'intelligence artificielle et les données (LIAD)
Le cadre réglementaire fédéral canadien (faisant partie du projet de loi C-27) visant à garantir que les systèmes d'IA à fort impact soient développés et utilisés de manière sécurisée et sans biais.
Biais algorithmique
Biais qui se produit lorsqu'un algorithme génère des résultats systématiquement préjudiciables en raison d'hypothèses erronées au sein du processus d'apprentissage automatique.
Gouvernance algorithmique
L'utilisation d'algorithmes pour gérer et réguler les fonctions sociétales, pouvant potentiellement influencer les processus de prise de décision.
Programme d'amnistie
Une initiative de gouvernance limitée dans le temps, dans le cadre de laquelle les collaborateurs sont invités à déclarer leur utilisation d'outils d'IA non autorisés, sans craindre de mesures disciplinaires.
Produits de l'Annexe I
Une liste de produits déjà réglementés par la législation de l'UE sur la santé et la sécurité (par exemple, les machines, les dispositifs médicaux) pour lesquels l'IA intégrée est automatiquement classée comme étant à haut risque en vertu de la loi de l'UE sur l'IA.
Catégories de l'annexe III
Une liste spécifique de domaines d'application de l'IA à haut risque, définis par la législation européenne sur l'IA (EU AI Act), qui entraînent des obligations de conformité obligatoires.
Analyse du trafic de l'API
Le processus technique de surveillance et d'inspection des appels réseau émis vers des fournisseurs de services d'IA externes.
Exception de l'article 6(3)
Un mécanisme d'auto-évaluation prévu par la législation européenne sur l'IA, permettant aux fournisseurs de classifier un système d'IA de l'Annexe III comme ne présentant pas de risque élevé s'il ne pose aucun préjudice significatif.
Article 25 (Loi européenne sur l'IA)
La disposition de la loi européenne sur l'IA établissant une chaîne d'obligation directe entre les fournisseurs et les déployeurs de systèmes d'IA à haut risque, incluant le transfert de responsabilité en cas de modification substantielle des systèmes.
Article 50 (législation de l'UE sur l'IA)
La disposition du règlement européen sur l'IA (EU AI Act) fixant des obligations de transparence pour les systèmes d'IA qui interagissent avec les personnes, génèrent du contenu synthétique ou produisent des deepfakes.
Politique d'Australie pour une IA sûre et responsable
La politique fédérale australienne régissant l'utilisation de l'intelligence artificielle au sein de la fonction publique et des agences gouvernementales.
Gouvernance automatisée de l'IA
L'utilisation de logiciels et d'intégrations d'API pour effectuer des contrôles de conformité et une surveillance des risques en temps réel et en continu, sans intervention manuelle.
B
Amplification des biais
Le phénomène par lequel les systèmes d'intelligence artificielle accentuent les biais existants dans les données d'entraînement, entraînant ainsi des résultats de plus en plus biaisés.
Audit de biais
Un processus d'évaluation visant à détecter et à atténuer les biais dans les systèmes d'IA, garantissant l'équité et la conformité aux normes éthiques.
Détection des biais
Le processus d'identification des biais dans les modèles d'IA par l'analyse de leurs résultats et de leurs processus de prise de décision.
Atténuation des biais
Techniques appliquées lors du développement de l'IA afin de réduire ou d'éliminer les biais au sein des modèles et des ensembles de données.
Projet de loi brésilien sur l'IA (PL 2338/2023)
Le projet de loi PL 2338/2023 constitue la proposition de cadre juridique du Brésil pour l'intelligence artificielle. Il classifie les systèmes d'IA selon leur niveau de risque, garantit des droits à l'explication ainsi qu'à la révision humaine, et instaure un système national de surveillance coordonné par l'autorité de protection des données. Approuvé par le Sénat en décembre 2024, le texte est actuellement examiné par la Chambre des députés et n'a donc pas encore force de loi.
Effet de Bruxelles
Le phénomène par lequel la réglementation de l'UE s'impose comme la norme mondiale par le biais des exigences d'accès au marché, y compris pour les organisations dont le siège social est situé en dehors de l'UE.
C
Loi californienne AB 1008
Un amendement au CCPA précisant que les informations personnelles incluent les données générées ou produites par les systèmes d'intelligence artificielle.
La loi californienne AB 3030
Une loi californienne exigeant la transparence lorsque l'IA générative est utilisée pour communiquer avec les patients dans un cadre médical.
Réglementations ADMT de l'État de Californie
Règles de la loi californienne sur la protection de la vie privée des consommateurs (CCPA) régissant les technologies de prise de décision automatisée (ADMT).
Réglementations de la FEHA de Californie sur l'IA
Réglementations étatiques en vertu de la loi sur l'emploi équitable et le logement (FEHA) visant à lutter contre la discrimination liée à l'intelligence artificielle sur le lieu de travail.
Loi californienne sur la transparence de l'intelligence artificielle (SB 942)
La loi californienne sur la transparence de l'IA (California AI Transparency Act, SB 942 telle que modifiée par AB 853) exige des fournisseurs de systèmes d'IA générative à grande échelle qu'ils intègrent des divulgations de provenance dans les contenus d'images, de vidéos et d'audios générés par IA, et qu'ils publient un outil de détection public et gratuit. Entrée en vigueur le 2 août 2026, cette loi est appliquée par le procureur général de Californie.
Défaillance en cascade (ASI08)
Un mode de défaillance dans lequel une erreur ou une entrée malveillante au sein du raisonnement d'un agent d'IA déclenche une réaction en chaîne de défaillances à travers plusieurs systèmes ou agents connectés.
Marquage CE
Un marquage de conformité obligatoire qui atteste de la conformité d'un système d'IA aux normes de santé, de sécurité et de protection de l'environnement pour les produits commercialisés au sein de l'EEE.
Modifier la fenêtre de notification
Une période contractuelle durant laquelle un fournisseur est tenu d'informer son client de toute mise à jour significative d'un modèle d'IA, préalablement au déploiement de ces modifications en production.
Mesures provisoires de la Chine sur l'IA générative
Exigences réglementaires relatives aux services d'IA générative fournis au public chinois.
Convention du Conseil de l'Europe sur l'intelligence artificielle
Le premier traité international juridiquement contraignant sur l'IA, axé sur la protection des droits de l'homme, de la démocratie et de l'état de droit.
Loi sur l'IA du Colorado (SB 24-205, abrogée en 2026)
La loi sur l'intelligence artificielle du Colorado (SB 24-205), première législation d'État d'envergure aux États-Unis sur l'IA, a été abrogée en mai 2026 et remplacée par la loi Colorado SB 26-189. Entrant en vigueur le 1er janvier 2027, cette dernière se concentre de manière plus ciblée sur les technologies de prise de décision automatisée.
Loi du Colorado sur l'intelligence artificielle (SB 26-189)
La loi du Colorado SB 26-189 succédera en 2026 à la loi initiale sur l'intelligence artificielle du Colorado (SB 24-205). Entrant en vigueur le 1er janvier 2027, elle impose des obligations ciblant spécifiquement les technologies de prise de décision automatisée lorsque celles-ci débouchent sur des décisions à fort impact pour les résidents du Colorado.
Cadre de conformité
Un ensemble structuré de lignes directrices et de bonnes pratiques que les organisations suivent pour garantir que leurs systèmes d'IA respectent les normes réglementaires et éthiques.
Risque de non-conformité
Le risque de sanctions juridiques ou réglementaires, de pertes financières ou d'atteinte à la réputation auquel une organisation s'expose lorsqu'elle ne se conforme pas aux lois, réglementations ou pratiques prescrites.
Dérive de concept
La modification au fil du temps des propriétés statistiques de la variable cible, que le modèle s'efforce de prédire, entraînant ainsi une dégradation des performances du modèle.
Évaluation de la conformité
Un processus visant à déterminer si un système d'IA répond à des exigences, des normes ou des réglementations spécifiées, impliquant souvent des phases de test et de certification.
Contrôle Interne (Évaluation de la Conformité)
Un processus dans le cadre de la législation européenne sur l'IA par lequel un fournisseur vérifie par lui-même que son système d'IA à haut risque respecte toutes les exigences réglementaires, sans nécessiter d'audit par un tiers.
Maîtrise
La mesure dans laquelle les utilisateurs peuvent diriger, influencer ou contourner les décisions et les comportements d'un système d'intelligence artificielle.
Mandat du COREPER
Le mandat de négociation octroyé par les ambassadeurs des États membres de l'UE (Comité des représentants permanents) à la présidence tournante du Conseil en vue des négociations de trilogue sur la législation européenne.
Identité cryptographique de l'agent
Un justificatif d'identité numérique vérifiable (souvent un identifiant décentralisé ou DID) qui identifie de manière unique un agent d'IA et son niveau d'autorité.
D
Dérive des données
L'évolution des données d'entrée des modèles au fil du temps, pouvant entraîner une dégradation de leurs performances si elle n'est pas surveillée et corrigée.
Éthique des données
La branche de l'éthique qui évalue les pratiques relatives aux données au regard des obligations morales de collecte, de protection et d'utilisation des informations personnellement identifiables.
Gouvernance des données
La gestion globale de la disponibilité, de l'exploitabilité, de l'intégrité et de la sécurité des données au sein d'une entreprise, garantissant ainsi un traitement adéquat des données tout au long de leur cycle de vie.
Risque lié à l'ingestion de données
Le risque que des informations sensibles ou confidentielles soient intégrées de manière permanente dans le jeu d'entraînement d'un modèle d'intelligence artificielle lors de l'interaction avec un utilisateur.
Gestion du cycle de vie des données
La gestion basée sur les politiques du flux de données tout au long de son cycle de vie : de sa création et son stockage initial jusqu'à son obsolescence et sa suppression.
Minimisation des données
Le principe consistant à ne collecter que les données strictement nécessaires à une finalité spécifique, limitant ainsi le risque d'utilisation abusive ou de violation de données.
Confidentialité des données
Le domaine des technologies de l'information qui traite de la capacité à contrôler quelles données sont partagées et avec qui, garantissant ainsi que les données personnelles sont traitées de manière appropriée.
Protection des données
Le processus de protection des informations sensibles contre l'altération, la compromission ou la perte, garantissant ainsi la conformité avec les lois et réglementations relatives à la protection des données.
Provenance des données
Un registre documenté de l'origine, de la propriété et du cycle de vie d'un ensemble de données utilisé pour entraîner ou affiner un modèle d'intelligence artificielle.
Qualité des données
L'état des données évalué selon des critères tels que l'exactitude, l'exhaustivité, la fiabilité et la pertinence, essentiel pour garantir la performance optimale des modèles d'intelligence artificielle.
Résidence des données
La résidence des données est l'obligation de stocker et de traiter les données dans un pays ou une région spécifique. Dans les systèmes d'IA, cette exigence s'applique aux données d'entraînement, aux invites, aux résultats des modèles ainsi qu'aux journaux d'inférence. Elle limite par conséquent les modèles qu'une entreprise peut solliciter, dans la mesure où l'envoi d'une invite vers un modèle hébergé à l'étranger constitue un transfert transfrontalier.
Souveraineté des données
Le principe selon lequel les données sont soumises aux lois et aux structures de gouvernance du pays dans lequel elles sont collectées, stockées ou traitées.
Personne concernée
Une personne physique dont les données personnelles sont collectées, conservées ou traitées, particulièrement concernée dans le cadre de réglementations sur la protection des données telles que le RGPD.
Anonymisation des données
Le processus de suppression ou d'anonymisation des identifiants personnels au sein des ensembles de données, visant à protéger la confidentialité en rendant difficile l'identification des individus.
Hypertruquage
Média synthétique dans lequel une personne présente sur une image ou une vidéo existante est remplacée par l'apparence d'une autre, créé à l'aide de techniques d'apprentissage profond.
Confidentialité différentielle
Un système permettant de partager publiquement des informations relatives à un ensemble de données, en décrivant les tendances de groupes au sein de cet ensemble tout en préservant la confidentialité des informations individuelles.
Législation omnibus de l'Union européenne sur l'intelligence artificielle
Un ensemble législatif pour 2025/2026 conçu pour simplifier et harmoniser les normes techniques, les évaluations de conformité et les calendriers de mise en œuvre entre le règlement de l'UE sur l'IA et les législations connexes relatives à la sécurité numérique.
Discrimination
Dans le domaine de l'intelligence artificielle, ce terme désigne le traitement injuste d'individus ou de groupes en raison de biais présents dans les données ou les algorithmes, entraînant des disparités de traitement.
Modèle de fondation à double usage
Un modèle d'IA entraîné sur une quantité considérable de données, doté d'un niveau de performance élevé et susceptible d'être utilisé à des fins tant civiles que nuisibles ou militaires.
Évaluation dynamique des risques
Le processus continu d'identification et d'évaluation des risques en temps réel, permettant de répondre rapidement aux menaces émergentes au sein des systèmes d'IA.
Entreprises
Analyse à la périphérie (Edge)
L'analyse des données à la périphérie du réseau, au plus près de leur source de génération, permettant ainsi de réduire la latence et l'utilisation de la bande passante.
Enzai
Une plateforme de gouvernance de l'IA d'entreprise qui permet aux organisations de répertorier, d'évaluer et de contrôler leurs systèmes d'IA, garantissant ainsi une adoption maximale de l'IA tout en minimisant les risques associés.
Logique d'escalade
Un ensemble de règles et de déclencheurs prédéfinis qui contraignent un agent d'IA à interrompre son fonctionnement autonome afin de restituer le contrôle à un opérateur humain.
Attentes de l'ESMA en matière de gouvernance de l'IA et du ML
Les attentes de l'ESMA en matière d'intelligence artificielle et d'apprentissage automatique définissent la manière dont les entreprises d'investissement de l'UE doivent appliquer les obligations de la directive MiFID II lors de l'utilisation de l'IA. L'Autorité européenne des marchés financiers a publié des orientations sur l'IA dans les services d'investissement de détail en mai 2024, suivies d'un exposé de supervision sur le trading algorithmique le 26 février 2026, qui traite de l'IA et de son interaction avec la législation de l'UE sur l'IA (EU AI Act).
Intelligence artificielle éthique
La pratique consistant à concevoir, développer et déployer des systèmes d'intelligence artificielle de manière à respecter les principes et valeurs éthiques, garantissant ainsi l'équité, la responsabilité et la transparence.
Audit Éthique de l'IA
Le processus d'évaluation systématique des systèmes d'intelligence artificielle afin de garantir leur conformité aux normes éthiques et de prévenir tout préjudice.
Certification en IA Éthique
La reconnaissance formelle de la conformité d'un système d'IA aux normes et directives éthiques établies.
Gouvernance Éthique de l'IA
Le cadre de politiques, de procédures et de pratiques garantissant que les systèmes d'intelligence artificielle sont développés et utilisés de manière responsable et éthique.
Cadres éthiques
Ensembles structurés de principes et de lignes directrices conçus pour guider le développement et le déploiement éthiques des systèmes d'intelligence artificielle.
Évaluation de l'impact éthique
Un processus d'évaluation systématique visant à identifier et à traiter les implications éthiques ainsi que les impacts sociétaux potentiels des systèmes d'IA avant leur déploiement.
Risque éthique
Le risque qu'un système d'IA ne cause des préjudices en raison d'un comportement contraire à l'éthique, notamment par des biais, de la discrimination ou la violation de la vie privée.
Lignes directrices en matière d'éthique pour une IA digne de confiance
Un ensemble de lignes directrices élaborées par le Groupe d'experts de haut niveau sur l'intelligence artificielle de la Commission européenne afin de promouvoir une IA de confiance, axé sur la responsabilité humaine, la robustesse technique, la confidentialité, la transparence, la diversité, le bien-être sociétal et la responsabilisation.
Loi sur l'IA de l'UE
Le premier cadre juridique horizontal et complet au monde pour l'IA, établissant un système de classification fondé sur les risques pour les systèmes déployés ou utilisés au sein de l'Union européenne.
Catégories à haut risque de la législation européenne sur l'IA
Les deux classifications de systèmes d'IA à haut risque selon le règlement européen sur l'IA (EU AI Act) : d'une part, les systèmes autonomes énumérés à l'Annexe III (couvrant la biométrie, les infrastructures critiques, l'emploi, l'éducation, le maintien de l'ordre et d'autres usages spécifiques) ; d'autre part, l'IA intégrée dans des produits réglementés énumérés à l'Annexe I (couvrant les dispositifs médicaux, les véhicules, les machines et d'autres catégories de produits réglementés).
Classification des risques selon la législation européenne sur l'IA
Le processus obligatoire consistant à attribuer l'un des quatre niveaux de risque (Inacceptable, Élevé, Limité, Minimal) à un système d'IA, conformément à la législation de l'UE sur l'intelligence artificielle.
Bureau européen de l'IA
L'organe de la Commission européenne établi pour superviser la mise en œuvre et l'application du règlement de l'UE sur l'IA, en particulier pour les modèles d'IA à usage général présentant un risque systémique.
Législation sur les services numériques de l'UE
Le programme plus large de simplification législative 2025-2026 de l'Union européenne, qui traite de plusieurs réglementations numériques, notamment la législation sur l'IA, les dispositions du RGPD, la loi sur la cyberrésilience et les amendements à la loi sur les données.
Pouvoir excessif
Une vulnérabilité par laquelle un système d'IA se voit accorder une autonomie excessive, un trop grand nombre d'outils ou des accès surprivilégiés par rapport à sa fonction initiale.
Décret présidentiel 14110
La directive de l'administration Biden (signée en octobre 2023, abrogée en janvier 2025) qui a établi les normes nationales américaines en matière de sécurité, de sûreté et de confidentialité de l'IA, et qui a créé l'U.S. AI Safety Institute au sein du NIST.
Techniques d'explicabilité
Méthodes utilisées pour interpréter et comprendre les décisions prises par les modèles d'IA, telles que LIME, SHAP et les cartes de saillance.
Explicabilité vs Interprétabilité
Bien que ces deux concepts visent à rendre les décisions de l'IA compréhensibles, l'explicabilité se concentre sur le raisonnement qui sous-tend les décisions, tandis que l'interprétabilité concerne la transparence des mécanismes internes du modèle.
Intelligence Artificielle Explicable (XAI)
Systèmes d'IA conçus pour fournir des justifications compréhensibles par l'homme pour leurs décisions et actions, renforçant ainsi la transparence et la confiance.
Apprentissage automatique explicable
Des modèles d'apprentissage automatique conçus pour fournir des explications claires et compréhensibles de leurs prédictions et de leurs décisions.
F
Mesures d'équité
Mesures quantitatives (telles que la parité démographique ou l'égalité des chances) utilisées pour évaluer l'équité des prédictions d'un modèle d'IA au sein de différents groupes.
Faux négatif
Lorsqu'un modèle d'IA prédit à tort une classe négative pour une instance qui est en réalité positive (erreur de type II).
Faux positif
Lorsqu'un modèle d'IA prédit à tort une classe positive pour une instance qui est en réalité négative (erreur de type I).
Tolérance aux pannes
La capacité d'un système d'intelligence artificielle à continuer de fonctionner correctement même lorsque certains composants tombent en panne ou génèrent des erreurs.
Gouvernance fédérée de l'intelligence artificielle
Un modèle de gouvernance où les politiques centrales et la supervision sont associées à une prise de décision décentralisée par les unités commerciales ou les bureaux régionaux, conciliant ainsi cohérence et flexibilité opérationnelle.
Boucle de rétroaction
Un processus au cours duquel les résultats de l'IA sont réinjectés en tant que données d'entrée, ce qui peut amplifier le comportement du modèle - pour le meilleur (apprentissage par renforcement) ou pour le pire (renforcement des biais).
FS AI RMF (Cadre de gestion des risques liés à l'IA pour les services financiers)
Le Financial Services AI Risk Management Framework (FS AI RMF) est un cadre sectoriel d'adhésion volontaire, publié en février 2026 par le Trésor américain en collaboration avec le Cyber Risk Institute. Aligné sur le NIST AI RMF, il propose une matrice de 230 objectifs de contrôle tout au long du cycle de vie de l'IA, s'appliquant aux banques, coopératives de crédit, assureurs, sociétés d'investissement ainsi qu'à leurs prestataires tiers.
Sécurité fonctionnelle
Garantir que les systèmes d'IA fonctionnent en toute sécurité dans toutes les conditions, en particulier dans des secteurs tels que l'automobile ou la santé, souvent grâce à la redondance et à des processus de contrôle.
Évaluation d'impact sur les droits fondamentaux (EIDF)
Une évaluation obligatoire au titre de la législation de l'UE sur l'IA, visant à déterminer comment l'utilisation d'un système d'IA à haut risque pourrait impacter les libertés publiques et les droits de l'homme.
G
Analyse d'écarts
Le processus de comparaison des pratiques actuelles de gouvernance de l'IA avec les normes ou réglementations souhaitées, afin d'identifier les domaines nécessitant des améliorations.
RGPD
Le Règlement général sur la protection des données de l'UE, qui établit des exigences strictes en matière de collecte, de traitement des données personnelles et de respect des droits des personnes.
Dérive des objectifs
Un phénomène par lequel les sous-objectifs internes ou les processus de raisonnement d'un agent d'IA s'écartent progressivement de l'objectif initial fixé par l'humain.
Organe de gouvernance
Un groupe pluridisciplinaire (comprenant notamment des experts juridiques, éthiques et techniques) chargé de superviser les politiques de gouvernance de l'IA et leur mise en œuvre au sein de l'entreprise.
Cadre de gouvernance
Un modèle structuré définissant l'articulation des différents composants de la gouvernance de l'IA (gestion des risques, responsabilité, supervision) afin de garantir la conformité et une utilisation éthique.
Modèle de maturité de la gouvernance
Un modèle de maturité de la gouvernance est une échelle d'évaluation progressive permettant de mesurer le niveau de développement de la gouvernance de l'IA au sein d'une organisation. Ce modèle s'étend généralement de pratiques ad hoc à des processus mesurés et continuellement optimisés. Il est utilisé pour établir une situation de référence, définir un objectif réaliste et planifier les investissements de manière séquentielle, et non pour certifier la conformité.
Politique de gouvernance
Un document formel qui codifie les règles, les rôles et les procédures pour le développement et la supervision de l'IA au sein d'une organisation.
Bilan de gouvernance
Un tableau de bord ou un rapport d'évaluation qui suit les indicateurs clés (par exemple, les incidents liés aux biais, les audits de conformité) afin de mesurer l'efficacité de la gouvernance de l'IA au fil du temps.
Code de pratique de l'IAGP
Le règlement d'exécution détaillé précisant les obligations de transparence, d'essais de sécurité et de réduction des risques applicables aux fournisseurs de modèles d'IA à usage général (GPAI) dans le cadre de la législation de l'UE sur l'IA.
Modèle d'IA de niveau généraliste
Un modèle d'intelligence artificielle généraliste, capable de réaliser un large éventail de tâches distinctes et de s'intégrer dans diverses applications.
Consentement granulaire
Une approche de la confidentialité des données permettant aux individus d'accorder ou de refuser des autorisations spécifiques pour chaque type d'utilisation des données, renforçant ainsi la transparence et le contrôle.
Garanties de sécurité
Contraintes ou vérifications prédéfinies (techniques et de conformité) intégrées aux systèmes d'IA afin de prévenir tout comportement dangereux ou non conforme lors de l'exécution.
Ligne directrice (Intelligence Artificielle Éthique)
Un document de recommandation non contraignant ou de bonnes pratiques émis par des organisations (par ex., l'IEEE, l'UE) visant à orienter le développement et le déploiement responsables de l'IA.
Bonjour
Hallucination
Lorsque l'intelligence artificielle générative produit des informations incorrectes ou inventées qui semblent plausibles, mais qui ne reposent sur aucune donnée d'apprentissage.
Évaluation des préjudices
Évaluer les impacts négatifs potentiels (physiques, psychologiques, sociétaux) des systèmes d'IA et définir des stratégies d'atténuation.
Harmonisation
Harmoniser les politiques, les normes et les réglementations relatives à l'IA entre les différentes juridictions afin de réduire les conflits et de favoriser l'interopérabilité.
Structure harmonisée
Un modèle standardisé pour toutes les normes de système de management ISO, anciennement connu sous le nom d'Annexe SL, garantissant la cohérence de la terminologie et de la numérotation des clauses.
Évaluation heuristique
Une méthode d'inspection de l'utilisabilité par laquelle des experts évaluent un système d'IA par rapport à des principes d'ergonomie établis afin d'identifier de potentiels problèmes.
Système d'IA à haut risque
Les applications d'IA présentant un risque significatif de porter atteinte à la santé, à la sécurité ou aux droits fondamentaux des personnes, ce qui déclenche les exigences de conformité les plus strictes en vertu de la législation de l'UE sur l'IA.
L'Intelligence Artificielle à Forts Enjeux
Les applications d'IA dont les défaillances pourraient causer des préjudices importants (par exemple, le diagnostic médical ou les véhicules autonomes), nécessitant ainsi une gouvernance et une surveillance renforcées.
Validation humaine intégrée
L'intégration du jugement humain au sein des processus d'intelligence artificielle (entraînement, validation, revue des décisions) afin d'améliorer la précision et la responsabilité.
Supervision humaine
Des mécanismes permettant à des personnes désignées de surveiller, d'intervenir ou d'annuler les décisions d'un système d'IA afin de garantir la conformité éthique et légale.
Évaluation de l'impact sur les droits de l'homme
Un processus visant à évaluer l'impact des systèmes d'intelligence artificielle sur les droits fondamentaux (vie privée, liberté d'expression, non-discrimination) et à identifier des mesures d'atténuation.
Je
Évaluation d'impact
Une évaluation structurée visant à identifier, analyser et atténuer les impacts éthiques, juridiques et sociétaux potentiels d'un système d'IA avant son déploiement.
Actes d'exécution
Législation secondaire de l'UE adoptée par la Commission européenne afin d'établir des conditions uniformes pour la mise en œuvre de la législation primaire, dotée d'un effet juridique contraignant dans l'ensemble des États membres.
Alignement des objectifs
La conception de structures de récompense et d'objectifs permettant de garantir que les buts des systèmes d'IA restent alignés avec les valeurs humaines et les priorités de l'entreprise.
Biais inductif
L'ensemble d'hypothèses qu'un algorithme d'apprentissage utilise pour généraliser à partir de données observées vers de nouvelles instances.
Gouvernance de l'information
Les politiques, procédures et contrôles qui garantissent la qualité, la confidentialité et l'exploitabilité des données au sein du patrimoine informationnel d'une organisation, y compris pour les ensembles de données d'entraînement d'intelligence artificielle.
Confidentialité des informations
Le droit des individus de contrôler la manière dont leurs données personnelles sont collectées, utilisées, conservées et partagées par les systèmes d'IA.
Risque de données hérité
La responsabilité réglementaire et éthique qu'assume une organisation lorsqu'elle utilise un système d'intelligence artificielle entraîné sur des données qu'elle n'a pas collectées ou vérifiées elle-même.
Flux de travail d'admission
Le processus standardisé et la série de vérifications auxquels tout nouveau système d'IA doit se soumettre avant d'être développé ou acquis.
Validation d'intention
Le processus consistant à vérifier que les sous-actions planifiées par un agent d'IA restent conformes à l'objectif initial défini par l'utilisateur.
Interopérabilité
La capacité de divers systèmes et composants d'IA à échanger, comprendre et utiliser des informations de manière transparente, le plus souvent via des standards ouverts ou des API.
Interprétabilité
Le degré de clarté avec lequel un être humain peut appréhender les mécanismes internes ou la logique de décision d'un modèle d'intelligence artificielle.
ISO/CEI 42001
La norme internationale définissant les exigences relatives à l'établissement, à la mise en œuvre, à la maintenance et à l'amélioration continue d'un système de management de l'intelligence artificielle (SMIA).
ISO/IEC 42005
La norme internationale fournissant des directives pour la réalisation d'évaluations d'impact des systèmes d'IA.
ISO/CEI JTC 1/SC 42
Le comité mixte ISO/CEI sur la normalisation de l'intelligence artificielle, qui élabore des normes internationales d'IA pour la gouvernance, les risques et l'interopérabilité.
J
Attaque par contournement des barrières de sécurité
Une forme d'injection d'instructions (prompt injection) par laquelle les utilisateurs exploitent des vulnérabilités pour contourner les barrières de sécurité des modèles d'IA générative, ce qui peut entraîner la production de contenus non autorisés ou inappropriés.
Loi japonaise sur la promotion de l'intelligence artificielle
Une loi japonaise (promulguée en 2025) établissant les principes fondamentaux pour la promotion de l'IA et l'atténuation des risques associés.
Responsabilité conjointe
Principe juridique selon lequel plusieurs parties (par exemple, les développeurs et les intégrateurs) partagent la responsabilité des dommages liés à l'IA, influençant ainsi les structures contractuelles et de gouvernance.
Modélisation conjointe
Concevoir des systèmes d'IA capables d'apprendre conjointement plusieurs tâches (par exemple, la reconnaissance vocale et la traduction), tout en assurant la gouvernance nécessaire à la gestion de la complexité et à l'auditabilité.
Compétence juridique
L'autorité légale sur les données, les opérations d'IA et la responsabilité civile, qui varie selon la zone géographique et influe sur la conformité avec les réglementations régionales (notamment le RGPD ou la CCPA).
K
Indicateur Clé de Performance
Un indicateur quantifiable (par exemple, la dérive de la précision du modèle, le délai de correction des biais) utilisé pour superviser et rendre compte des objectifs de gouvernance et de conformité de l'IA.
Indicateur Clé de Risque
Un indicateur avancé (par exemple, la fréquence des prédictions hors du périmètre défini ou le taux de décisions inexplicables) qui signale l'émergence de risques liés à l'IA avant qu'ils ne se matérialisent.
Gestion des connaissances
Pratiques et outils pour capturer, organiser et partager les connaissances organisationnelles (ex. : documentation des modèles, journaux d'audit) afin de garantir la reproductibilité et la surveillance.
L'entreprise
L'Agence du Moindre Effort
Un principe de sécurité et de gouvernance stipulant que les agents d'IA ne doivent disposer que du niveau d'autonomie et d'accès aux outils strictement nécessaire à l'accomplissement d'une tâche spécifique.
Moindre privilège
Un principe de sécurité selon lequel les composants d'IA et les utilisateurs ne bénéficient que des droits d'accès minimaux nécessaires à l'accomplissement de leurs fonctions, réduisant ainsi le risque d'utilisation abusive.
Conformité légale
La pratique consistant à s'assurer que les systèmes d'intelligence artificielle respectent les lois, réglementations et normes industrielles en vigueur tout au long de leur cycle de vie.
Cadre de responsabilité
Une approche structurée définissant les responsabilités en cas de préjudices ou de défaillances liés à l'IA, englobant les développeurs, les déployeurs et les opérateurs.
Gestion du cycle de vie
Les processus coordonnés de développement, de déploiement, de surveillance, de maintenance et de retrait des systèmes d'IA afin de garantir une conformité continue et un contrôle rigoureux des risques.
Localisation
L'adaptation des systèmes d'IA aux langues locales, aux réglementations, aux normes culturelles et aux exigences de résidence des données au sein des différentes juridictions.
M
Autorité de surveillance du marché
L'organisme national de réglementation de chaque État membre de l'UE, chargé de surveiller les systèmes d'IA afin de garantir leur conformité avec la législation européenne sur l'intelligence artificielle.
Principes MAS FEAT
Les principes FEAT de la MAS sont quatre principes couvrant l'équité, l'éthique, la responsabilité et la transparence, publiés par l'Autorité monétaire de Singapour le 12 novembre 2018, afin d'encadrer l'utilisation responsable de l'intelligence artificielle et de l'analyse des données dans le secteur financier singapourien. Il s'agit de directives non contraignantes, et non de règles exécutoires, qui s'appuient sur la méthodologie d'évaluation Veritas.
Contrôle humain significatif
Une norme réglementaire et opérationnelle garantissant que l'être humain conserve la capacité de superviser, d'intervenir et de neutraliser les processus de prise de décision de l'IA.
Gestion des métadonnées
La pratique consistant à capturer et à conserver des données descriptives (telles que la provenance des données, la définition des variables ou les paramètres des modèles) afin de garantir la traçabilité et de faciliter les audits.
Indicateurs et KPI
Mesures quantitatives (par exemple, la dérive de la précision, les scores d'équité, le temps de réponse aux incidents) utilisées pour surveiller la santé des systèmes d'IA, ainsi que les objectifs de risque et de conformité.
Loi fédérale mexicaine sur l'IA et les algorithmes
Un projet de loi fédérale mexicaine sur l'IA et les algorithmes, proposant un système de classification fondé sur les risques, la création de la Commission nationale de l'IA (CONAIA) ainsi que des obligations de marquage pour les contenus générés par IA.
Stratégies d'atténuation
Actions planifiées (par exemple, correction des biais, réentraînement, réingénierie des caractéristiques) afin de remédier aux risques liés à l'IA et aux écarts de conformité identifiés.
Loi du Minnesota sur la protection des données des consommateurs (Dispositions relatives à l'IA)
Les dispositions spécifiques à l'intelligence artificielle de la loi du Minnesota sur la protection des données des consommateurs.
Fiche de modèle
Un document court et standardisé fournissant des informations essentielles sur les performances, les limites et les cas d'utilisation prévus d'un modèle d'apprentissage automatique.
Restitution des modèles
Une mesure corrective réglementaire imposant à une entreprise de supprimer les modèles ou algorithmes d'IA développés à partir de données acquises de manière abusive ou illicite.
Dérive des modèles
La dégradation au fil du temps des performances prédictives d'un modèle d'IA, causée par l'évolution des données réelles ou de son environnement.
Explicabilité des modèles
Techniques et documentation permettant de rendre la logique de décision d'un modèle d'IA compréhensible pour les parties prenantes et les auditeurs.
Gouvernance des modèles
Les politiques, rôles et contrôles qui garantissent que les modèles d'IA sont développés, approuvés et utilisés conformément aux normes organisationnelles et aux exigences réglementaires.
Supervision des modèles
Suivi continu des performances du modèle d'IA, de la dérive des données et des métriques opérationnelles afin de détecter toute dégradation ou risque émergent.
Réentraînement des modèles
Le processus de mise à jour d'un modèle d'IA avec des données nouvelles ou actualisées afin de maintenir sa performance et sa conformité au fil de l'évolution de la distribution des données.
Gestion du risque de modèle
La gestion du risque de modèle désigne la discipline consistant à identifier, mesurer et contrôler le risque qu'un modèle produise des résultats erronés ou fasse l'objet d'une utilisation inadéquate. Dans le secteur bancaire américain, cette pratique est régie par la directive SR 26-2, publiée conjointement le 17 avril 2026 par la Réserve fédérale, l'OCC et la FDIC. Ce texte remplace la directive SR 11-7 et exclut expressément l'intelligence artificielle générative et agentique de son champ d'application.
Validation des modèles
Les activités d'évaluation (par exemple, les tests sur des données de réserve, les scénarios de stress) qui confirment qu'un modèle d'IA répond à sa destination et à ses critères de performance.
Engagement Multi-Parties
L'implication de groupes diversifiés (tels que les services juridiques, d'éthique, des opérations et les utilisateurs finaux) dans les processus de gouvernance de l'IA, afin de garantir une surveillance équilibrée des risques et un alignement optimal avec les objectifs de l'entreprise.
Non
Cadre de gestion des risques liés à l'IA du NIST
Une directive volontaire du National Institute of Standards and Technology (NIST) des États-Unis, décrivant les meilleures pratiques pour atténuer les risques tout au long du cycle de vie des systèmes d'intelligence artificielle.
Profils du NIST AI RMF
Les profils NIST AI RMF sont des implémentations personnalisées du cadre de gestion des risques liés à l'intelligence artificielle du NIST. Le NIST en définit trois types : les profils de cas d'usage pour des applications spécifiques, les profils intersectoriels applicables à l'ensemble des industries, et les profils temporels décrivant l'état actuel et cible d'une organisation. Le premier profil intersectoriel, le profil d'IA générative (NIST AI 600-1), a été publié en juillet 2024.
Identité Non-Humaine (NHI)
Un identifiant numérique utilisé par un agent IA, un robot ou un service pour s'authentifier et interagir avec les systèmes de l'entreprise.
Organisme notifié
Un organisme tiers indépendant désigné par un État membre de l'UE pour évaluer la conformité de certains systèmes d'IA à haut risque dans le cadre de la législation européenne sur l'IA.
Loi locale 144 de la ville de New York
Une loi de la ville de New York impose désormais des audits annuels d'impartialité pour les outils d'intelligence artificielle utilisés dans le cadre des décisions de recrutement.
O
Observabilité
La capacité de déduire l'état interne et le comportement d'un système d'IA grâce à la collecte et à l'analyse de journaux, de métriques et de résultats, afin d'assurer une surveillance et un dépannage efficaces.
Mémorandum OMB M-25-21
La directive présidentielle OMB M-25-21, intitulée « Accélérer l'utilisation de l'IA par le gouvernement fédéral grâce à l'innovation, la gouvernance et la confiance publique », enjoint aux agences fédérales américaines de nommer un directeur de l'IA, de publier un inventaire de leurs cas d'usage de l'IA et d'appliquer des pratiques minimales de gestion des risques pour l'« IA à fort impact ». Publiée en avril 2025, elle remplace la directive M-24-10 et s'accompagne de la directive M-25-22 relative à l'acquisition de technologies d'IA.
Surveillance continue
Suivi continu de la performance du système d'IA, de la dérive des données, des métriques de biais et des événements de sécurité pour détecter et atténuer les risques émergents au fil du temps.
Autonomie opérationnelle
La capacité d'un système d'intelligence artificielle à exécuter des tâches multi-étapes et à prendre des décisions sans intervention humaine à chaque étape.
Résilience Opérationnelle
La capacité des systèmes d'IA et de leur infrastructure de support à anticiper, résister, se rétablir et s'adapter aux perturbations ou événements indésirables.
Risques liés aux résultats
Le risque opérationnel, juridique et réputationnel découlant de l'utilisation de contenus incorrects, biaisés ou préjudiciables générés par un système d'intelligence artificielle.
Supervision
Le processus structuré d'examen, d'approbation et de responsabilisation lié au développement et au déploiement de l'IA, impliquant généralement des organes de gouvernance interfonctionnels.
Le Top 10 d'OWASP pour les systèmes agentiques
L'OWASP Top 10 pour les applications agentiques est une liste évaluée par des pairs recensant les dix risques de sécurité les plus critiques au sein des agents d'intelligence artificielle autonomes, publiée par le projet OWASP Gen AI Security le 10 décembre 2025. Ses entrées sont codifiées de ASI01 à ASI10, allant du détournement d'objectif de l'agent (Agent Goal Hijack) aux agents rebelles (Rogue Agents).
P
Gouvernance des voies d'accès privilégiées
Une stratégie qui favorise la conformité en rendant les flux de travail sécurisés et approuvés plus faciles à suivre que les alternatives non autorisées.
Gestion des habilitations
La gestion des droits d'accès des utilisateurs et des systèmes aux données et fonctionnalités d'IA, garantissant le principe du moindre privilège et empêchant toute utilisation non autorisée.
Phase pilote
Un essai à portée limitée d'un système d'intelligence artificielle dans un environnement contrôlé, visant à évaluer les performances, les risques et les contrôles de gouvernance avant un déploiement à grande échelle.
Mise en Application des Politiques
Les mécanismes automatisés ou manuels qui garantissent que les opérations d'IA respectent les politiques organisationnelles, les règles réglementaires et les principes éthiques.
Suivi post-déploiement
Surveillance continue du comportement et de l'environnement du système d'IA après son déploiement, afin de détecter toute dégradation, dérive ou non-conformité.
PRA SS1/23 (Gestion du risque de modèle)
La déclaration de surveillance SS1/23 de la PRA définit les cinq principes de gestion du risque de modèle de la Banque d'Angleterre pour les banques britanniques. Publiée le 17 mai 2023 et entrée en vigueur le 17 mai 2024, elle s'applique aux banques constituées au Royaume-Uni, aux sociétés de crédit immobilier et aux entreprises d'investissement agréées par la PRA qui détiennent une approbation de modèle interne. Elle couvre les modèles d'intelligence artificielle et d'apprentissage automatique, et ne s'applique pas aux assureurs.
Présomption de conformité
Un mécanisme juridique prévu par le règlement de l'UE sur l'intelligence artificielle (AI Act) et d'autres cadres réglementaires, selon lequel la conformité à une norme harmonisée (telle qu'une norme européenne EN publiée) établit une présomption réfutable de conformité avec la réglementation sous-jacente.
La protection de la vie privée dès la conception
Une approche qui intègre les exigences de protection des données et de respect de la vie privée des utilisateurs au cœur même de l'architecture et des processus des systèmes d'IA, dès leur conception.
Évaluation des facteurs de respect de la vie privée
Une analyse structurée visant à identifier et atténuer les risques liés au respect de la vie privée associés aux systèmes d'IA, couvrant la collecte, l'utilisation, le partage et la conservation des données.
Système probabiliste
Un système au sein duquel les résultats découlent de probabilités statistiques plutôt que d'une logique déterministe et figée.
Q
Évaluation qualitative
L'évaluation subjective, par des experts, des comportements, des décisions et de la documentation des systèmes d'IA, visant à identifier les risques éthiques, juridiques ou réputationnels qui ne peuvent être appréhendés de manière quantitative.
Assurance Qualité
Les processus et contrôles systématiques garantissant que les modèles d'IA et les pipelines de données respectent les normes établies en matière de précision, de fiabilité et de conformité éthique.
Contrôle Qualité
La vérification continue des résultats et des processus de l'IA par rapport à des critères de référence et des cas de test, afin de détecter les anomalies, les risques de biais ou les violations de politiques.
Évaluation quantitative des risques
Une évaluation factuelle des menaces potentielles liées à l'IA, estimant numériquement leurs probabilités et leurs impacts afin de hiérarchiser les mesures d'atténuation.
Confidentialité des requêtes
Techniques et politiques de protection des informations sensibles au sein des requêtes d'utilisateurs, garantissant que les données saisies et enregistrées ne compromettent pas de données personnelles ou propriétaires.
Cadre de questionnaire
Un ensemble structuré de questions axées sur la gouvernance, utilisé lors de la conception, de l'acquisition ou du déploiement, afin de garantir la conformité des systèmes d'IA avec les exigences politiques de l'entreprise.
Quorum pour le Conseil de Gouvernance
Le nombre minimal de membres du comité de gouvernance requis pour siéger afin de prendre des décisions officielles concernant les risques liés à l'IA, l'approbation des politiques ou les résultats d'audits.
Gestion des quotas
Les contrôles et les limites appliqués à l'utilisation des ressources d'IA (par exemple, les appels d'API, le temps de calcul) afin de faire respecter les politiques de gouvernance et de prévenir les coûts excessifs ou les abus.
R
Chaîne de raisonnement
Le processus logique séquentiel qu'un agent IA suit pour passer d'un objectif initial à une action ou un résultat final.
Recours
Des mécanismes permettant aux personnes concernées de contester ou de demander réparation pour des décisions fondées sur l'IA qui affectent leurs droits ou leurs intérêts.
Red Teaming
Une approche de test proactive dans laquelle des experts internes ou externes simulent des attaques ou des scénarios d'utilisation abusive afin de détecter les vulnérabilités des systèmes d'intelligence artificielle.
Conformité réglementaire
Garantir la conformité des systèmes d'IA avec les lois, réglementations et normes sectorielles applicables (ex. RGPD, FDA, surveillance financière) tout au long de leur cycle de fonctionnement.
Matrice d'attribution des responsabilités
Un outil (par exemple, la matrice RACI) qui clarifie les rôles et les responsabilités pour chaque activité de gouvernance : qui est Réalisateur (Responsible), Approbateur (Accountable), Consulté (Consulted) et Informé (Informed).
Intelligence Artificielle Responsable
La pratique consistant à concevoir, développer et déployer des systèmes d'IA de manière éthique, transparente et responsable vis-à-vis des parties prenantes et de la société.
Évaluation des risques
Le processus d'identification, d'analyse et de hiérarchisation des risques ou défaillances potentiels au sein des systèmes d'IA, afin de déterminer les stratégies d'atténuation appropriées.
Cadre de gestion des risques
Un ensemble structuré de directives et de processus conçu pour aborder systématiquement les risques liés à l'IA tout au long du cycle de vie du système, de sa conception jusqu'à son retrait.
Analyse des causes racines
Une investigation structurée visant à déterminer les causes sous-jacentes des défaillances ou des comportements imprévus des systèmes d'IA, afin de guider les mesures correctives.
S
Politique d'utilisation autorisée
Règles et contrôles définis spécifiant les contextes, utilisateurs et finalités autorisés pour le fonctionnement du système d'IA, afin de prévenir tout usage abusif.
Sécurité par Conception
L'intégration des contrôles de sécurité et des meilleures pratiques dans les systèmes d'IA dès les premières phases de conception, afin de prévenir les vulnérabilités et les violations de données.
Agents de l'ombre
Des agents d'IA autonomes non autorisés, déployés au sein d'une organisation à l'insu de l'équipe de gouvernance, et capables de mener des actions ayant un impact sur les systèmes d'information de l'entreprise et ses partenaires externes.
L'IA fantôme
L'utilisation non autorisée de modèles, d'agents ou d'outils d'intelligence artificielle par les collaborateurs, sans l'approbation du département informatique, ce qui engendre des vulnérabilités de sécurité invisibles par la fuite de données et des actions autonomes non contrôlées.
Cadre modèle de gouvernance de l'IA de Singapour
Le Model AI Governance Framework de Singapour est un ensemble de directives volontaires publiées par l'IMDA pour déployer l'intelligence artificielle de manière responsable. Il existe désormais en trois éditions : le cadre initial publié en 2019, une édition consacrée à l'IA générative parue en 2024, et enfin le Model AI Governance Framework for Agentic AI lancé le 22 janvier 2026.
Loi fondamentale sur l'intelligence artificielle en Corée du Sud
Le cadre juridique complet de la Corée du Sud pour le développement et la fiabilité de l'intelligence artificielle.
Évaluation de l'impact sociétal
Une évaluation structurée de l'impact d'un système d'intelligence artificielle sur les aspects sociaux, économiques et culturels des communautés, visant à identifier les préjudices et les bénéfices potentiels.
SR 11-7 (Gestion du risque de modèle)
La directive SR 11-7 constituait le guide de supervision de la Réserve fédérale américaine et de l'OCC concernant la gestion des risques liés aux modèles, publié le 4 avril 2011. Pendant quinze ans, ce texte a défini les standards de référence en matière de validation des modèles, d'inventaire des modèles et de revue indépendante au sein du secteur bancaire américain. Il a été abrogé et remplacé le 17 avril 2026 par la directive SR 26-2, un guide révisé publié conjointement par la Réserve fédérale, l'OCC et la FDIC.
SR 26-2 (Directives révisées sur la gestion des risques liés aux modèles)
La directive SR 26-2 constitue la version révisée des orientations de supervision américaines relatives à la gestion des risques liés aux modèles, publiée conjointement par la Réserve fédérale, l'OCC et la FDIC le 17 avril 2026. Remplaçant les directives SR 11-7 et SR 21-8, elle définit une approche basée sur le risque et adaptée au profil de risque de modèle de chaque institution bancaire, tout en excluant expressément l'intelligence artificielle générative et agentique de son champ d'application.
Engagement des parties prenantes
Le processus consistant à impliquer les parties prenantes concernées (par exemple, les utilisateurs, les régulateurs, les communautés impactées) dans le développement et la supervision de l'IA, afin de garantir la diversité des perspectives et d'obtenir leur adhésion.
Déclaration d'applicabilité (SoA)
Un document qui identifie les mesures de contrôle de l'Annexe A de la norme ISO 42001 applicables au système de management de l'IA d'une organisation, et qui justifie l'exclusion des autres.
Modification substantielle
Toute modification apportée à un système d'IA après sa mise sur le marché, qui affecte sa conformité ou sa destination initiale conformément à la législation européenne sur l'IA (EU AI Act).
Risque lié à la surveillance
La menace que les systèmes d'IA ne soient exploités à des fins de surveillance intrusive d'individus ou de groupes, portant ainsi atteinte à la vie privée et aux libertés civiles.
Système d'enregistrement
La source de données de référence pour un élément de donnée ou une information spécifique au sein d'une organisation.
Seuil de risque systémique
Le seuil technique ou de capacité (par exemple, 10^25 FLOP) qui qualifie un modèle d'IA à usage général comme présentant un niveau de risque élevé pour la société.
T
Risque extrême
La possibilité d'obtenir des résultats rares et extrêmes dans le comportement ou la prise de décision de l'IA, qui sortent du cadre des attentes normales et nécessitent une planification d'atténuation spécifique.
Tests et validation
Le processus systématique d'évaluation des modèles d'IA par rapport à des critères de référence, des cas limites et des conditions de stress, afin de garantir qu'ils répondent aux exigences de performance, de sécurité et de conformité.
Risques liés aux tiers
L'exposition découlant de la dépendance vis-à-vis de fournisseurs de données externes, de concepteurs de modèles ou de plateformes de services susceptibles d'introduire des vulnérabilités en matière de conformité ou de sécurité.
Définition du seuil
Définir des seuils ou des valeurs limites dans les règles de décision de l'IA (par exemple, des scores de confiance) afin d'équilibrer les risques, tels que les faux positifs par rapport aux faux négatifs.
Trilogue
Négociation informelle tripartite entre la Commission européenne, le Conseil de l'Union européenne et le Parlement européen, visant à obtenir un accord politique sur la législation de l'UE avant son adoption formelle.
Une IA de confiance
Des systèmes d'IA conçus et exploités de manière éthique, fiable, sécurisée et conforme aux valeurs humaines et aux normes sociétales.
Vous
Plan d'action sur les opportunités de l'IA au Royaume-Uni
La feuille de route stratégique du gouvernement britannique visant à maximiser les avantages de l'IA tout en établissant des règles de sécurité ciblées et contraignantes.
Gouvernance des cas d'usage
La pratique consistant à définir, approuver et superviser les cas d'usage spécifiques de l'intelligence artificielle, afin de garantir que chacun d'eux s'aligne sur les politiques de l'organisation, les normes éthiques et l'appétence au risque.
Consentement de l'utilisateur
Le processus consistant à obtenir et à enregistrer le consentement explicite des personnes physiques avant de collecter, de traiter ou d'utiliser leurs données personnelles au sein de systèmes d'intelligence artificielle.
V
Suivi des écarts
Suivi des fluctuations des résultats des modèles d'IA ou des indicateurs de performance au fil du temps afin de détecter les dérives et d'en déduire une dégradation potentielle ou un risque.
Gestion des risques liés aux fournisseurs
Évaluer et surveiller les fournisseurs tiers de composants ou de services d'IA afin d'identifier et d'atténuer les risques potentiels en matière de conformité, de sécurité ou d'éthique.
Verrouillage de version
La pratique consistant à verrouiller un système d'IA sur une version spécifique et testée d'un modèle de fondation, afin d'éviter que des mises à jour silencieuses ne modifient le comportement du système.
Droit de veto
Le droit formel détenu par un organe de gouvernance ou une partie prenante de bloquer ou d'exiger des modifications sur les déploiements d'IA qui présentent des risques inacceptables.
Surveillance de vigilance
Une surveillance continue du comportement de l'IA et des signaux externes (tels que les évolutions réglementaires) afin d'identifier rapidement et de traiter les risques émergents ou les cas de non-conformité.
Supervision par Intelligence Artificielle Visuelle
Les processus de gouvernance spécifiques aux systèmes de vision par ordinateur, garantissant la qualité des données, le contrôle des biais et la transparence des prises de décision basées sur des images ou des vidéos.
W
Surveillance Watchdog
Contrôles autonomes au moment de l'exécution qui observent les décisions de l'IA et déclenchent des alertes ou des interventions en cas de violation des politiques ou des seuils définis.
Filigranage
La pratique consistant à intégrer des marqueurs de provenance détectables et lisibles par machine dans les contenus générés par IA, tels que les images, l'audio, la vidéo et le texte synthétique, afin de permettre aux utilisateurs et plateformes en aval d'identifier ces contenus comme étant issus de l'intelligence artificielle.
Audit des pondérations
Examen des poids et des structures des modèles afin de détecter toute anomalie, porte dérobée ou biais susceptible d'indiquer une altération ou des comportements indésirables.
Politique de liste d'autorisation et d'exclusion
Règle de gouvernance définissant les entrées, fonctionnalités ou opérations autorisées (liste d'autorisation) et interdites (liste de blocage) afin de garantir la conformité et de prévenir tout usage abusif.
Autorisation d'accès
Autoriser exclusivement les sources de données, bibliothèques ou composants de modèles préalablement approuvés au sein des pipelines d'IA, afin de limiter les risques liés à des éléments non vérifiés ou malveillants.
Ségrégation des charges de travail
Séparer les environnements de calcul IA (ex. développement, test, production) et les domaines de données afin de limiter le rayon d'impact des défaillances ou des failles de sécurité.
Analyse du pire scénario
Évaluer les défaillances ou les abus potentiels les plus extrêmes d'un système d'IA afin d'éclairer l'atténuation robuste des risques et la planification d'urgence.
Stockage WORM (écriture unique, lectures multiples)
Un stockage immuable garantissant que les journaux, les pistes d'audit et les artefacts de modèles ne peuvent être altérés après leur écriture, assurant ainsi la non-répudiation et facilitant l'analyse médico-légale.
X
Audit d'IA explicable
Un processus d'évaluation visant à vérifier si les explications fournies par l'IA respectent les politiques internes et les exigences réglementaires, garantissant ainsi un niveau de transparence adéquat.
L'IA explicable (XAI)
Techniques et méthodes visant à rendre le processus de décision d'un modèle d'IA transparent et compréhensible pour l'homme, favorisant ainsi la responsabilité et la conformité.
Cadre de référence XAI
Une approche structurée ou un ensemble de directives que les organisations utilisent pour implémenter, mesurer et gouverner les pratiques d'explicabilité à travers leurs systèmes d'IA.
Mesures d'IA explicable
Mesures quantitatives ou qualitatives (par exemple, scores d'importance des fonctionnalités, fidélité des explications) utilisées pour évaluer la qualité et la fiabilité des explications fournies par l'IA.
Oui
Revue annuelle de conformité
Une évaluation annuelle des processus, politiques et systèmes de gouvernance de l'IA, afin de garantir une conformité continue avec les réglementations et les normes internes.
Z
Tolérance zéro défaut
Un principe de gouvernance visant l'absence totale d'erreurs et de violations des politiques au sein des résultats de l'IA, soutenu par des tests rigoureux, une surveillance continue et des cycles d'amélioration constante.
Contrôle d'accès basé sur les zones
Une approche de gouvernance réseau ou de données qui fragmente les ressources en zones dotées de politiques distinctes, limitant l'accès des systèmes d'intelligence artificielle en fonction de la sensibilité des données.
Tous
Livre blanc
Réglementations sur l'IA
Balados
Mises à jour du produit
Couverture Médiatique
Glossaire
Rejoignez notre podcast ou collaborez sur du contenu
Contactez-nous et nous verrons ce que nous pouvons réaliser ensemble.
A
Charte d'utilisation acceptable
Un ensemble de règles définies par une organisation, qui précise les usages autorisés et interdits des outils d'intelligence artificielle mis à la disposition des collaborateurs.
Certification accréditée
Un certificat délivré par un organisme de certification qui a été formellement reconnu par un organisme national d'accréditation (tel que l'ANAB ou l'UKAS) comme compétent pour réaliser des audits conformément à une norme spécifique.
Aperçu de l'action
Une exigence de gouvernance selon laquelle un agent d'IA doit afficher précisément les conséquences d'une opération irréversible avant qu'un humain n'accorde son approbation finale.
Autorisation préalable d'actions
Un dispositif de contrôle de sécurité et de gouvernance qui définit les seuls outils, API et actions qu'un agent d'IA est autorisé à exécuter.
Attaque contradictoire
Techniques consistant à manipuler les modèles d'IA en y introduisant des données trompeuses afin de générer des résultats erronés.
Agent Fabric
Un substrat d'exécution intégré qui héberge, orchestre et gouverne de multiples agents d'IA, ainsi que les modèles, les outils et les données dont ils dépendent.
Détournement d'objectif de l'agent (ASI01)
Une vulnérabilité par laquelle un attaquant manipule les objectifs ou les processus décisionnels d'un agent afin de réorienter son comportement autonome vers des résultats non souhaités.
Réseau d'agents
Une topologie en réseau au sein de laquelle des agents d'IA se découvrent, communiquent et se délèguent mutuellement des tâches par le biais d'une couche d'infrastructure partagée.
Agentic IA
Une catégorie de systèmes d'intelligence artificielle conçus pour poursuivre de manière autonome des objectifs complexes et exécuter des actions multi-étapes (telles que le déploiement de logiciels ou des transactions financières) avec une intervention humaine minimale.
Gouvernance de l'IA Agentique
La gouvernance de l'IA agentielle désigne le contrôle des systèmes d'intelligence artificielle capables de planifier et d'agir de manière autonome, par opposition aux systèmes qui se limitent à générer des prédictions ou du contenu. Elle définit ce qu'un agent est autorisé à faire, les limites de son autonomie, la traçabilité de ses actions, ainsi que la responsabilité juridique et opérationnelle en cas de comportement inapproprié de l'agent.
Moteur de politiques agentique
Un composant logiciel d'exécution qui intercepte les actions des agents et les évalue par rapport à un ensemble de règles de gouvernance déterministes avant leur exécution.
Responsabilité de l'IA
L'obligation des développeurs et des exploitants de systèmes d'IA de garantir que leurs systèmes sont conçus et utilisés de manière responsable, conformément aux normes éthiques et aux exigences légales.
Alignement de l'IA
Le processus visant à garantir que les objectifs et les comportements des systèmes d'intelligence artificielle sont alignés sur les valeurs et les intentions humaines.
Assistant IA
Un système d'intelligence artificielle conversationnelle conçu pour aider les utilisateurs à accomplir des tâches par le biais d'interactions en langage naturel, généralement propulsé par un grand modèle de langage.
Audit de l'IA
L'évaluation systématique des systèmes d'IA afin de garantir leur conformité avec les normes éthiques, les réglementations en vigueur et les indicateurs de performance.
Biais de l'IA
Erreurs systématiques dans les résultats de l'IA découlant de données d'entraînement biaisées ou d'algorithmes défectueux, entraînant des décisions inéquitables.
Nomenclature de l'IA (AIBOM)
Un inventaire structuré répertoriant les composants d'un système d'IA, y compris les modèles de fondation, les jeux de données d'entraînement, les bibliothèques et les dépendances — l'équivalent pour l'IA d'une nomenclature logicielle (SBOM).
Conformité de l'IA
La conformité des systèmes d'IA aux lois, réglementations et directives éthiques applicables tout au long de leur cycle de vie.
Éthique de l'IA
Le domaine d'étude consacré aux implications morales et aux responsabilités associées au développement et au déploiement des technologies d'intelligence artificielle.
Explicabilité de l'IA
La mesure dans laquelle les mécanismes internes d'un système d'intelligence artificielle peuvent être compris et interprétés par l'être humain.
Empreinte IA
L'ensemble des systèmes d'IA, modèles, agents et fonctionnalités d'IA intégrées utilisés au sein d'une organisation à un moment donné, y compris les systèmes approuvés et non autorisés (shadow IT).
Gouvernance de l'IA
Le cadre de politiques, de processus et de contrôles qui guide le développement et l'utilisation éthiques et efficaces des systèmes d'intelligence artificielle.
Gouvernance de l'IA pour les services financiers
La gouvernance de l'IA pour les services financiers consiste à appliquer des contrôles de conformité et de gestion des risques liés à l'IA, conformément aux régimes de supervision du secteur. Les réglementations applicables varient selon la juridiction et le type d'entreprise : la directive SR 26-2 pour les grandes banques américaines, la norme PRA SS1/23 pour les banques britanniques disposant d'une approbation de modèle interne, les principes MAS FEAT à Singapour, et le règlement européen sur l'IA (EU AI Act) pour l'ensemble de ces entités.
Logiciel de gouvernance de l'IA
Outils d'entreprise spécialisés pour automatiser l'inventaire, l'évaluation des risques et la conformité réglementaire des systèmes d'intelligence artificielle.
Gestion des stocks par IA
Un catalogue complet et centralisé de tous les systèmes, modèles et agents d'IA utilisés au sein d'une organisation, assurant le suivi de leur objectif commercial, de leur niveau de risque et de leur gouvernance.
Directive européenne sur la responsabilité en matière d'intelligence artificielle
Une proposition de directive européenne visant à simplifier le processus d'indemnisation des victimes de dommages causés par des systèmes d'IA, en introduisant une présomption réfragable de causalité.
Maîtrise de l'IA
La compréhension des concepts, des capacités et des limites de l'IA, permettant ainsi une interaction éclairée avec ces technologies.
Système de Gestion de l'Intelligence Artificielle (SGIA)
Un ensemble d'éléments corrélés ou en interaction au sein d'une organisation, visant à établir des politiques, des objectifs et des processus pour un développement ou une utilisation responsable de l'IA.
Supervision de l'IA
La surveillance de l'IA consiste en l'observation continue des systèmes d'intelligence artificielle en production afin de détecter toute dégradation, dérive, comportement anormal ou défaillance de contrôle. Elle englobe la performance des modèles, la distribution des données d'entrée et de sortie, les indicateurs d'équité, les coûts et la latence, ainsi que les actions entreprises par le système dans le cas des systèmes agentiels.
Risques liés à l'IA
Le potentiel des systèmes d'intelligence artificielle à causer des préjudices ou des conséquences imprévues, englobant les risques éthiques, juridiques et opérationnels.
Gestion des risques liés à l'IA
Le processus d'identification, d'évaluation et de l'atténuation des risques associés aux systèmes d'intelligence artificielle.
La prolifération de l'IA
La prolifération incontrôlée des systèmes d'intelligence artificielle au sein d'une organisation, généralement favorisée par un accès facilité aux outils d'IA et par l'absence de processus efficaces d'évaluation et de référencement.
Évaluation de l'impact du système d'IA
Un processus formel visant à évaluer les conséquences potentielles du déploiement d'un système d'intelligence artificielle sur les individus, les groupes et la société dans son ensemble.
Transparence de l'IA
Le principe selon lequel les systèmes d'IA doivent faire preuve d'ouverture et de clarté concernant leur fonctionnement, leurs décisions et l'utilisation des données.
TRiSM de l'IA
Un acronyme créé par Gartner signifiant AI Trust, Risk, and Security Management (gestion de la confiance, des risques et de la sécurité de l'IA) ; un cadre de référence qui unifie la gouvernance, la fiabilité et la sécurité au sein d'une stratégie opérationnelle unique.
Loi sur l'intelligence artificielle et les données (LIAD)
Le cadre réglementaire fédéral canadien (faisant partie du projet de loi C-27) visant à garantir que les systèmes d'IA à fort impact soient développés et utilisés de manière sécurisée et sans biais.
Biais algorithmique
Biais qui se produit lorsqu'un algorithme génère des résultats systématiquement préjudiciables en raison d'hypothèses erronées au sein du processus d'apprentissage automatique.
Gouvernance algorithmique
L'utilisation d'algorithmes pour gérer et réguler les fonctions sociétales, pouvant potentiellement influencer les processus de prise de décision.
Programme d'amnistie
Une initiative de gouvernance limitée dans le temps, dans le cadre de laquelle les collaborateurs sont invités à déclarer leur utilisation d'outils d'IA non autorisés, sans craindre de mesures disciplinaires.
Produits de l'Annexe I
Une liste de produits déjà réglementés par la législation de l'UE sur la santé et la sécurité (par exemple, les machines, les dispositifs médicaux) pour lesquels l'IA intégrée est automatiquement classée comme étant à haut risque en vertu de la loi de l'UE sur l'IA.
Catégories de l'annexe III
Une liste spécifique de domaines d'application de l'IA à haut risque, définis par la législation européenne sur l'IA (EU AI Act), qui entraînent des obligations de conformité obligatoires.
Analyse du trafic de l'API
Le processus technique de surveillance et d'inspection des appels réseau émis vers des fournisseurs de services d'IA externes.
Exception de l'article 6(3)
Un mécanisme d'auto-évaluation prévu par la législation européenne sur l'IA, permettant aux fournisseurs de classifier un système d'IA de l'Annexe III comme ne présentant pas de risque élevé s'il ne pose aucun préjudice significatif.
Article 25 (Loi européenne sur l'IA)
La disposition de la loi européenne sur l'IA établissant une chaîne d'obligation directe entre les fournisseurs et les déployeurs de systèmes d'IA à haut risque, incluant le transfert de responsabilité en cas de modification substantielle des systèmes.
Article 50 (législation de l'UE sur l'IA)
La disposition du règlement européen sur l'IA (EU AI Act) fixant des obligations de transparence pour les systèmes d'IA qui interagissent avec les personnes, génèrent du contenu synthétique ou produisent des deepfakes.
Politique d'Australie pour une IA sûre et responsable
La politique fédérale australienne régissant l'utilisation de l'intelligence artificielle au sein de la fonction publique et des agences gouvernementales.
Gouvernance automatisée de l'IA
L'utilisation de logiciels et d'intégrations d'API pour effectuer des contrôles de conformité et une surveillance des risques en temps réel et en continu, sans intervention manuelle.
B
Amplification des biais
Le phénomène par lequel les systèmes d'intelligence artificielle accentuent les biais existants dans les données d'entraînement, entraînant ainsi des résultats de plus en plus biaisés.
Audit de biais
Un processus d'évaluation visant à détecter et à atténuer les biais dans les systèmes d'IA, garantissant l'équité et la conformité aux normes éthiques.
Détection des biais
Le processus d'identification des biais dans les modèles d'IA par l'analyse de leurs résultats et de leurs processus de prise de décision.
Atténuation des biais
Techniques appliquées lors du développement de l'IA afin de réduire ou d'éliminer les biais au sein des modèles et des ensembles de données.
Projet de loi brésilien sur l'IA (PL 2338/2023)
Le projet de loi PL 2338/2023 constitue la proposition de cadre juridique du Brésil pour l'intelligence artificielle. Il classifie les systèmes d'IA selon leur niveau de risque, garantit des droits à l'explication ainsi qu'à la révision humaine, et instaure un système national de surveillance coordonné par l'autorité de protection des données. Approuvé par le Sénat en décembre 2024, le texte est actuellement examiné par la Chambre des députés et n'a donc pas encore force de loi.
Effet de Bruxelles
Le phénomène par lequel la réglementation de l'UE s'impose comme la norme mondiale par le biais des exigences d'accès au marché, y compris pour les organisations dont le siège social est situé en dehors de l'UE.
C
Loi californienne AB 1008
Un amendement au CCPA précisant que les informations personnelles incluent les données générées ou produites par les systèmes d'intelligence artificielle.
La loi californienne AB 3030
Une loi californienne exigeant la transparence lorsque l'IA générative est utilisée pour communiquer avec les patients dans un cadre médical.
Réglementations ADMT de l'État de Californie
Règles de la loi californienne sur la protection de la vie privée des consommateurs (CCPA) régissant les technologies de prise de décision automatisée (ADMT).
Réglementations de la FEHA de Californie sur l'IA
Réglementations étatiques en vertu de la loi sur l'emploi équitable et le logement (FEHA) visant à lutter contre la discrimination liée à l'intelligence artificielle sur le lieu de travail.
Loi californienne sur la transparence de l'intelligence artificielle (SB 942)
La loi californienne sur la transparence de l'IA (California AI Transparency Act, SB 942 telle que modifiée par AB 853) exige des fournisseurs de systèmes d'IA générative à grande échelle qu'ils intègrent des divulgations de provenance dans les contenus d'images, de vidéos et d'audios générés par IA, et qu'ils publient un outil de détection public et gratuit. Entrée en vigueur le 2 août 2026, cette loi est appliquée par le procureur général de Californie.
Défaillance en cascade (ASI08)
Un mode de défaillance dans lequel une erreur ou une entrée malveillante au sein du raisonnement d'un agent d'IA déclenche une réaction en chaîne de défaillances à travers plusieurs systèmes ou agents connectés.
Marquage CE
Un marquage de conformité obligatoire qui atteste de la conformité d'un système d'IA aux normes de santé, de sécurité et de protection de l'environnement pour les produits commercialisés au sein de l'EEE.
Modifier la fenêtre de notification
Une période contractuelle durant laquelle un fournisseur est tenu d'informer son client de toute mise à jour significative d'un modèle d'IA, préalablement au déploiement de ces modifications en production.
Mesures provisoires de la Chine sur l'IA générative
Exigences réglementaires relatives aux services d'IA générative fournis au public chinois.
Convention du Conseil de l'Europe sur l'intelligence artificielle
Le premier traité international juridiquement contraignant sur l'IA, axé sur la protection des droits de l'homme, de la démocratie et de l'état de droit.
Loi sur l'IA du Colorado (SB 24-205, abrogée en 2026)
La loi sur l'intelligence artificielle du Colorado (SB 24-205), première législation d'État d'envergure aux États-Unis sur l'IA, a été abrogée en mai 2026 et remplacée par la loi Colorado SB 26-189. Entrant en vigueur le 1er janvier 2027, cette dernière se concentre de manière plus ciblée sur les technologies de prise de décision automatisée.
Loi du Colorado sur l'intelligence artificielle (SB 26-189)
La loi du Colorado SB 26-189 succédera en 2026 à la loi initiale sur l'intelligence artificielle du Colorado (SB 24-205). Entrant en vigueur le 1er janvier 2027, elle impose des obligations ciblant spécifiquement les technologies de prise de décision automatisée lorsque celles-ci débouchent sur des décisions à fort impact pour les résidents du Colorado.
Cadre de conformité
Un ensemble structuré de lignes directrices et de bonnes pratiques que les organisations suivent pour garantir que leurs systèmes d'IA respectent les normes réglementaires et éthiques.
Risque de non-conformité
Le risque de sanctions juridiques ou réglementaires, de pertes financières ou d'atteinte à la réputation auquel une organisation s'expose lorsqu'elle ne se conforme pas aux lois, réglementations ou pratiques prescrites.
Dérive de concept
La modification au fil du temps des propriétés statistiques de la variable cible, que le modèle s'efforce de prédire, entraînant ainsi une dégradation des performances du modèle.
Évaluation de la conformité
Un processus visant à déterminer si un système d'IA répond à des exigences, des normes ou des réglementations spécifiées, impliquant souvent des phases de test et de certification.
Contrôle Interne (Évaluation de la Conformité)
Un processus dans le cadre de la législation européenne sur l'IA par lequel un fournisseur vérifie par lui-même que son système d'IA à haut risque respecte toutes les exigences réglementaires, sans nécessiter d'audit par un tiers.
Maîtrise
La mesure dans laquelle les utilisateurs peuvent diriger, influencer ou contourner les décisions et les comportements d'un système d'intelligence artificielle.
Mandat du COREPER
Le mandat de négociation octroyé par les ambassadeurs des États membres de l'UE (Comité des représentants permanents) à la présidence tournante du Conseil en vue des négociations de trilogue sur la législation européenne.
Identité cryptographique de l'agent
Un justificatif d'identité numérique vérifiable (souvent un identifiant décentralisé ou DID) qui identifie de manière unique un agent d'IA et son niveau d'autorité.
D
Dérive des données
L'évolution des données d'entrée des modèles au fil du temps, pouvant entraîner une dégradation de leurs performances si elle n'est pas surveillée et corrigée.
Éthique des données
La branche de l'éthique qui évalue les pratiques relatives aux données au regard des obligations morales de collecte, de protection et d'utilisation des informations personnellement identifiables.
Gouvernance des données
La gestion globale de la disponibilité, de l'exploitabilité, de l'intégrité et de la sécurité des données au sein d'une entreprise, garantissant ainsi un traitement adéquat des données tout au long de leur cycle de vie.
Risque lié à l'ingestion de données
Le risque que des informations sensibles ou confidentielles soient intégrées de manière permanente dans le jeu d'entraînement d'un modèle d'intelligence artificielle lors de l'interaction avec un utilisateur.
Gestion du cycle de vie des données
La gestion basée sur les politiques du flux de données tout au long de son cycle de vie : de sa création et son stockage initial jusqu'à son obsolescence et sa suppression.
Minimisation des données
Le principe consistant à ne collecter que les données strictement nécessaires à une finalité spécifique, limitant ainsi le risque d'utilisation abusive ou de violation de données.
Confidentialité des données
Le domaine des technologies de l'information qui traite de la capacité à contrôler quelles données sont partagées et avec qui, garantissant ainsi que les données personnelles sont traitées de manière appropriée.
Protection des données
Le processus de protection des informations sensibles contre l'altération, la compromission ou la perte, garantissant ainsi la conformité avec les lois et réglementations relatives à la protection des données.
Provenance des données
Un registre documenté de l'origine, de la propriété et du cycle de vie d'un ensemble de données utilisé pour entraîner ou affiner un modèle d'intelligence artificielle.
Qualité des données
L'état des données évalué selon des critères tels que l'exactitude, l'exhaustivité, la fiabilité et la pertinence, essentiel pour garantir la performance optimale des modèles d'intelligence artificielle.
Résidence des données
La résidence des données est l'obligation de stocker et de traiter les données dans un pays ou une région spécifique. Dans les systèmes d'IA, cette exigence s'applique aux données d'entraînement, aux invites, aux résultats des modèles ainsi qu'aux journaux d'inférence. Elle limite par conséquent les modèles qu'une entreprise peut solliciter, dans la mesure où l'envoi d'une invite vers un modèle hébergé à l'étranger constitue un transfert transfrontalier.
Souveraineté des données
Le principe selon lequel les données sont soumises aux lois et aux structures de gouvernance du pays dans lequel elles sont collectées, stockées ou traitées.
Personne concernée
Une personne physique dont les données personnelles sont collectées, conservées ou traitées, particulièrement concernée dans le cadre de réglementations sur la protection des données telles que le RGPD.
Anonymisation des données
Le processus de suppression ou d'anonymisation des identifiants personnels au sein des ensembles de données, visant à protéger la confidentialité en rendant difficile l'identification des individus.
Hypertruquage
Média synthétique dans lequel une personne présente sur une image ou une vidéo existante est remplacée par l'apparence d'une autre, créé à l'aide de techniques d'apprentissage profond.
Confidentialité différentielle
Un système permettant de partager publiquement des informations relatives à un ensemble de données, en décrivant les tendances de groupes au sein de cet ensemble tout en préservant la confidentialité des informations individuelles.
Législation omnibus de l'Union européenne sur l'intelligence artificielle
Un ensemble législatif pour 2025/2026 conçu pour simplifier et harmoniser les normes techniques, les évaluations de conformité et les calendriers de mise en œuvre entre le règlement de l'UE sur l'IA et les législations connexes relatives à la sécurité numérique.
Discrimination
Dans le domaine de l'intelligence artificielle, ce terme désigne le traitement injuste d'individus ou de groupes en raison de biais présents dans les données ou les algorithmes, entraînant des disparités de traitement.
Modèle de fondation à double usage
Un modèle d'IA entraîné sur une quantité considérable de données, doté d'un niveau de performance élevé et susceptible d'être utilisé à des fins tant civiles que nuisibles ou militaires.
Évaluation dynamique des risques
Le processus continu d'identification et d'évaluation des risques en temps réel, permettant de répondre rapidement aux menaces émergentes au sein des systèmes d'IA.
Entreprises
Analyse à la périphérie (Edge)
L'analyse des données à la périphérie du réseau, au plus près de leur source de génération, permettant ainsi de réduire la latence et l'utilisation de la bande passante.
Enzai
Une plateforme de gouvernance de l'IA d'entreprise qui permet aux organisations de répertorier, d'évaluer et de contrôler leurs systèmes d'IA, garantissant ainsi une adoption maximale de l'IA tout en minimisant les risques associés.
Logique d'escalade
Un ensemble de règles et de déclencheurs prédéfinis qui contraignent un agent d'IA à interrompre son fonctionnement autonome afin de restituer le contrôle à un opérateur humain.
Attentes de l'ESMA en matière de gouvernance de l'IA et du ML
Les attentes de l'ESMA en matière d'intelligence artificielle et d'apprentissage automatique définissent la manière dont les entreprises d'investissement de l'UE doivent appliquer les obligations de la directive MiFID II lors de l'utilisation de l'IA. L'Autorité européenne des marchés financiers a publié des orientations sur l'IA dans les services d'investissement de détail en mai 2024, suivies d'un exposé de supervision sur le trading algorithmique le 26 février 2026, qui traite de l'IA et de son interaction avec la législation de l'UE sur l'IA (EU AI Act).
Intelligence artificielle éthique
La pratique consistant à concevoir, développer et déployer des systèmes d'intelligence artificielle de manière à respecter les principes et valeurs éthiques, garantissant ainsi l'équité, la responsabilité et la transparence.
Audit Éthique de l'IA
Le processus d'évaluation systématique des systèmes d'intelligence artificielle afin de garantir leur conformité aux normes éthiques et de prévenir tout préjudice.
Certification en IA Éthique
La reconnaissance formelle de la conformité d'un système d'IA aux normes et directives éthiques établies.
Gouvernance Éthique de l'IA
Le cadre de politiques, de procédures et de pratiques garantissant que les systèmes d'intelligence artificielle sont développés et utilisés de manière responsable et éthique.
Cadres éthiques
Ensembles structurés de principes et de lignes directrices conçus pour guider le développement et le déploiement éthiques des systèmes d'intelligence artificielle.
Évaluation de l'impact éthique
Un processus d'évaluation systématique visant à identifier et à traiter les implications éthiques ainsi que les impacts sociétaux potentiels des systèmes d'IA avant leur déploiement.
Risque éthique
Le risque qu'un système d'IA ne cause des préjudices en raison d'un comportement contraire à l'éthique, notamment par des biais, de la discrimination ou la violation de la vie privée.
Lignes directrices en matière d'éthique pour une IA digne de confiance
Un ensemble de lignes directrices élaborées par le Groupe d'experts de haut niveau sur l'intelligence artificielle de la Commission européenne afin de promouvoir une IA de confiance, axé sur la responsabilité humaine, la robustesse technique, la confidentialité, la transparence, la diversité, le bien-être sociétal et la responsabilisation.
Loi sur l'IA de l'UE
Le premier cadre juridique horizontal et complet au monde pour l'IA, établissant un système de classification fondé sur les risques pour les systèmes déployés ou utilisés au sein de l'Union européenne.
Catégories à haut risque de la législation européenne sur l'IA
Les deux classifications de systèmes d'IA à haut risque selon le règlement européen sur l'IA (EU AI Act) : d'une part, les systèmes autonomes énumérés à l'Annexe III (couvrant la biométrie, les infrastructures critiques, l'emploi, l'éducation, le maintien de l'ordre et d'autres usages spécifiques) ; d'autre part, l'IA intégrée dans des produits réglementés énumérés à l'Annexe I (couvrant les dispositifs médicaux, les véhicules, les machines et d'autres catégories de produits réglementés).
Classification des risques selon la législation européenne sur l'IA
Le processus obligatoire consistant à attribuer l'un des quatre niveaux de risque (Inacceptable, Élevé, Limité, Minimal) à un système d'IA, conformément à la législation de l'UE sur l'intelligence artificielle.
Bureau européen de l'IA
L'organe de la Commission européenne établi pour superviser la mise en œuvre et l'application du règlement de l'UE sur l'IA, en particulier pour les modèles d'IA à usage général présentant un risque systémique.
Législation sur les services numériques de l'UE
Le programme plus large de simplification législative 2025-2026 de l'Union européenne, qui traite de plusieurs réglementations numériques, notamment la législation sur l'IA, les dispositions du RGPD, la loi sur la cyberrésilience et les amendements à la loi sur les données.
Pouvoir excessif
Une vulnérabilité par laquelle un système d'IA se voit accorder une autonomie excessive, un trop grand nombre d'outils ou des accès surprivilégiés par rapport à sa fonction initiale.
Décret présidentiel 14110
La directive de l'administration Biden (signée en octobre 2023, abrogée en janvier 2025) qui a établi les normes nationales américaines en matière de sécurité, de sûreté et de confidentialité de l'IA, et qui a créé l'U.S. AI Safety Institute au sein du NIST.
Techniques d'explicabilité
Méthodes utilisées pour interpréter et comprendre les décisions prises par les modèles d'IA, telles que LIME, SHAP et les cartes de saillance.
Explicabilité vs Interprétabilité
Bien que ces deux concepts visent à rendre les décisions de l'IA compréhensibles, l'explicabilité se concentre sur le raisonnement qui sous-tend les décisions, tandis que l'interprétabilité concerne la transparence des mécanismes internes du modèle.
Intelligence Artificielle Explicable (XAI)
Systèmes d'IA conçus pour fournir des justifications compréhensibles par l'homme pour leurs décisions et actions, renforçant ainsi la transparence et la confiance.
Apprentissage automatique explicable
Des modèles d'apprentissage automatique conçus pour fournir des explications claires et compréhensibles de leurs prédictions et de leurs décisions.
F
Mesures d'équité
Mesures quantitatives (telles que la parité démographique ou l'égalité des chances) utilisées pour évaluer l'équité des prédictions d'un modèle d'IA au sein de différents groupes.
Faux négatif
Lorsqu'un modèle d'IA prédit à tort une classe négative pour une instance qui est en réalité positive (erreur de type II).
Faux positif
Lorsqu'un modèle d'IA prédit à tort une classe positive pour une instance qui est en réalité négative (erreur de type I).
Tolérance aux pannes
La capacité d'un système d'intelligence artificielle à continuer de fonctionner correctement même lorsque certains composants tombent en panne ou génèrent des erreurs.
Gouvernance fédérée de l'intelligence artificielle
Un modèle de gouvernance où les politiques centrales et la supervision sont associées à une prise de décision décentralisée par les unités commerciales ou les bureaux régionaux, conciliant ainsi cohérence et flexibilité opérationnelle.
Boucle de rétroaction
Un processus au cours duquel les résultats de l'IA sont réinjectés en tant que données d'entrée, ce qui peut amplifier le comportement du modèle - pour le meilleur (apprentissage par renforcement) ou pour le pire (renforcement des biais).
FS AI RMF (Cadre de gestion des risques liés à l'IA pour les services financiers)
Le Financial Services AI Risk Management Framework (FS AI RMF) est un cadre sectoriel d'adhésion volontaire, publié en février 2026 par le Trésor américain en collaboration avec le Cyber Risk Institute. Aligné sur le NIST AI RMF, il propose une matrice de 230 objectifs de contrôle tout au long du cycle de vie de l'IA, s'appliquant aux banques, coopératives de crédit, assureurs, sociétés d'investissement ainsi qu'à leurs prestataires tiers.
Sécurité fonctionnelle
Garantir que les systèmes d'IA fonctionnent en toute sécurité dans toutes les conditions, en particulier dans des secteurs tels que l'automobile ou la santé, souvent grâce à la redondance et à des processus de contrôle.
Évaluation d'impact sur les droits fondamentaux (EIDF)
Une évaluation obligatoire au titre de la législation de l'UE sur l'IA, visant à déterminer comment l'utilisation d'un système d'IA à haut risque pourrait impacter les libertés publiques et les droits de l'homme.
G
Analyse d'écarts
Le processus de comparaison des pratiques actuelles de gouvernance de l'IA avec les normes ou réglementations souhaitées, afin d'identifier les domaines nécessitant des améliorations.
RGPD
Le Règlement général sur la protection des données de l'UE, qui établit des exigences strictes en matière de collecte, de traitement des données personnelles et de respect des droits des personnes.
Dérive des objectifs
Un phénomène par lequel les sous-objectifs internes ou les processus de raisonnement d'un agent d'IA s'écartent progressivement de l'objectif initial fixé par l'humain.
Organe de gouvernance
Un groupe pluridisciplinaire (comprenant notamment des experts juridiques, éthiques et techniques) chargé de superviser les politiques de gouvernance de l'IA et leur mise en œuvre au sein de l'entreprise.
Cadre de gouvernance
Un modèle structuré définissant l'articulation des différents composants de la gouvernance de l'IA (gestion des risques, responsabilité, supervision) afin de garantir la conformité et une utilisation éthique.
Modèle de maturité de la gouvernance
Un modèle de maturité de la gouvernance est une échelle d'évaluation progressive permettant de mesurer le niveau de développement de la gouvernance de l'IA au sein d'une organisation. Ce modèle s'étend généralement de pratiques ad hoc à des processus mesurés et continuellement optimisés. Il est utilisé pour établir une situation de référence, définir un objectif réaliste et planifier les investissements de manière séquentielle, et non pour certifier la conformité.
Politique de gouvernance
Un document formel qui codifie les règles, les rôles et les procédures pour le développement et la supervision de l'IA au sein d'une organisation.
Bilan de gouvernance
Un tableau de bord ou un rapport d'évaluation qui suit les indicateurs clés (par exemple, les incidents liés aux biais, les audits de conformité) afin de mesurer l'efficacité de la gouvernance de l'IA au fil du temps.
Code de pratique de l'IAGP
Le règlement d'exécution détaillé précisant les obligations de transparence, d'essais de sécurité et de réduction des risques applicables aux fournisseurs de modèles d'IA à usage général (GPAI) dans le cadre de la législation de l'UE sur l'IA.
Modèle d'IA de niveau généraliste
Un modèle d'intelligence artificielle généraliste, capable de réaliser un large éventail de tâches distinctes et de s'intégrer dans diverses applications.
Consentement granulaire
Une approche de la confidentialité des données permettant aux individus d'accorder ou de refuser des autorisations spécifiques pour chaque type d'utilisation des données, renforçant ainsi la transparence et le contrôle.
Garanties de sécurité
Contraintes ou vérifications prédéfinies (techniques et de conformité) intégrées aux systèmes d'IA afin de prévenir tout comportement dangereux ou non conforme lors de l'exécution.
Ligne directrice (Intelligence Artificielle Éthique)
Un document de recommandation non contraignant ou de bonnes pratiques émis par des organisations (par ex., l'IEEE, l'UE) visant à orienter le développement et le déploiement responsables de l'IA.
Bonjour
Hallucination
Lorsque l'intelligence artificielle générative produit des informations incorrectes ou inventées qui semblent plausibles, mais qui ne reposent sur aucune donnée d'apprentissage.
Évaluation des préjudices
Évaluer les impacts négatifs potentiels (physiques, psychologiques, sociétaux) des systèmes d'IA et définir des stratégies d'atténuation.
Harmonisation
Harmoniser les politiques, les normes et les réglementations relatives à l'IA entre les différentes juridictions afin de réduire les conflits et de favoriser l'interopérabilité.
Structure harmonisée
Un modèle standardisé pour toutes les normes de système de management ISO, anciennement connu sous le nom d'Annexe SL, garantissant la cohérence de la terminologie et de la numérotation des clauses.
Évaluation heuristique
Une méthode d'inspection de l'utilisabilité par laquelle des experts évaluent un système d'IA par rapport à des principes d'ergonomie établis afin d'identifier de potentiels problèmes.
Système d'IA à haut risque
Les applications d'IA présentant un risque significatif de porter atteinte à la santé, à la sécurité ou aux droits fondamentaux des personnes, ce qui déclenche les exigences de conformité les plus strictes en vertu de la législation de l'UE sur l'IA.
L'Intelligence Artificielle à Forts Enjeux
Les applications d'IA dont les défaillances pourraient causer des préjudices importants (par exemple, le diagnostic médical ou les véhicules autonomes), nécessitant ainsi une gouvernance et une surveillance renforcées.
Validation humaine intégrée
L'intégration du jugement humain au sein des processus d'intelligence artificielle (entraînement, validation, revue des décisions) afin d'améliorer la précision et la responsabilité.
Supervision humaine
Des mécanismes permettant à des personnes désignées de surveiller, d'intervenir ou d'annuler les décisions d'un système d'IA afin de garantir la conformité éthique et légale.
Évaluation de l'impact sur les droits de l'homme
Un processus visant à évaluer l'impact des systèmes d'intelligence artificielle sur les droits fondamentaux (vie privée, liberté d'expression, non-discrimination) et à identifier des mesures d'atténuation.
Je
Évaluation d'impact
Une évaluation structurée visant à identifier, analyser et atténuer les impacts éthiques, juridiques et sociétaux potentiels d'un système d'IA avant son déploiement.
Actes d'exécution
Législation secondaire de l'UE adoptée par la Commission européenne afin d'établir des conditions uniformes pour la mise en œuvre de la législation primaire, dotée d'un effet juridique contraignant dans l'ensemble des États membres.
Alignement des objectifs
La conception de structures de récompense et d'objectifs permettant de garantir que les buts des systèmes d'IA restent alignés avec les valeurs humaines et les priorités de l'entreprise.
Biais inductif
L'ensemble d'hypothèses qu'un algorithme d'apprentissage utilise pour généraliser à partir de données observées vers de nouvelles instances.
Gouvernance de l'information
Les politiques, procédures et contrôles qui garantissent la qualité, la confidentialité et l'exploitabilité des données au sein du patrimoine informationnel d'une organisation, y compris pour les ensembles de données d'entraînement d'intelligence artificielle.
Confidentialité des informations
Le droit des individus de contrôler la manière dont leurs données personnelles sont collectées, utilisées, conservées et partagées par les systèmes d'IA.
Risque de données hérité
La responsabilité réglementaire et éthique qu'assume une organisation lorsqu'elle utilise un système d'intelligence artificielle entraîné sur des données qu'elle n'a pas collectées ou vérifiées elle-même.
Flux de travail d'admission
Le processus standardisé et la série de vérifications auxquels tout nouveau système d'IA doit se soumettre avant d'être développé ou acquis.
Validation d'intention
Le processus consistant à vérifier que les sous-actions planifiées par un agent d'IA restent conformes à l'objectif initial défini par l'utilisateur.
Interopérabilité
La capacité de divers systèmes et composants d'IA à échanger, comprendre et utiliser des informations de manière transparente, le plus souvent via des standards ouverts ou des API.
Interprétabilité
Le degré de clarté avec lequel un être humain peut appréhender les mécanismes internes ou la logique de décision d'un modèle d'intelligence artificielle.
ISO/CEI 42001
La norme internationale définissant les exigences relatives à l'établissement, à la mise en œuvre, à la maintenance et à l'amélioration continue d'un système de management de l'intelligence artificielle (SMIA).
ISO/IEC 42005
La norme internationale fournissant des directives pour la réalisation d'évaluations d'impact des systèmes d'IA.
ISO/CEI JTC 1/SC 42
Le comité mixte ISO/CEI sur la normalisation de l'intelligence artificielle, qui élabore des normes internationales d'IA pour la gouvernance, les risques et l'interopérabilité.
J
Attaque par contournement des barrières de sécurité
Une forme d'injection d'instructions (prompt injection) par laquelle les utilisateurs exploitent des vulnérabilités pour contourner les barrières de sécurité des modèles d'IA générative, ce qui peut entraîner la production de contenus non autorisés ou inappropriés.
Loi japonaise sur la promotion de l'intelligence artificielle
Une loi japonaise (promulguée en 2025) établissant les principes fondamentaux pour la promotion de l'IA et l'atténuation des risques associés.
Responsabilité conjointe
Principe juridique selon lequel plusieurs parties (par exemple, les développeurs et les intégrateurs) partagent la responsabilité des dommages liés à l'IA, influençant ainsi les structures contractuelles et de gouvernance.
Modélisation conjointe
Concevoir des systèmes d'IA capables d'apprendre conjointement plusieurs tâches (par exemple, la reconnaissance vocale et la traduction), tout en assurant la gouvernance nécessaire à la gestion de la complexité et à l'auditabilité.
Compétence juridique
L'autorité légale sur les données, les opérations d'IA et la responsabilité civile, qui varie selon la zone géographique et influe sur la conformité avec les réglementations régionales (notamment le RGPD ou la CCPA).
K
Indicateur Clé de Performance
Un indicateur quantifiable (par exemple, la dérive de la précision du modèle, le délai de correction des biais) utilisé pour superviser et rendre compte des objectifs de gouvernance et de conformité de l'IA.
Indicateur Clé de Risque
Un indicateur avancé (par exemple, la fréquence des prédictions hors du périmètre défini ou le taux de décisions inexplicables) qui signale l'émergence de risques liés à l'IA avant qu'ils ne se matérialisent.
Gestion des connaissances
Pratiques et outils pour capturer, organiser et partager les connaissances organisationnelles (ex. : documentation des modèles, journaux d'audit) afin de garantir la reproductibilité et la surveillance.
L'entreprise
L'Agence du Moindre Effort
Un principe de sécurité et de gouvernance stipulant que les agents d'IA ne doivent disposer que du niveau d'autonomie et d'accès aux outils strictement nécessaire à l'accomplissement d'une tâche spécifique.
Moindre privilège
Un principe de sécurité selon lequel les composants d'IA et les utilisateurs ne bénéficient que des droits d'accès minimaux nécessaires à l'accomplissement de leurs fonctions, réduisant ainsi le risque d'utilisation abusive.
Conformité légale
La pratique consistant à s'assurer que les systèmes d'intelligence artificielle respectent les lois, réglementations et normes industrielles en vigueur tout au long de leur cycle de vie.
Cadre de responsabilité
Une approche structurée définissant les responsabilités en cas de préjudices ou de défaillances liés à l'IA, englobant les développeurs, les déployeurs et les opérateurs.
Gestion du cycle de vie
Les processus coordonnés de développement, de déploiement, de surveillance, de maintenance et de retrait des systèmes d'IA afin de garantir une conformité continue et un contrôle rigoureux des risques.
Localisation
L'adaptation des systèmes d'IA aux langues locales, aux réglementations, aux normes culturelles et aux exigences de résidence des données au sein des différentes juridictions.
M
Autorité de surveillance du marché
L'organisme national de réglementation de chaque État membre de l'UE, chargé de surveiller les systèmes d'IA afin de garantir leur conformité avec la législation européenne sur l'intelligence artificielle.
Principes MAS FEAT
Les principes FEAT de la MAS sont quatre principes couvrant l'équité, l'éthique, la responsabilité et la transparence, publiés par l'Autorité monétaire de Singapour le 12 novembre 2018, afin d'encadrer l'utilisation responsable de l'intelligence artificielle et de l'analyse des données dans le secteur financier singapourien. Il s'agit de directives non contraignantes, et non de règles exécutoires, qui s'appuient sur la méthodologie d'évaluation Veritas.
Contrôle humain significatif
Une norme réglementaire et opérationnelle garantissant que l'être humain conserve la capacité de superviser, d'intervenir et de neutraliser les processus de prise de décision de l'IA.
Gestion des métadonnées
La pratique consistant à capturer et à conserver des données descriptives (telles que la provenance des données, la définition des variables ou les paramètres des modèles) afin de garantir la traçabilité et de faciliter les audits.
Indicateurs et KPI
Mesures quantitatives (par exemple, la dérive de la précision, les scores d'équité, le temps de réponse aux incidents) utilisées pour surveiller la santé des systèmes d'IA, ainsi que les objectifs de risque et de conformité.
Loi fédérale mexicaine sur l'IA et les algorithmes
Un projet de loi fédérale mexicaine sur l'IA et les algorithmes, proposant un système de classification fondé sur les risques, la création de la Commission nationale de l'IA (CONAIA) ainsi que des obligations de marquage pour les contenus générés par IA.
Stratégies d'atténuation
Actions planifiées (par exemple, correction des biais, réentraînement, réingénierie des caractéristiques) afin de remédier aux risques liés à l'IA et aux écarts de conformité identifiés.
Loi du Minnesota sur la protection des données des consommateurs (Dispositions relatives à l'IA)
Les dispositions spécifiques à l'intelligence artificielle de la loi du Minnesota sur la protection des données des consommateurs.
Fiche de modèle
Un document court et standardisé fournissant des informations essentielles sur les performances, les limites et les cas d'utilisation prévus d'un modèle d'apprentissage automatique.
Restitution des modèles
Une mesure corrective réglementaire imposant à une entreprise de supprimer les modèles ou algorithmes d'IA développés à partir de données acquises de manière abusive ou illicite.
Dérive des modèles
La dégradation au fil du temps des performances prédictives d'un modèle d'IA, causée par l'évolution des données réelles ou de son environnement.
Explicabilité des modèles
Techniques et documentation permettant de rendre la logique de décision d'un modèle d'IA compréhensible pour les parties prenantes et les auditeurs.
Gouvernance des modèles
Les politiques, rôles et contrôles qui garantissent que les modèles d'IA sont développés, approuvés et utilisés conformément aux normes organisationnelles et aux exigences réglementaires.
Supervision des modèles
Suivi continu des performances du modèle d'IA, de la dérive des données et des métriques opérationnelles afin de détecter toute dégradation ou risque émergent.
Réentraînement des modèles
Le processus de mise à jour d'un modèle d'IA avec des données nouvelles ou actualisées afin de maintenir sa performance et sa conformité au fil de l'évolution de la distribution des données.
Gestion du risque de modèle
La gestion du risque de modèle désigne la discipline consistant à identifier, mesurer et contrôler le risque qu'un modèle produise des résultats erronés ou fasse l'objet d'une utilisation inadéquate. Dans le secteur bancaire américain, cette pratique est régie par la directive SR 26-2, publiée conjointement le 17 avril 2026 par la Réserve fédérale, l'OCC et la FDIC. Ce texte remplace la directive SR 11-7 et exclut expressément l'intelligence artificielle générative et agentique de son champ d'application.
Validation des modèles
Les activités d'évaluation (par exemple, les tests sur des données de réserve, les scénarios de stress) qui confirment qu'un modèle d'IA répond à sa destination et à ses critères de performance.
Engagement Multi-Parties
L'implication de groupes diversifiés (tels que les services juridiques, d'éthique, des opérations et les utilisateurs finaux) dans les processus de gouvernance de l'IA, afin de garantir une surveillance équilibrée des risques et un alignement optimal avec les objectifs de l'entreprise.
Non
Cadre de gestion des risques liés à l'IA du NIST
Une directive volontaire du National Institute of Standards and Technology (NIST) des États-Unis, décrivant les meilleures pratiques pour atténuer les risques tout au long du cycle de vie des systèmes d'intelligence artificielle.
Profils du NIST AI RMF
Les profils NIST AI RMF sont des implémentations personnalisées du cadre de gestion des risques liés à l'intelligence artificielle du NIST. Le NIST en définit trois types : les profils de cas d'usage pour des applications spécifiques, les profils intersectoriels applicables à l'ensemble des industries, et les profils temporels décrivant l'état actuel et cible d'une organisation. Le premier profil intersectoriel, le profil d'IA générative (NIST AI 600-1), a été publié en juillet 2024.
Identité Non-Humaine (NHI)
Un identifiant numérique utilisé par un agent IA, un robot ou un service pour s'authentifier et interagir avec les systèmes de l'entreprise.
Organisme notifié
Un organisme tiers indépendant désigné par un État membre de l'UE pour évaluer la conformité de certains systèmes d'IA à haut risque dans le cadre de la législation européenne sur l'IA.
Loi locale 144 de la ville de New York
Une loi de la ville de New York impose désormais des audits annuels d'impartialité pour les outils d'intelligence artificielle utilisés dans le cadre des décisions de recrutement.
O
Observabilité
La capacité de déduire l'état interne et le comportement d'un système d'IA grâce à la collecte et à l'analyse de journaux, de métriques et de résultats, afin d'assurer une surveillance et un dépannage efficaces.
Mémorandum OMB M-25-21
La directive présidentielle OMB M-25-21, intitulée « Accélérer l'utilisation de l'IA par le gouvernement fédéral grâce à l'innovation, la gouvernance et la confiance publique », enjoint aux agences fédérales américaines de nommer un directeur de l'IA, de publier un inventaire de leurs cas d'usage de l'IA et d'appliquer des pratiques minimales de gestion des risques pour l'« IA à fort impact ». Publiée en avril 2025, elle remplace la directive M-24-10 et s'accompagne de la directive M-25-22 relative à l'acquisition de technologies d'IA.
Surveillance continue
Suivi continu de la performance du système d'IA, de la dérive des données, des métriques de biais et des événements de sécurité pour détecter et atténuer les risques émergents au fil du temps.
Autonomie opérationnelle
La capacité d'un système d'intelligence artificielle à exécuter des tâches multi-étapes et à prendre des décisions sans intervention humaine à chaque étape.
Résilience Opérationnelle
La capacité des systèmes d'IA et de leur infrastructure de support à anticiper, résister, se rétablir et s'adapter aux perturbations ou événements indésirables.
Risques liés aux résultats
Le risque opérationnel, juridique et réputationnel découlant de l'utilisation de contenus incorrects, biaisés ou préjudiciables générés par un système d'intelligence artificielle.
Supervision
Le processus structuré d'examen, d'approbation et de responsabilisation lié au développement et au déploiement de l'IA, impliquant généralement des organes de gouvernance interfonctionnels.
Le Top 10 d'OWASP pour les systèmes agentiques
L'OWASP Top 10 pour les applications agentiques est une liste évaluée par des pairs recensant les dix risques de sécurité les plus critiques au sein des agents d'intelligence artificielle autonomes, publiée par le projet OWASP Gen AI Security le 10 décembre 2025. Ses entrées sont codifiées de ASI01 à ASI10, allant du détournement d'objectif de l'agent (Agent Goal Hijack) aux agents rebelles (Rogue Agents).
P
Gouvernance des voies d'accès privilégiées
Une stratégie qui favorise la conformité en rendant les flux de travail sécurisés et approuvés plus faciles à suivre que les alternatives non autorisées.
Gestion des habilitations
La gestion des droits d'accès des utilisateurs et des systèmes aux données et fonctionnalités d'IA, garantissant le principe du moindre privilège et empêchant toute utilisation non autorisée.
Phase pilote
Un essai à portée limitée d'un système d'intelligence artificielle dans un environnement contrôlé, visant à évaluer les performances, les risques et les contrôles de gouvernance avant un déploiement à grande échelle.
Mise en Application des Politiques
Les mécanismes automatisés ou manuels qui garantissent que les opérations d'IA respectent les politiques organisationnelles, les règles réglementaires et les principes éthiques.
Suivi post-déploiement
Surveillance continue du comportement et de l'environnement du système d'IA après son déploiement, afin de détecter toute dégradation, dérive ou non-conformité.
PRA SS1/23 (Gestion du risque de modèle)
La déclaration de surveillance SS1/23 de la PRA définit les cinq principes de gestion du risque de modèle de la Banque d'Angleterre pour les banques britanniques. Publiée le 17 mai 2023 et entrée en vigueur le 17 mai 2024, elle s'applique aux banques constituées au Royaume-Uni, aux sociétés de crédit immobilier et aux entreprises d'investissement agréées par la PRA qui détiennent une approbation de modèle interne. Elle couvre les modèles d'intelligence artificielle et d'apprentissage automatique, et ne s'applique pas aux assureurs.
Présomption de conformité
Un mécanisme juridique prévu par le règlement de l'UE sur l'intelligence artificielle (AI Act) et d'autres cadres réglementaires, selon lequel la conformité à une norme harmonisée (telle qu'une norme européenne EN publiée) établit une présomption réfutable de conformité avec la réglementation sous-jacente.
La protection de la vie privée dès la conception
Une approche qui intègre les exigences de protection des données et de respect de la vie privée des utilisateurs au cœur même de l'architecture et des processus des systèmes d'IA, dès leur conception.
Évaluation des facteurs de respect de la vie privée
Une analyse structurée visant à identifier et atténuer les risques liés au respect de la vie privée associés aux systèmes d'IA, couvrant la collecte, l'utilisation, le partage et la conservation des données.
Système probabiliste
Un système au sein duquel les résultats découlent de probabilités statistiques plutôt que d'une logique déterministe et figée.
Q
Évaluation qualitative
L'évaluation subjective, par des experts, des comportements, des décisions et de la documentation des systèmes d'IA, visant à identifier les risques éthiques, juridiques ou réputationnels qui ne peuvent être appréhendés de manière quantitative.
Assurance Qualité
Les processus et contrôles systématiques garantissant que les modèles d'IA et les pipelines de données respectent les normes établies en matière de précision, de fiabilité et de conformité éthique.
Contrôle Qualité
La vérification continue des résultats et des processus de l'IA par rapport à des critères de référence et des cas de test, afin de détecter les anomalies, les risques de biais ou les violations de politiques.
Évaluation quantitative des risques
Une évaluation factuelle des menaces potentielles liées à l'IA, estimant numériquement leurs probabilités et leurs impacts afin de hiérarchiser les mesures d'atténuation.
Confidentialité des requêtes
Techniques et politiques de protection des informations sensibles au sein des requêtes d'utilisateurs, garantissant que les données saisies et enregistrées ne compromettent pas de données personnelles ou propriétaires.
Cadre de questionnaire
Un ensemble structuré de questions axées sur la gouvernance, utilisé lors de la conception, de l'acquisition ou du déploiement, afin de garantir la conformité des systèmes d'IA avec les exigences politiques de l'entreprise.
Quorum pour le Conseil de Gouvernance
Le nombre minimal de membres du comité de gouvernance requis pour siéger afin de prendre des décisions officielles concernant les risques liés à l'IA, l'approbation des politiques ou les résultats d'audits.
Gestion des quotas
Les contrôles et les limites appliqués à l'utilisation des ressources d'IA (par exemple, les appels d'API, le temps de calcul) afin de faire respecter les politiques de gouvernance et de prévenir les coûts excessifs ou les abus.
R
Chaîne de raisonnement
Le processus logique séquentiel qu'un agent IA suit pour passer d'un objectif initial à une action ou un résultat final.
Recours
Des mécanismes permettant aux personnes concernées de contester ou de demander réparation pour des décisions fondées sur l'IA qui affectent leurs droits ou leurs intérêts.
Red Teaming
Une approche de test proactive dans laquelle des experts internes ou externes simulent des attaques ou des scénarios d'utilisation abusive afin de détecter les vulnérabilités des systèmes d'intelligence artificielle.
Conformité réglementaire
Garantir la conformité des systèmes d'IA avec les lois, réglementations et normes sectorielles applicables (ex. RGPD, FDA, surveillance financière) tout au long de leur cycle de fonctionnement.
Matrice d'attribution des responsabilités
Un outil (par exemple, la matrice RACI) qui clarifie les rôles et les responsabilités pour chaque activité de gouvernance : qui est Réalisateur (Responsible), Approbateur (Accountable), Consulté (Consulted) et Informé (Informed).
Intelligence Artificielle Responsable
La pratique consistant à concevoir, développer et déployer des systèmes d'IA de manière éthique, transparente et responsable vis-à-vis des parties prenantes et de la société.
Évaluation des risques
Le processus d'identification, d'analyse et de hiérarchisation des risques ou défaillances potentiels au sein des systèmes d'IA, afin de déterminer les stratégies d'atténuation appropriées.
Cadre de gestion des risques
Un ensemble structuré de directives et de processus conçu pour aborder systématiquement les risques liés à l'IA tout au long du cycle de vie du système, de sa conception jusqu'à son retrait.
Analyse des causes racines
Une investigation structurée visant à déterminer les causes sous-jacentes des défaillances ou des comportements imprévus des systèmes d'IA, afin de guider les mesures correctives.
S
Politique d'utilisation autorisée
Règles et contrôles définis spécifiant les contextes, utilisateurs et finalités autorisés pour le fonctionnement du système d'IA, afin de prévenir tout usage abusif.
Sécurité par Conception
L'intégration des contrôles de sécurité et des meilleures pratiques dans les systèmes d'IA dès les premières phases de conception, afin de prévenir les vulnérabilités et les violations de données.
Agents de l'ombre
Des agents d'IA autonomes non autorisés, déployés au sein d'une organisation à l'insu de l'équipe de gouvernance, et capables de mener des actions ayant un impact sur les systèmes d'information de l'entreprise et ses partenaires externes.
L'IA fantôme
L'utilisation non autorisée de modèles, d'agents ou d'outils d'intelligence artificielle par les collaborateurs, sans l'approbation du département informatique, ce qui engendre des vulnérabilités de sécurité invisibles par la fuite de données et des actions autonomes non contrôlées.
Cadre modèle de gouvernance de l'IA de Singapour
Le Model AI Governance Framework de Singapour est un ensemble de directives volontaires publiées par l'IMDA pour déployer l'intelligence artificielle de manière responsable. Il existe désormais en trois éditions : le cadre initial publié en 2019, une édition consacrée à l'IA générative parue en 2024, et enfin le Model AI Governance Framework for Agentic AI lancé le 22 janvier 2026.
Loi fondamentale sur l'intelligence artificielle en Corée du Sud
Le cadre juridique complet de la Corée du Sud pour le développement et la fiabilité de l'intelligence artificielle.
Évaluation de l'impact sociétal
Une évaluation structurée de l'impact d'un système d'intelligence artificielle sur les aspects sociaux, économiques et culturels des communautés, visant à identifier les préjudices et les bénéfices potentiels.
SR 11-7 (Gestion du risque de modèle)
La directive SR 11-7 constituait le guide de supervision de la Réserve fédérale américaine et de l'OCC concernant la gestion des risques liés aux modèles, publié le 4 avril 2011. Pendant quinze ans, ce texte a défini les standards de référence en matière de validation des modèles, d'inventaire des modèles et de revue indépendante au sein du secteur bancaire américain. Il a été abrogé et remplacé le 17 avril 2026 par la directive SR 26-2, un guide révisé publié conjointement par la Réserve fédérale, l'OCC et la FDIC.
SR 26-2 (Directives révisées sur la gestion des risques liés aux modèles)
La directive SR 26-2 constitue la version révisée des orientations de supervision américaines relatives à la gestion des risques liés aux modèles, publiée conjointement par la Réserve fédérale, l'OCC et la FDIC le 17 avril 2026. Remplaçant les directives SR 11-7 et SR 21-8, elle définit une approche basée sur le risque et adaptée au profil de risque de modèle de chaque institution bancaire, tout en excluant expressément l'intelligence artificielle générative et agentique de son champ d'application.
Engagement des parties prenantes
Le processus consistant à impliquer les parties prenantes concernées (par exemple, les utilisateurs, les régulateurs, les communautés impactées) dans le développement et la supervision de l'IA, afin de garantir la diversité des perspectives et d'obtenir leur adhésion.
Déclaration d'applicabilité (SoA)
Un document qui identifie les mesures de contrôle de l'Annexe A de la norme ISO 42001 applicables au système de management de l'IA d'une organisation, et qui justifie l'exclusion des autres.
Modification substantielle
Toute modification apportée à un système d'IA après sa mise sur le marché, qui affecte sa conformité ou sa destination initiale conformément à la législation européenne sur l'IA (EU AI Act).
Risque lié à la surveillance
La menace que les systèmes d'IA ne soient exploités à des fins de surveillance intrusive d'individus ou de groupes, portant ainsi atteinte à la vie privée et aux libertés civiles.
Système d'enregistrement
La source de données de référence pour un élément de donnée ou une information spécifique au sein d'une organisation.
Seuil de risque systémique
Le seuil technique ou de capacité (par exemple, 10^25 FLOP) qui qualifie un modèle d'IA à usage général comme présentant un niveau de risque élevé pour la société.
T
Risque extrême
La possibilité d'obtenir des résultats rares et extrêmes dans le comportement ou la prise de décision de l'IA, qui sortent du cadre des attentes normales et nécessitent une planification d'atténuation spécifique.
Tests et validation
Le processus systématique d'évaluation des modèles d'IA par rapport à des critères de référence, des cas limites et des conditions de stress, afin de garantir qu'ils répondent aux exigences de performance, de sécurité et de conformité.
Risques liés aux tiers
L'exposition découlant de la dépendance vis-à-vis de fournisseurs de données externes, de concepteurs de modèles ou de plateformes de services susceptibles d'introduire des vulnérabilités en matière de conformité ou de sécurité.
Définition du seuil
Définir des seuils ou des valeurs limites dans les règles de décision de l'IA (par exemple, des scores de confiance) afin d'équilibrer les risques, tels que les faux positifs par rapport aux faux négatifs.
Trilogue
Négociation informelle tripartite entre la Commission européenne, le Conseil de l'Union européenne et le Parlement européen, visant à obtenir un accord politique sur la législation de l'UE avant son adoption formelle.
Une IA de confiance
Des systèmes d'IA conçus et exploités de manière éthique, fiable, sécurisée et conforme aux valeurs humaines et aux normes sociétales.
Vous
Plan d'action sur les opportunités de l'IA au Royaume-Uni
La feuille de route stratégique du gouvernement britannique visant à maximiser les avantages de l'IA tout en établissant des règles de sécurité ciblées et contraignantes.
Gouvernance des cas d'usage
La pratique consistant à définir, approuver et superviser les cas d'usage spécifiques de l'intelligence artificielle, afin de garantir que chacun d'eux s'aligne sur les politiques de l'organisation, les normes éthiques et l'appétence au risque.
Consentement de l'utilisateur
Le processus consistant à obtenir et à enregistrer le consentement explicite des personnes physiques avant de collecter, de traiter ou d'utiliser leurs données personnelles au sein de systèmes d'intelligence artificielle.
V
Suivi des écarts
Suivi des fluctuations des résultats des modèles d'IA ou des indicateurs de performance au fil du temps afin de détecter les dérives et d'en déduire une dégradation potentielle ou un risque.
Gestion des risques liés aux fournisseurs
Évaluer et surveiller les fournisseurs tiers de composants ou de services d'IA afin d'identifier et d'atténuer les risques potentiels en matière de conformité, de sécurité ou d'éthique.
Verrouillage de version
La pratique consistant à verrouiller un système d'IA sur une version spécifique et testée d'un modèle de fondation, afin d'éviter que des mises à jour silencieuses ne modifient le comportement du système.
Droit de veto
Le droit formel détenu par un organe de gouvernance ou une partie prenante de bloquer ou d'exiger des modifications sur les déploiements d'IA qui présentent des risques inacceptables.
Surveillance de vigilance
Une surveillance continue du comportement de l'IA et des signaux externes (tels que les évolutions réglementaires) afin d'identifier rapidement et de traiter les risques émergents ou les cas de non-conformité.
Supervision par Intelligence Artificielle Visuelle
Les processus de gouvernance spécifiques aux systèmes de vision par ordinateur, garantissant la qualité des données, le contrôle des biais et la transparence des prises de décision basées sur des images ou des vidéos.
W
Surveillance Watchdog
Contrôles autonomes au moment de l'exécution qui observent les décisions de l'IA et déclenchent des alertes ou des interventions en cas de violation des politiques ou des seuils définis.
Filigranage
La pratique consistant à intégrer des marqueurs de provenance détectables et lisibles par machine dans les contenus générés par IA, tels que les images, l'audio, la vidéo et le texte synthétique, afin de permettre aux utilisateurs et plateformes en aval d'identifier ces contenus comme étant issus de l'intelligence artificielle.
Audit des pondérations
Examen des poids et des structures des modèles afin de détecter toute anomalie, porte dérobée ou biais susceptible d'indiquer une altération ou des comportements indésirables.
Politique de liste d'autorisation et d'exclusion
Règle de gouvernance définissant les entrées, fonctionnalités ou opérations autorisées (liste d'autorisation) et interdites (liste de blocage) afin de garantir la conformité et de prévenir tout usage abusif.
Autorisation d'accès
Autoriser exclusivement les sources de données, bibliothèques ou composants de modèles préalablement approuvés au sein des pipelines d'IA, afin de limiter les risques liés à des éléments non vérifiés ou malveillants.
Ségrégation des charges de travail
Séparer les environnements de calcul IA (ex. développement, test, production) et les domaines de données afin de limiter le rayon d'impact des défaillances ou des failles de sécurité.
Analyse du pire scénario
Évaluer les défaillances ou les abus potentiels les plus extrêmes d'un système d'IA afin d'éclairer l'atténuation robuste des risques et la planification d'urgence.
Stockage WORM (écriture unique, lectures multiples)
Un stockage immuable garantissant que les journaux, les pistes d'audit et les artefacts de modèles ne peuvent être altérés après leur écriture, assurant ainsi la non-répudiation et facilitant l'analyse médico-légale.
X
Audit d'IA explicable
Un processus d'évaluation visant à vérifier si les explications fournies par l'IA respectent les politiques internes et les exigences réglementaires, garantissant ainsi un niveau de transparence adéquat.
L'IA explicable (XAI)
Techniques et méthodes visant à rendre le processus de décision d'un modèle d'IA transparent et compréhensible pour l'homme, favorisant ainsi la responsabilité et la conformité.
Cadre de référence XAI
Une approche structurée ou un ensemble de directives que les organisations utilisent pour implémenter, mesurer et gouverner les pratiques d'explicabilité à travers leurs systèmes d'IA.
Mesures d'IA explicable
Mesures quantitatives ou qualitatives (par exemple, scores d'importance des fonctionnalités, fidélité des explications) utilisées pour évaluer la qualité et la fiabilité des explications fournies par l'IA.
Oui
Revue annuelle de conformité
Une évaluation annuelle des processus, politiques et systèmes de gouvernance de l'IA, afin de garantir une conformité continue avec les réglementations et les normes internes.
Z
Tolérance zéro défaut
Un principe de gouvernance visant l'absence totale d'erreurs et de violations des politiques au sein des résultats de l'IA, soutenu par des tests rigoureux, une surveillance continue et des cycles d'amélioration constante.
Contrôle d'accès basé sur les zones
Une approche de gouvernance réseau ou de données qui fragmente les ressources en zones dotées de politiques distinctes, limitant l'accès des systèmes d'intelligence artificielle en fonction de la sensibilité des données.
Livre blanc
Tous
Réglementations sur l'IA
Balados
Mises à jour du produit
Couverture Médiatique
Glossaire
A
Charte d'utilisation acceptable
Un ensemble de règles définies par une organisation, qui précise les usages autorisés et interdits des outils d'intelligence artificielle mis à la disposition des collaborateurs.
Certification accréditée
Un certificat délivré par un organisme de certification qui a été formellement reconnu par un organisme national d'accréditation (tel que l'ANAB ou l'UKAS) comme compétent pour réaliser des audits conformément à une norme spécifique.
Aperçu de l'action
Une exigence de gouvernance selon laquelle un agent d'IA doit afficher précisément les conséquences d'une opération irréversible avant qu'un humain n'accorde son approbation finale.
Autorisation préalable d'actions
Un dispositif de contrôle de sécurité et de gouvernance qui définit les seuls outils, API et actions qu'un agent d'IA est autorisé à exécuter.
Attaque contradictoire
Techniques consistant à manipuler les modèles d'IA en y introduisant des données trompeuses afin de générer des résultats erronés.
Agent Fabric
Un substrat d'exécution intégré qui héberge, orchestre et gouverne de multiples agents d'IA, ainsi que les modèles, les outils et les données dont ils dépendent.
Détournement d'objectif de l'agent (ASI01)
Une vulnérabilité par laquelle un attaquant manipule les objectifs ou les processus décisionnels d'un agent afin de réorienter son comportement autonome vers des résultats non souhaités.
Réseau d'agents
Une topologie en réseau au sein de laquelle des agents d'IA se découvrent, communiquent et se délèguent mutuellement des tâches par le biais d'une couche d'infrastructure partagée.
Agentic IA
Une catégorie de systèmes d'intelligence artificielle conçus pour poursuivre de manière autonome des objectifs complexes et exécuter des actions multi-étapes (telles que le déploiement de logiciels ou des transactions financières) avec une intervention humaine minimale.
Gouvernance de l'IA Agentique
La gouvernance de l'IA agentielle désigne le contrôle des systèmes d'intelligence artificielle capables de planifier et d'agir de manière autonome, par opposition aux systèmes qui se limitent à générer des prédictions ou du contenu. Elle définit ce qu'un agent est autorisé à faire, les limites de son autonomie, la traçabilité de ses actions, ainsi que la responsabilité juridique et opérationnelle en cas de comportement inapproprié de l'agent.
Moteur de politiques agentique
Un composant logiciel d'exécution qui intercepte les actions des agents et les évalue par rapport à un ensemble de règles de gouvernance déterministes avant leur exécution.
Responsabilité de l'IA
L'obligation des développeurs et des exploitants de systèmes d'IA de garantir que leurs systèmes sont conçus et utilisés de manière responsable, conformément aux normes éthiques et aux exigences légales.
Alignement de l'IA
Le processus visant à garantir que les objectifs et les comportements des systèmes d'intelligence artificielle sont alignés sur les valeurs et les intentions humaines.
Assistant IA
Un système d'intelligence artificielle conversationnelle conçu pour aider les utilisateurs à accomplir des tâches par le biais d'interactions en langage naturel, généralement propulsé par un grand modèle de langage.
Audit de l'IA
L'évaluation systématique des systèmes d'IA afin de garantir leur conformité avec les normes éthiques, les réglementations en vigueur et les indicateurs de performance.
Biais de l'IA
Erreurs systématiques dans les résultats de l'IA découlant de données d'entraînement biaisées ou d'algorithmes défectueux, entraînant des décisions inéquitables.
Nomenclature de l'IA (AIBOM)
Un inventaire structuré répertoriant les composants d'un système d'IA, y compris les modèles de fondation, les jeux de données d'entraînement, les bibliothèques et les dépendances — l'équivalent pour l'IA d'une nomenclature logicielle (SBOM).
Conformité de l'IA
La conformité des systèmes d'IA aux lois, réglementations et directives éthiques applicables tout au long de leur cycle de vie.
Éthique de l'IA
Le domaine d'étude consacré aux implications morales et aux responsabilités associées au développement et au déploiement des technologies d'intelligence artificielle.
Explicabilité de l'IA
La mesure dans laquelle les mécanismes internes d'un système d'intelligence artificielle peuvent être compris et interprétés par l'être humain.
Empreinte IA
L'ensemble des systèmes d'IA, modèles, agents et fonctionnalités d'IA intégrées utilisés au sein d'une organisation à un moment donné, y compris les systèmes approuvés et non autorisés (shadow IT).
Gouvernance de l'IA
Le cadre de politiques, de processus et de contrôles qui guide le développement et l'utilisation éthiques et efficaces des systèmes d'intelligence artificielle.
Gouvernance de l'IA pour les services financiers
La gouvernance de l'IA pour les services financiers consiste à appliquer des contrôles de conformité et de gestion des risques liés à l'IA, conformément aux régimes de supervision du secteur. Les réglementations applicables varient selon la juridiction et le type d'entreprise : la directive SR 26-2 pour les grandes banques américaines, la norme PRA SS1/23 pour les banques britanniques disposant d'une approbation de modèle interne, les principes MAS FEAT à Singapour, et le règlement européen sur l'IA (EU AI Act) pour l'ensemble de ces entités.
Logiciel de gouvernance de l'IA
Outils d'entreprise spécialisés pour automatiser l'inventaire, l'évaluation des risques et la conformité réglementaire des systèmes d'intelligence artificielle.
Gestion des stocks par IA
Un catalogue complet et centralisé de tous les systèmes, modèles et agents d'IA utilisés au sein d'une organisation, assurant le suivi de leur objectif commercial, de leur niveau de risque et de leur gouvernance.
Directive européenne sur la responsabilité en matière d'intelligence artificielle
Une proposition de directive européenne visant à simplifier le processus d'indemnisation des victimes de dommages causés par des systèmes d'IA, en introduisant une présomption réfragable de causalité.
Maîtrise de l'IA
La compréhension des concepts, des capacités et des limites de l'IA, permettant ainsi une interaction éclairée avec ces technologies.
Système de Gestion de l'Intelligence Artificielle (SGIA)
Un ensemble d'éléments corrélés ou en interaction au sein d'une organisation, visant à établir des politiques, des objectifs et des processus pour un développement ou une utilisation responsable de l'IA.
Supervision de l'IA
La surveillance de l'IA consiste en l'observation continue des systèmes d'intelligence artificielle en production afin de détecter toute dégradation, dérive, comportement anormal ou défaillance de contrôle. Elle englobe la performance des modèles, la distribution des données d'entrée et de sortie, les indicateurs d'équité, les coûts et la latence, ainsi que les actions entreprises par le système dans le cas des systèmes agentiels.
Risques liés à l'IA
Le potentiel des systèmes d'intelligence artificielle à causer des préjudices ou des conséquences imprévues, englobant les risques éthiques, juridiques et opérationnels.
Gestion des risques liés à l'IA
Le processus d'identification, d'évaluation et de l'atténuation des risques associés aux systèmes d'intelligence artificielle.
La prolifération de l'IA
La prolifération incontrôlée des systèmes d'intelligence artificielle au sein d'une organisation, généralement favorisée par un accès facilité aux outils d'IA et par l'absence de processus efficaces d'évaluation et de référencement.
Évaluation de l'impact du système d'IA
Un processus formel visant à évaluer les conséquences potentielles du déploiement d'un système d'intelligence artificielle sur les individus, les groupes et la société dans son ensemble.
Transparence de l'IA
Le principe selon lequel les systèmes d'IA doivent faire preuve d'ouverture et de clarté concernant leur fonctionnement, leurs décisions et l'utilisation des données.
TRiSM de l'IA
Un acronyme créé par Gartner signifiant AI Trust, Risk, and Security Management (gestion de la confiance, des risques et de la sécurité de l'IA) ; un cadre de référence qui unifie la gouvernance, la fiabilité et la sécurité au sein d'une stratégie opérationnelle unique.
Loi sur l'intelligence artificielle et les données (LIAD)
Le cadre réglementaire fédéral canadien (faisant partie du projet de loi C-27) visant à garantir que les systèmes d'IA à fort impact soient développés et utilisés de manière sécurisée et sans biais.
Biais algorithmique
Biais qui se produit lorsqu'un algorithme génère des résultats systématiquement préjudiciables en raison d'hypothèses erronées au sein du processus d'apprentissage automatique.
Gouvernance algorithmique
L'utilisation d'algorithmes pour gérer et réguler les fonctions sociétales, pouvant potentiellement influencer les processus de prise de décision.
Programme d'amnistie
Une initiative de gouvernance limitée dans le temps, dans le cadre de laquelle les collaborateurs sont invités à déclarer leur utilisation d'outils d'IA non autorisés, sans craindre de mesures disciplinaires.
Produits de l'Annexe I
Une liste de produits déjà réglementés par la législation de l'UE sur la santé et la sécurité (par exemple, les machines, les dispositifs médicaux) pour lesquels l'IA intégrée est automatiquement classée comme étant à haut risque en vertu de la loi de l'UE sur l'IA.
Catégories de l'annexe III
Une liste spécifique de domaines d'application de l'IA à haut risque, définis par la législation européenne sur l'IA (EU AI Act), qui entraînent des obligations de conformité obligatoires.
Analyse du trafic de l'API
Le processus technique de surveillance et d'inspection des appels réseau émis vers des fournisseurs de services d'IA externes.
Exception de l'article 6(3)
Un mécanisme d'auto-évaluation prévu par la législation européenne sur l'IA, permettant aux fournisseurs de classifier un système d'IA de l'Annexe III comme ne présentant pas de risque élevé s'il ne pose aucun préjudice significatif.
Article 25 (Loi européenne sur l'IA)
La disposition de la loi européenne sur l'IA établissant une chaîne d'obligation directe entre les fournisseurs et les déployeurs de systèmes d'IA à haut risque, incluant le transfert de responsabilité en cas de modification substantielle des systèmes.
Article 50 (législation de l'UE sur l'IA)
La disposition du règlement européen sur l'IA (EU AI Act) fixant des obligations de transparence pour les systèmes d'IA qui interagissent avec les personnes, génèrent du contenu synthétique ou produisent des deepfakes.
Politique d'Australie pour une IA sûre et responsable
La politique fédérale australienne régissant l'utilisation de l'intelligence artificielle au sein de la fonction publique et des agences gouvernementales.
Gouvernance automatisée de l'IA
L'utilisation de logiciels et d'intégrations d'API pour effectuer des contrôles de conformité et une surveillance des risques en temps réel et en continu, sans intervention manuelle.
B
Amplification des biais
Le phénomène par lequel les systèmes d'intelligence artificielle accentuent les biais existants dans les données d'entraînement, entraînant ainsi des résultats de plus en plus biaisés.
Audit de biais
Un processus d'évaluation visant à détecter et à atténuer les biais dans les systèmes d'IA, garantissant l'équité et la conformité aux normes éthiques.
Détection des biais
Le processus d'identification des biais dans les modèles d'IA par l'analyse de leurs résultats et de leurs processus de prise de décision.
Atténuation des biais
Techniques appliquées lors du développement de l'IA afin de réduire ou d'éliminer les biais au sein des modèles et des ensembles de données.
Projet de loi brésilien sur l'IA (PL 2338/2023)
Le projet de loi PL 2338/2023 constitue la proposition de cadre juridique du Brésil pour l'intelligence artificielle. Il classifie les systèmes d'IA selon leur niveau de risque, garantit des droits à l'explication ainsi qu'à la révision humaine, et instaure un système national de surveillance coordonné par l'autorité de protection des données. Approuvé par le Sénat en décembre 2024, le texte est actuellement examiné par la Chambre des députés et n'a donc pas encore force de loi.
Effet de Bruxelles
Le phénomène par lequel la réglementation de l'UE s'impose comme la norme mondiale par le biais des exigences d'accès au marché, y compris pour les organisations dont le siège social est situé en dehors de l'UE.
C
Loi californienne AB 1008
Un amendement au CCPA précisant que les informations personnelles incluent les données générées ou produites par les systèmes d'intelligence artificielle.
La loi californienne AB 3030
Une loi californienne exigeant la transparence lorsque l'IA générative est utilisée pour communiquer avec les patients dans un cadre médical.
Réglementations ADMT de l'État de Californie
Règles de la loi californienne sur la protection de la vie privée des consommateurs (CCPA) régissant les technologies de prise de décision automatisée (ADMT).
Réglementations de la FEHA de Californie sur l'IA
Réglementations étatiques en vertu de la loi sur l'emploi équitable et le logement (FEHA) visant à lutter contre la discrimination liée à l'intelligence artificielle sur le lieu de travail.
Loi californienne sur la transparence de l'intelligence artificielle (SB 942)
La loi californienne sur la transparence de l'IA (California AI Transparency Act, SB 942 telle que modifiée par AB 853) exige des fournisseurs de systèmes d'IA générative à grande échelle qu'ils intègrent des divulgations de provenance dans les contenus d'images, de vidéos et d'audios générés par IA, et qu'ils publient un outil de détection public et gratuit. Entrée en vigueur le 2 août 2026, cette loi est appliquée par le procureur général de Californie.
Défaillance en cascade (ASI08)
Un mode de défaillance dans lequel une erreur ou une entrée malveillante au sein du raisonnement d'un agent d'IA déclenche une réaction en chaîne de défaillances à travers plusieurs systèmes ou agents connectés.
Marquage CE
Un marquage de conformité obligatoire qui atteste de la conformité d'un système d'IA aux normes de santé, de sécurité et de protection de l'environnement pour les produits commercialisés au sein de l'EEE.
Modifier la fenêtre de notification
Une période contractuelle durant laquelle un fournisseur est tenu d'informer son client de toute mise à jour significative d'un modèle d'IA, préalablement au déploiement de ces modifications en production.
Mesures provisoires de la Chine sur l'IA générative
Exigences réglementaires relatives aux services d'IA générative fournis au public chinois.
Convention du Conseil de l'Europe sur l'intelligence artificielle
Le premier traité international juridiquement contraignant sur l'IA, axé sur la protection des droits de l'homme, de la démocratie et de l'état de droit.
Loi sur l'IA du Colorado (SB 24-205, abrogée en 2026)
La loi sur l'intelligence artificielle du Colorado (SB 24-205), première législation d'État d'envergure aux États-Unis sur l'IA, a été abrogée en mai 2026 et remplacée par la loi Colorado SB 26-189. Entrant en vigueur le 1er janvier 2027, cette dernière se concentre de manière plus ciblée sur les technologies de prise de décision automatisée.
Loi du Colorado sur l'intelligence artificielle (SB 26-189)
La loi du Colorado SB 26-189 succédera en 2026 à la loi initiale sur l'intelligence artificielle du Colorado (SB 24-205). Entrant en vigueur le 1er janvier 2027, elle impose des obligations ciblant spécifiquement les technologies de prise de décision automatisée lorsque celles-ci débouchent sur des décisions à fort impact pour les résidents du Colorado.
Cadre de conformité
Un ensemble structuré de lignes directrices et de bonnes pratiques que les organisations suivent pour garantir que leurs systèmes d'IA respectent les normes réglementaires et éthiques.
Risque de non-conformité
Le risque de sanctions juridiques ou réglementaires, de pertes financières ou d'atteinte à la réputation auquel une organisation s'expose lorsqu'elle ne se conforme pas aux lois, réglementations ou pratiques prescrites.
Dérive de concept
La modification au fil du temps des propriétés statistiques de la variable cible, que le modèle s'efforce de prédire, entraînant ainsi une dégradation des performances du modèle.
Évaluation de la conformité
Un processus visant à déterminer si un système d'IA répond à des exigences, des normes ou des réglementations spécifiées, impliquant souvent des phases de test et de certification.
Contrôle Interne (Évaluation de la Conformité)
Un processus dans le cadre de la législation européenne sur l'IA par lequel un fournisseur vérifie par lui-même que son système d'IA à haut risque respecte toutes les exigences réglementaires, sans nécessiter d'audit par un tiers.
Maîtrise
La mesure dans laquelle les utilisateurs peuvent diriger, influencer ou contourner les décisions et les comportements d'un système d'intelligence artificielle.
Mandat du COREPER
Le mandat de négociation octroyé par les ambassadeurs des États membres de l'UE (Comité des représentants permanents) à la présidence tournante du Conseil en vue des négociations de trilogue sur la législation européenne.
Identité cryptographique de l'agent
Un justificatif d'identité numérique vérifiable (souvent un identifiant décentralisé ou DID) qui identifie de manière unique un agent d'IA et son niveau d'autorité.
D
Dérive des données
L'évolution des données d'entrée des modèles au fil du temps, pouvant entraîner une dégradation de leurs performances si elle n'est pas surveillée et corrigée.
Éthique des données
La branche de l'éthique qui évalue les pratiques relatives aux données au regard des obligations morales de collecte, de protection et d'utilisation des informations personnellement identifiables.
Gouvernance des données
La gestion globale de la disponibilité, de l'exploitabilité, de l'intégrité et de la sécurité des données au sein d'une entreprise, garantissant ainsi un traitement adéquat des données tout au long de leur cycle de vie.
Risque lié à l'ingestion de données
Le risque que des informations sensibles ou confidentielles soient intégrées de manière permanente dans le jeu d'entraînement d'un modèle d'intelligence artificielle lors de l'interaction avec un utilisateur.
Gestion du cycle de vie des données
La gestion basée sur les politiques du flux de données tout au long de son cycle de vie : de sa création et son stockage initial jusqu'à son obsolescence et sa suppression.
Minimisation des données
Le principe consistant à ne collecter que les données strictement nécessaires à une finalité spécifique, limitant ainsi le risque d'utilisation abusive ou de violation de données.
Confidentialité des données
Le domaine des technologies de l'information qui traite de la capacité à contrôler quelles données sont partagées et avec qui, garantissant ainsi que les données personnelles sont traitées de manière appropriée.
Protection des données
Le processus de protection des informations sensibles contre l'altération, la compromission ou la perte, garantissant ainsi la conformité avec les lois et réglementations relatives à la protection des données.
Provenance des données
Un registre documenté de l'origine, de la propriété et du cycle de vie d'un ensemble de données utilisé pour entraîner ou affiner un modèle d'intelligence artificielle.
Qualité des données
L'état des données évalué selon des critères tels que l'exactitude, l'exhaustivité, la fiabilité et la pertinence, essentiel pour garantir la performance optimale des modèles d'intelligence artificielle.
Résidence des données
La résidence des données est l'obligation de stocker et de traiter les données dans un pays ou une région spécifique. Dans les systèmes d'IA, cette exigence s'applique aux données d'entraînement, aux invites, aux résultats des modèles ainsi qu'aux journaux d'inférence. Elle limite par conséquent les modèles qu'une entreprise peut solliciter, dans la mesure où l'envoi d'une invite vers un modèle hébergé à l'étranger constitue un transfert transfrontalier.
Souveraineté des données
Le principe selon lequel les données sont soumises aux lois et aux structures de gouvernance du pays dans lequel elles sont collectées, stockées ou traitées.
Personne concernée
Une personne physique dont les données personnelles sont collectées, conservées ou traitées, particulièrement concernée dans le cadre de réglementations sur la protection des données telles que le RGPD.
Anonymisation des données
Le processus de suppression ou d'anonymisation des identifiants personnels au sein des ensembles de données, visant à protéger la confidentialité en rendant difficile l'identification des individus.
Hypertruquage
Média synthétique dans lequel une personne présente sur une image ou une vidéo existante est remplacée par l'apparence d'une autre, créé à l'aide de techniques d'apprentissage profond.
Confidentialité différentielle
Un système permettant de partager publiquement des informations relatives à un ensemble de données, en décrivant les tendances de groupes au sein de cet ensemble tout en préservant la confidentialité des informations individuelles.
Législation omnibus de l'Union européenne sur l'intelligence artificielle
Un ensemble législatif pour 2025/2026 conçu pour simplifier et harmoniser les normes techniques, les évaluations de conformité et les calendriers de mise en œuvre entre le règlement de l'UE sur l'IA et les législations connexes relatives à la sécurité numérique.
Discrimination
Dans le domaine de l'intelligence artificielle, ce terme désigne le traitement injuste d'individus ou de groupes en raison de biais présents dans les données ou les algorithmes, entraînant des disparités de traitement.
Modèle de fondation à double usage
Un modèle d'IA entraîné sur une quantité considérable de données, doté d'un niveau de performance élevé et susceptible d'être utilisé à des fins tant civiles que nuisibles ou militaires.
Évaluation dynamique des risques
Le processus continu d'identification et d'évaluation des risques en temps réel, permettant de répondre rapidement aux menaces émergentes au sein des systèmes d'IA.
Entreprises
Analyse à la périphérie (Edge)
L'analyse des données à la périphérie du réseau, au plus près de leur source de génération, permettant ainsi de réduire la latence et l'utilisation de la bande passante.
Enzai
Une plateforme de gouvernance de l'IA d'entreprise qui permet aux organisations de répertorier, d'évaluer et de contrôler leurs systèmes d'IA, garantissant ainsi une adoption maximale de l'IA tout en minimisant les risques associés.
Logique d'escalade
Un ensemble de règles et de déclencheurs prédéfinis qui contraignent un agent d'IA à interrompre son fonctionnement autonome afin de restituer le contrôle à un opérateur humain.
Attentes de l'ESMA en matière de gouvernance de l'IA et du ML
Les attentes de l'ESMA en matière d'intelligence artificielle et d'apprentissage automatique définissent la manière dont les entreprises d'investissement de l'UE doivent appliquer les obligations de la directive MiFID II lors de l'utilisation de l'IA. L'Autorité européenne des marchés financiers a publié des orientations sur l'IA dans les services d'investissement de détail en mai 2024, suivies d'un exposé de supervision sur le trading algorithmique le 26 février 2026, qui traite de l'IA et de son interaction avec la législation de l'UE sur l'IA (EU AI Act).
Intelligence artificielle éthique
La pratique consistant à concevoir, développer et déployer des systèmes d'intelligence artificielle de manière à respecter les principes et valeurs éthiques, garantissant ainsi l'équité, la responsabilité et la transparence.
Audit Éthique de l'IA
Le processus d'évaluation systématique des systèmes d'intelligence artificielle afin de garantir leur conformité aux normes éthiques et de prévenir tout préjudice.
Certification en IA Éthique
La reconnaissance formelle de la conformité d'un système d'IA aux normes et directives éthiques établies.
Gouvernance Éthique de l'IA
Le cadre de politiques, de procédures et de pratiques garantissant que les systèmes d'intelligence artificielle sont développés et utilisés de manière responsable et éthique.
Cadres éthiques
Ensembles structurés de principes et de lignes directrices conçus pour guider le développement et le déploiement éthiques des systèmes d'intelligence artificielle.
Évaluation de l'impact éthique
Un processus d'évaluation systématique visant à identifier et à traiter les implications éthiques ainsi que les impacts sociétaux potentiels des systèmes d'IA avant leur déploiement.
Risque éthique
Le risque qu'un système d'IA ne cause des préjudices en raison d'un comportement contraire à l'éthique, notamment par des biais, de la discrimination ou la violation de la vie privée.
Lignes directrices en matière d'éthique pour une IA digne de confiance
Un ensemble de lignes directrices élaborées par le Groupe d'experts de haut niveau sur l'intelligence artificielle de la Commission européenne afin de promouvoir une IA de confiance, axé sur la responsabilité humaine, la robustesse technique, la confidentialité, la transparence, la diversité, le bien-être sociétal et la responsabilisation.
Loi sur l'IA de l'UE
Le premier cadre juridique horizontal et complet au monde pour l'IA, établissant un système de classification fondé sur les risques pour les systèmes déployés ou utilisés au sein de l'Union européenne.
Catégories à haut risque de la législation européenne sur l'IA
Les deux classifications de systèmes d'IA à haut risque selon le règlement européen sur l'IA (EU AI Act) : d'une part, les systèmes autonomes énumérés à l'Annexe III (couvrant la biométrie, les infrastructures critiques, l'emploi, l'éducation, le maintien de l'ordre et d'autres usages spécifiques) ; d'autre part, l'IA intégrée dans des produits réglementés énumérés à l'Annexe I (couvrant les dispositifs médicaux, les véhicules, les machines et d'autres catégories de produits réglementés).
Classification des risques selon la législation européenne sur l'IA
Le processus obligatoire consistant à attribuer l'un des quatre niveaux de risque (Inacceptable, Élevé, Limité, Minimal) à un système d'IA, conformément à la législation de l'UE sur l'intelligence artificielle.
Bureau européen de l'IA
L'organe de la Commission européenne établi pour superviser la mise en œuvre et l'application du règlement de l'UE sur l'IA, en particulier pour les modèles d'IA à usage général présentant un risque systémique.
Législation sur les services numériques de l'UE
Le programme plus large de simplification législative 2025-2026 de l'Union européenne, qui traite de plusieurs réglementations numériques, notamment la législation sur l'IA, les dispositions du RGPD, la loi sur la cyberrésilience et les amendements à la loi sur les données.
Pouvoir excessif
Une vulnérabilité par laquelle un système d'IA se voit accorder une autonomie excessive, un trop grand nombre d'outils ou des accès surprivilégiés par rapport à sa fonction initiale.
Décret présidentiel 14110
La directive de l'administration Biden (signée en octobre 2023, abrogée en janvier 2025) qui a établi les normes nationales américaines en matière de sécurité, de sûreté et de confidentialité de l'IA, et qui a créé l'U.S. AI Safety Institute au sein du NIST.
Techniques d'explicabilité
Méthodes utilisées pour interpréter et comprendre les décisions prises par les modèles d'IA, telles que LIME, SHAP et les cartes de saillance.
Explicabilité vs Interprétabilité
Bien que ces deux concepts visent à rendre les décisions de l'IA compréhensibles, l'explicabilité se concentre sur le raisonnement qui sous-tend les décisions, tandis que l'interprétabilité concerne la transparence des mécanismes internes du modèle.
Intelligence Artificielle Explicable (XAI)
Systèmes d'IA conçus pour fournir des justifications compréhensibles par l'homme pour leurs décisions et actions, renforçant ainsi la transparence et la confiance.
Apprentissage automatique explicable
Des modèles d'apprentissage automatique conçus pour fournir des explications claires et compréhensibles de leurs prédictions et de leurs décisions.
F
Mesures d'équité
Mesures quantitatives (telles que la parité démographique ou l'égalité des chances) utilisées pour évaluer l'équité des prédictions d'un modèle d'IA au sein de différents groupes.
Faux négatif
Lorsqu'un modèle d'IA prédit à tort une classe négative pour une instance qui est en réalité positive (erreur de type II).
Faux positif
Lorsqu'un modèle d'IA prédit à tort une classe positive pour une instance qui est en réalité négative (erreur de type I).
Tolérance aux pannes
La capacité d'un système d'intelligence artificielle à continuer de fonctionner correctement même lorsque certains composants tombent en panne ou génèrent des erreurs.
Gouvernance fédérée de l'intelligence artificielle
Un modèle de gouvernance où les politiques centrales et la supervision sont associées à une prise de décision décentralisée par les unités commerciales ou les bureaux régionaux, conciliant ainsi cohérence et flexibilité opérationnelle.
Boucle de rétroaction
Un processus au cours duquel les résultats de l'IA sont réinjectés en tant que données d'entrée, ce qui peut amplifier le comportement du modèle - pour le meilleur (apprentissage par renforcement) ou pour le pire (renforcement des biais).
FS AI RMF (Cadre de gestion des risques liés à l'IA pour les services financiers)
Le Financial Services AI Risk Management Framework (FS AI RMF) est un cadre sectoriel d'adhésion volontaire, publié en février 2026 par le Trésor américain en collaboration avec le Cyber Risk Institute. Aligné sur le NIST AI RMF, il propose une matrice de 230 objectifs de contrôle tout au long du cycle de vie de l'IA, s'appliquant aux banques, coopératives de crédit, assureurs, sociétés d'investissement ainsi qu'à leurs prestataires tiers.
Sécurité fonctionnelle
Garantir que les systèmes d'IA fonctionnent en toute sécurité dans toutes les conditions, en particulier dans des secteurs tels que l'automobile ou la santé, souvent grâce à la redondance et à des processus de contrôle.
Évaluation d'impact sur les droits fondamentaux (EIDF)
Une évaluation obligatoire au titre de la législation de l'UE sur l'IA, visant à déterminer comment l'utilisation d'un système d'IA à haut risque pourrait impacter les libertés publiques et les droits de l'homme.
G
Analyse d'écarts
Le processus de comparaison des pratiques actuelles de gouvernance de l'IA avec les normes ou réglementations souhaitées, afin d'identifier les domaines nécessitant des améliorations.
RGPD
Le Règlement général sur la protection des données de l'UE, qui établit des exigences strictes en matière de collecte, de traitement des données personnelles et de respect des droits des personnes.
Dérive des objectifs
Un phénomène par lequel les sous-objectifs internes ou les processus de raisonnement d'un agent d'IA s'écartent progressivement de l'objectif initial fixé par l'humain.
Organe de gouvernance
Un groupe pluridisciplinaire (comprenant notamment des experts juridiques, éthiques et techniques) chargé de superviser les politiques de gouvernance de l'IA et leur mise en œuvre au sein de l'entreprise.
Cadre de gouvernance
Un modèle structuré définissant l'articulation des différents composants de la gouvernance de l'IA (gestion des risques, responsabilité, supervision) afin de garantir la conformité et une utilisation éthique.
Modèle de maturité de la gouvernance
Un modèle de maturité de la gouvernance est une échelle d'évaluation progressive permettant de mesurer le niveau de développement de la gouvernance de l'IA au sein d'une organisation. Ce modèle s'étend généralement de pratiques ad hoc à des processus mesurés et continuellement optimisés. Il est utilisé pour établir une situation de référence, définir un objectif réaliste et planifier les investissements de manière séquentielle, et non pour certifier la conformité.
Politique de gouvernance
Un document formel qui codifie les règles, les rôles et les procédures pour le développement et la supervision de l'IA au sein d'une organisation.
Bilan de gouvernance
Un tableau de bord ou un rapport d'évaluation qui suit les indicateurs clés (par exemple, les incidents liés aux biais, les audits de conformité) afin de mesurer l'efficacité de la gouvernance de l'IA au fil du temps.
Code de pratique de l'IAGP
Le règlement d'exécution détaillé précisant les obligations de transparence, d'essais de sécurité et de réduction des risques applicables aux fournisseurs de modèles d'IA à usage général (GPAI) dans le cadre de la législation de l'UE sur l'IA.
Modèle d'IA de niveau généraliste
Un modèle d'intelligence artificielle généraliste, capable de réaliser un large éventail de tâches distinctes et de s'intégrer dans diverses applications.
Consentement granulaire
Une approche de la confidentialité des données permettant aux individus d'accorder ou de refuser des autorisations spécifiques pour chaque type d'utilisation des données, renforçant ainsi la transparence et le contrôle.
Garanties de sécurité
Contraintes ou vérifications prédéfinies (techniques et de conformité) intégrées aux systèmes d'IA afin de prévenir tout comportement dangereux ou non conforme lors de l'exécution.
Ligne directrice (Intelligence Artificielle Éthique)
Un document de recommandation non contraignant ou de bonnes pratiques émis par des organisations (par ex., l'IEEE, l'UE) visant à orienter le développement et le déploiement responsables de l'IA.
Bonjour
Hallucination
Lorsque l'intelligence artificielle générative produit des informations incorrectes ou inventées qui semblent plausibles, mais qui ne reposent sur aucune donnée d'apprentissage.
Évaluation des préjudices
Évaluer les impacts négatifs potentiels (physiques, psychologiques, sociétaux) des systèmes d'IA et définir des stratégies d'atténuation.
Harmonisation
Harmoniser les politiques, les normes et les réglementations relatives à l'IA entre les différentes juridictions afin de réduire les conflits et de favoriser l'interopérabilité.
Structure harmonisée
Un modèle standardisé pour toutes les normes de système de management ISO, anciennement connu sous le nom d'Annexe SL, garantissant la cohérence de la terminologie et de la numérotation des clauses.
Évaluation heuristique
Une méthode d'inspection de l'utilisabilité par laquelle des experts évaluent un système d'IA par rapport à des principes d'ergonomie établis afin d'identifier de potentiels problèmes.
Système d'IA à haut risque
Les applications d'IA présentant un risque significatif de porter atteinte à la santé, à la sécurité ou aux droits fondamentaux des personnes, ce qui déclenche les exigences de conformité les plus strictes en vertu de la législation de l'UE sur l'IA.
L'Intelligence Artificielle à Forts Enjeux
Les applications d'IA dont les défaillances pourraient causer des préjudices importants (par exemple, le diagnostic médical ou les véhicules autonomes), nécessitant ainsi une gouvernance et une surveillance renforcées.
Validation humaine intégrée
L'intégration du jugement humain au sein des processus d'intelligence artificielle (entraînement, validation, revue des décisions) afin d'améliorer la précision et la responsabilité.
Supervision humaine
Des mécanismes permettant à des personnes désignées de surveiller, d'intervenir ou d'annuler les décisions d'un système d'IA afin de garantir la conformité éthique et légale.
Évaluation de l'impact sur les droits de l'homme
Un processus visant à évaluer l'impact des systèmes d'intelligence artificielle sur les droits fondamentaux (vie privée, liberté d'expression, non-discrimination) et à identifier des mesures d'atténuation.
Je
Évaluation d'impact
Une évaluation structurée visant à identifier, analyser et atténuer les impacts éthiques, juridiques et sociétaux potentiels d'un système d'IA avant son déploiement.
Actes d'exécution
Législation secondaire de l'UE adoptée par la Commission européenne afin d'établir des conditions uniformes pour la mise en œuvre de la législation primaire, dotée d'un effet juridique contraignant dans l'ensemble des États membres.
Alignement des objectifs
La conception de structures de récompense et d'objectifs permettant de garantir que les buts des systèmes d'IA restent alignés avec les valeurs humaines et les priorités de l'entreprise.
Biais inductif
L'ensemble d'hypothèses qu'un algorithme d'apprentissage utilise pour généraliser à partir de données observées vers de nouvelles instances.
Gouvernance de l'information
Les politiques, procédures et contrôles qui garantissent la qualité, la confidentialité et l'exploitabilité des données au sein du patrimoine informationnel d'une organisation, y compris pour les ensembles de données d'entraînement d'intelligence artificielle.
Confidentialité des informations
Le droit des individus de contrôler la manière dont leurs données personnelles sont collectées, utilisées, conservées et partagées par les systèmes d'IA.
Risque de données hérité
La responsabilité réglementaire et éthique qu'assume une organisation lorsqu'elle utilise un système d'intelligence artificielle entraîné sur des données qu'elle n'a pas collectées ou vérifiées elle-même.
Flux de travail d'admission
Le processus standardisé et la série de vérifications auxquels tout nouveau système d'IA doit se soumettre avant d'être développé ou acquis.
Validation d'intention
Le processus consistant à vérifier que les sous-actions planifiées par un agent d'IA restent conformes à l'objectif initial défini par l'utilisateur.
Interopérabilité
La capacité de divers systèmes et composants d'IA à échanger, comprendre et utiliser des informations de manière transparente, le plus souvent via des standards ouverts ou des API.
Interprétabilité
Le degré de clarté avec lequel un être humain peut appréhender les mécanismes internes ou la logique de décision d'un modèle d'intelligence artificielle.
ISO/CEI 42001
La norme internationale définissant les exigences relatives à l'établissement, à la mise en œuvre, à la maintenance et à l'amélioration continue d'un système de management de l'intelligence artificielle (SMIA).
ISO/IEC 42005
La norme internationale fournissant des directives pour la réalisation d'évaluations d'impact des systèmes d'IA.
ISO/CEI JTC 1/SC 42
Le comité mixte ISO/CEI sur la normalisation de l'intelligence artificielle, qui élabore des normes internationales d'IA pour la gouvernance, les risques et l'interopérabilité.
J
Attaque par contournement des barrières de sécurité
Une forme d'injection d'instructions (prompt injection) par laquelle les utilisateurs exploitent des vulnérabilités pour contourner les barrières de sécurité des modèles d'IA générative, ce qui peut entraîner la production de contenus non autorisés ou inappropriés.
Loi japonaise sur la promotion de l'intelligence artificielle
Une loi japonaise (promulguée en 2025) établissant les principes fondamentaux pour la promotion de l'IA et l'atténuation des risques associés.
Responsabilité conjointe
Principe juridique selon lequel plusieurs parties (par exemple, les développeurs et les intégrateurs) partagent la responsabilité des dommages liés à l'IA, influençant ainsi les structures contractuelles et de gouvernance.
Modélisation conjointe
Concevoir des systèmes d'IA capables d'apprendre conjointement plusieurs tâches (par exemple, la reconnaissance vocale et la traduction), tout en assurant la gouvernance nécessaire à la gestion de la complexité et à l'auditabilité.
Compétence juridique
L'autorité légale sur les données, les opérations d'IA et la responsabilité civile, qui varie selon la zone géographique et influe sur la conformité avec les réglementations régionales (notamment le RGPD ou la CCPA).
K
Indicateur Clé de Performance
Un indicateur quantifiable (par exemple, la dérive de la précision du modèle, le délai de correction des biais) utilisé pour superviser et rendre compte des objectifs de gouvernance et de conformité de l'IA.
Indicateur Clé de Risque
Un indicateur avancé (par exemple, la fréquence des prédictions hors du périmètre défini ou le taux de décisions inexplicables) qui signale l'émergence de risques liés à l'IA avant qu'ils ne se matérialisent.
Gestion des connaissances
Pratiques et outils pour capturer, organiser et partager les connaissances organisationnelles (ex. : documentation des modèles, journaux d'audit) afin de garantir la reproductibilité et la surveillance.
L'entreprise
L'Agence du Moindre Effort
Un principe de sécurité et de gouvernance stipulant que les agents d'IA ne doivent disposer que du niveau d'autonomie et d'accès aux outils strictement nécessaire à l'accomplissement d'une tâche spécifique.
Moindre privilège
Un principe de sécurité selon lequel les composants d'IA et les utilisateurs ne bénéficient que des droits d'accès minimaux nécessaires à l'accomplissement de leurs fonctions, réduisant ainsi le risque d'utilisation abusive.
Conformité légale
La pratique consistant à s'assurer que les systèmes d'intelligence artificielle respectent les lois, réglementations et normes industrielles en vigueur tout au long de leur cycle de vie.
Cadre de responsabilité
Une approche structurée définissant les responsabilités en cas de préjudices ou de défaillances liés à l'IA, englobant les développeurs, les déployeurs et les opérateurs.
Gestion du cycle de vie
Les processus coordonnés de développement, de déploiement, de surveillance, de maintenance et de retrait des systèmes d'IA afin de garantir une conformité continue et un contrôle rigoureux des risques.
Localisation
L'adaptation des systèmes d'IA aux langues locales, aux réglementations, aux normes culturelles et aux exigences de résidence des données au sein des différentes juridictions.
M
Autorité de surveillance du marché
L'organisme national de réglementation de chaque État membre de l'UE, chargé de surveiller les systèmes d'IA afin de garantir leur conformité avec la législation européenne sur l'intelligence artificielle.
Principes MAS FEAT
Les principes FEAT de la MAS sont quatre principes couvrant l'équité, l'éthique, la responsabilité et la transparence, publiés par l'Autorité monétaire de Singapour le 12 novembre 2018, afin d'encadrer l'utilisation responsable de l'intelligence artificielle et de l'analyse des données dans le secteur financier singapourien. Il s'agit de directives non contraignantes, et non de règles exécutoires, qui s'appuient sur la méthodologie d'évaluation Veritas.
Contrôle humain significatif
Une norme réglementaire et opérationnelle garantissant que l'être humain conserve la capacité de superviser, d'intervenir et de neutraliser les processus de prise de décision de l'IA.
Gestion des métadonnées
La pratique consistant à capturer et à conserver des données descriptives (telles que la provenance des données, la définition des variables ou les paramètres des modèles) afin de garantir la traçabilité et de faciliter les audits.
Indicateurs et KPI
Mesures quantitatives (par exemple, la dérive de la précision, les scores d'équité, le temps de réponse aux incidents) utilisées pour surveiller la santé des systèmes d'IA, ainsi que les objectifs de risque et de conformité.
Loi fédérale mexicaine sur l'IA et les algorithmes
Un projet de loi fédérale mexicaine sur l'IA et les algorithmes, proposant un système de classification fondé sur les risques, la création de la Commission nationale de l'IA (CONAIA) ainsi que des obligations de marquage pour les contenus générés par IA.
Stratégies d'atténuation
Actions planifiées (par exemple, correction des biais, réentraînement, réingénierie des caractéristiques) afin de remédier aux risques liés à l'IA et aux écarts de conformité identifiés.
Loi du Minnesota sur la protection des données des consommateurs (Dispositions relatives à l'IA)
Les dispositions spécifiques à l'intelligence artificielle de la loi du Minnesota sur la protection des données des consommateurs.
Fiche de modèle
Un document court et standardisé fournissant des informations essentielles sur les performances, les limites et les cas d'utilisation prévus d'un modèle d'apprentissage automatique.
Restitution des modèles
Une mesure corrective réglementaire imposant à une entreprise de supprimer les modèles ou algorithmes d'IA développés à partir de données acquises de manière abusive ou illicite.
Dérive des modèles
La dégradation au fil du temps des performances prédictives d'un modèle d'IA, causée par l'évolution des données réelles ou de son environnement.
Explicabilité des modèles
Techniques et documentation permettant de rendre la logique de décision d'un modèle d'IA compréhensible pour les parties prenantes et les auditeurs.
Gouvernance des modèles
Les politiques, rôles et contrôles qui garantissent que les modèles d'IA sont développés, approuvés et utilisés conformément aux normes organisationnelles et aux exigences réglementaires.
Supervision des modèles
Suivi continu des performances du modèle d'IA, de la dérive des données et des métriques opérationnelles afin de détecter toute dégradation ou risque émergent.
Réentraînement des modèles
Le processus de mise à jour d'un modèle d'IA avec des données nouvelles ou actualisées afin de maintenir sa performance et sa conformité au fil de l'évolution de la distribution des données.
Gestion du risque de modèle
La gestion du risque de modèle désigne la discipline consistant à identifier, mesurer et contrôler le risque qu'un modèle produise des résultats erronés ou fasse l'objet d'une utilisation inadéquate. Dans le secteur bancaire américain, cette pratique est régie par la directive SR 26-2, publiée conjointement le 17 avril 2026 par la Réserve fédérale, l'OCC et la FDIC. Ce texte remplace la directive SR 11-7 et exclut expressément l'intelligence artificielle générative et agentique de son champ d'application.
Validation des modèles
Les activités d'évaluation (par exemple, les tests sur des données de réserve, les scénarios de stress) qui confirment qu'un modèle d'IA répond à sa destination et à ses critères de performance.
Engagement Multi-Parties
L'implication de groupes diversifiés (tels que les services juridiques, d'éthique, des opérations et les utilisateurs finaux) dans les processus de gouvernance de l'IA, afin de garantir une surveillance équilibrée des risques et un alignement optimal avec les objectifs de l'entreprise.
Non
Cadre de gestion des risques liés à l'IA du NIST
Une directive volontaire du National Institute of Standards and Technology (NIST) des États-Unis, décrivant les meilleures pratiques pour atténuer les risques tout au long du cycle de vie des systèmes d'intelligence artificielle.
Profils du NIST AI RMF
Les profils NIST AI RMF sont des implémentations personnalisées du cadre de gestion des risques liés à l'intelligence artificielle du NIST. Le NIST en définit trois types : les profils de cas d'usage pour des applications spécifiques, les profils intersectoriels applicables à l'ensemble des industries, et les profils temporels décrivant l'état actuel et cible d'une organisation. Le premier profil intersectoriel, le profil d'IA générative (NIST AI 600-1), a été publié en juillet 2024.
Identité Non-Humaine (NHI)
Un identifiant numérique utilisé par un agent IA, un robot ou un service pour s'authentifier et interagir avec les systèmes de l'entreprise.
Organisme notifié
Un organisme tiers indépendant désigné par un État membre de l'UE pour évaluer la conformité de certains systèmes d'IA à haut risque dans le cadre de la législation européenne sur l'IA.
Loi locale 144 de la ville de New York
Une loi de la ville de New York impose désormais des audits annuels d'impartialité pour les outils d'intelligence artificielle utilisés dans le cadre des décisions de recrutement.
O
Observabilité
La capacité de déduire l'état interne et le comportement d'un système d'IA grâce à la collecte et à l'analyse de journaux, de métriques et de résultats, afin d'assurer une surveillance et un dépannage efficaces.
Mémorandum OMB M-25-21
La directive présidentielle OMB M-25-21, intitulée « Accélérer l'utilisation de l'IA par le gouvernement fédéral grâce à l'innovation, la gouvernance et la confiance publique », enjoint aux agences fédérales américaines de nommer un directeur de l'IA, de publier un inventaire de leurs cas d'usage de l'IA et d'appliquer des pratiques minimales de gestion des risques pour l'« IA à fort impact ». Publiée en avril 2025, elle remplace la directive M-24-10 et s'accompagne de la directive M-25-22 relative à l'acquisition de technologies d'IA.
Surveillance continue
Suivi continu de la performance du système d'IA, de la dérive des données, des métriques de biais et des événements de sécurité pour détecter et atténuer les risques émergents au fil du temps.
Autonomie opérationnelle
La capacité d'un système d'intelligence artificielle à exécuter des tâches multi-étapes et à prendre des décisions sans intervention humaine à chaque étape.
Résilience Opérationnelle
La capacité des systèmes d'IA et de leur infrastructure de support à anticiper, résister, se rétablir et s'adapter aux perturbations ou événements indésirables.
Risques liés aux résultats
Le risque opérationnel, juridique et réputationnel découlant de l'utilisation de contenus incorrects, biaisés ou préjudiciables générés par un système d'intelligence artificielle.
Supervision
Le processus structuré d'examen, d'approbation et de responsabilisation lié au développement et au déploiement de l'IA, impliquant généralement des organes de gouvernance interfonctionnels.
Le Top 10 d'OWASP pour les systèmes agentiques
L'OWASP Top 10 pour les applications agentiques est une liste évaluée par des pairs recensant les dix risques de sécurité les plus critiques au sein des agents d'intelligence artificielle autonomes, publiée par le projet OWASP Gen AI Security le 10 décembre 2025. Ses entrées sont codifiées de ASI01 à ASI10, allant du détournement d'objectif de l'agent (Agent Goal Hijack) aux agents rebelles (Rogue Agents).
P
Gouvernance des voies d'accès privilégiées
Une stratégie qui favorise la conformité en rendant les flux de travail sécurisés et approuvés plus faciles à suivre que les alternatives non autorisées.
Gestion des habilitations
La gestion des droits d'accès des utilisateurs et des systèmes aux données et fonctionnalités d'IA, garantissant le principe du moindre privilège et empêchant toute utilisation non autorisée.
Phase pilote
Un essai à portée limitée d'un système d'intelligence artificielle dans un environnement contrôlé, visant à évaluer les performances, les risques et les contrôles de gouvernance avant un déploiement à grande échelle.
Mise en Application des Politiques
Les mécanismes automatisés ou manuels qui garantissent que les opérations d'IA respectent les politiques organisationnelles, les règles réglementaires et les principes éthiques.
Suivi post-déploiement
Surveillance continue du comportement et de l'environnement du système d'IA après son déploiement, afin de détecter toute dégradation, dérive ou non-conformité.
PRA SS1/23 (Gestion du risque de modèle)
La déclaration de surveillance SS1/23 de la PRA définit les cinq principes de gestion du risque de modèle de la Banque d'Angleterre pour les banques britanniques. Publiée le 17 mai 2023 et entrée en vigueur le 17 mai 2024, elle s'applique aux banques constituées au Royaume-Uni, aux sociétés de crédit immobilier et aux entreprises d'investissement agréées par la PRA qui détiennent une approbation de modèle interne. Elle couvre les modèles d'intelligence artificielle et d'apprentissage automatique, et ne s'applique pas aux assureurs.
Présomption de conformité
Un mécanisme juridique prévu par le règlement de l'UE sur l'intelligence artificielle (AI Act) et d'autres cadres réglementaires, selon lequel la conformité à une norme harmonisée (telle qu'une norme européenne EN publiée) établit une présomption réfutable de conformité avec la réglementation sous-jacente.
La protection de la vie privée dès la conception
Une approche qui intègre les exigences de protection des données et de respect de la vie privée des utilisateurs au cœur même de l'architecture et des processus des systèmes d'IA, dès leur conception.
Évaluation des facteurs de respect de la vie privée
Une analyse structurée visant à identifier et atténuer les risques liés au respect de la vie privée associés aux systèmes d'IA, couvrant la collecte, l'utilisation, le partage et la conservation des données.
Système probabiliste
Un système au sein duquel les résultats découlent de probabilités statistiques plutôt que d'une logique déterministe et figée.
Q
Évaluation qualitative
L'évaluation subjective, par des experts, des comportements, des décisions et de la documentation des systèmes d'IA, visant à identifier les risques éthiques, juridiques ou réputationnels qui ne peuvent être appréhendés de manière quantitative.
Assurance Qualité
Les processus et contrôles systématiques garantissant que les modèles d'IA et les pipelines de données respectent les normes établies en matière de précision, de fiabilité et de conformité éthique.
Contrôle Qualité
La vérification continue des résultats et des processus de l'IA par rapport à des critères de référence et des cas de test, afin de détecter les anomalies, les risques de biais ou les violations de politiques.
Évaluation quantitative des risques
Une évaluation factuelle des menaces potentielles liées à l'IA, estimant numériquement leurs probabilités et leurs impacts afin de hiérarchiser les mesures d'atténuation.
Confidentialité des requêtes
Techniques et politiques de protection des informations sensibles au sein des requêtes d'utilisateurs, garantissant que les données saisies et enregistrées ne compromettent pas de données personnelles ou propriétaires.
Cadre de questionnaire
Un ensemble structuré de questions axées sur la gouvernance, utilisé lors de la conception, de l'acquisition ou du déploiement, afin de garantir la conformité des systèmes d'IA avec les exigences politiques de l'entreprise.
Quorum pour le Conseil de Gouvernance
Le nombre minimal de membres du comité de gouvernance requis pour siéger afin de prendre des décisions officielles concernant les risques liés à l'IA, l'approbation des politiques ou les résultats d'audits.
Gestion des quotas
Les contrôles et les limites appliqués à l'utilisation des ressources d'IA (par exemple, les appels d'API, le temps de calcul) afin de faire respecter les politiques de gouvernance et de prévenir les coûts excessifs ou les abus.
R
Chaîne de raisonnement
Le processus logique séquentiel qu'un agent IA suit pour passer d'un objectif initial à une action ou un résultat final.
Recours
Des mécanismes permettant aux personnes concernées de contester ou de demander réparation pour des décisions fondées sur l'IA qui affectent leurs droits ou leurs intérêts.
Red Teaming
Une approche de test proactive dans laquelle des experts internes ou externes simulent des attaques ou des scénarios d'utilisation abusive afin de détecter les vulnérabilités des systèmes d'intelligence artificielle.
Conformité réglementaire
Garantir la conformité des systèmes d'IA avec les lois, réglementations et normes sectorielles applicables (ex. RGPD, FDA, surveillance financière) tout au long de leur cycle de fonctionnement.
Matrice d'attribution des responsabilités
Un outil (par exemple, la matrice RACI) qui clarifie les rôles et les responsabilités pour chaque activité de gouvernance : qui est Réalisateur (Responsible), Approbateur (Accountable), Consulté (Consulted) et Informé (Informed).
Intelligence Artificielle Responsable
La pratique consistant à concevoir, développer et déployer des systèmes d'IA de manière éthique, transparente et responsable vis-à-vis des parties prenantes et de la société.
Évaluation des risques
Le processus d'identification, d'analyse et de hiérarchisation des risques ou défaillances potentiels au sein des systèmes d'IA, afin de déterminer les stratégies d'atténuation appropriées.
Cadre de gestion des risques
Un ensemble structuré de directives et de processus conçu pour aborder systématiquement les risques liés à l'IA tout au long du cycle de vie du système, de sa conception jusqu'à son retrait.
Analyse des causes racines
Une investigation structurée visant à déterminer les causes sous-jacentes des défaillances ou des comportements imprévus des systèmes d'IA, afin de guider les mesures correctives.
S
Politique d'utilisation autorisée
Règles et contrôles définis spécifiant les contextes, utilisateurs et finalités autorisés pour le fonctionnement du système d'IA, afin de prévenir tout usage abusif.
Sécurité par Conception
L'intégration des contrôles de sécurité et des meilleures pratiques dans les systèmes d'IA dès les premières phases de conception, afin de prévenir les vulnérabilités et les violations de données.
Agents de l'ombre
Des agents d'IA autonomes non autorisés, déployés au sein d'une organisation à l'insu de l'équipe de gouvernance, et capables de mener des actions ayant un impact sur les systèmes d'information de l'entreprise et ses partenaires externes.
L'IA fantôme
L'utilisation non autorisée de modèles, d'agents ou d'outils d'intelligence artificielle par les collaborateurs, sans l'approbation du département informatique, ce qui engendre des vulnérabilités de sécurité invisibles par la fuite de données et des actions autonomes non contrôlées.
Cadre modèle de gouvernance de l'IA de Singapour
Le Model AI Governance Framework de Singapour est un ensemble de directives volontaires publiées par l'IMDA pour déployer l'intelligence artificielle de manière responsable. Il existe désormais en trois éditions : le cadre initial publié en 2019, une édition consacrée à l'IA générative parue en 2024, et enfin le Model AI Governance Framework for Agentic AI lancé le 22 janvier 2026.
Loi fondamentale sur l'intelligence artificielle en Corée du Sud
Le cadre juridique complet de la Corée du Sud pour le développement et la fiabilité de l'intelligence artificielle.
Évaluation de l'impact sociétal
Une évaluation structurée de l'impact d'un système d'intelligence artificielle sur les aspects sociaux, économiques et culturels des communautés, visant à identifier les préjudices et les bénéfices potentiels.
SR 11-7 (Gestion du risque de modèle)
La directive SR 11-7 constituait le guide de supervision de la Réserve fédérale américaine et de l'OCC concernant la gestion des risques liés aux modèles, publié le 4 avril 2011. Pendant quinze ans, ce texte a défini les standards de référence en matière de validation des modèles, d'inventaire des modèles et de revue indépendante au sein du secteur bancaire américain. Il a été abrogé et remplacé le 17 avril 2026 par la directive SR 26-2, un guide révisé publié conjointement par la Réserve fédérale, l'OCC et la FDIC.
SR 26-2 (Directives révisées sur la gestion des risques liés aux modèles)
La directive SR 26-2 constitue la version révisée des orientations de supervision américaines relatives à la gestion des risques liés aux modèles, publiée conjointement par la Réserve fédérale, l'OCC et la FDIC le 17 avril 2026. Remplaçant les directives SR 11-7 et SR 21-8, elle définit une approche basée sur le risque et adaptée au profil de risque de modèle de chaque institution bancaire, tout en excluant expressément l'intelligence artificielle générative et agentique de son champ d'application.
Engagement des parties prenantes
Le processus consistant à impliquer les parties prenantes concernées (par exemple, les utilisateurs, les régulateurs, les communautés impactées) dans le développement et la supervision de l'IA, afin de garantir la diversité des perspectives et d'obtenir leur adhésion.
Déclaration d'applicabilité (SoA)
Un document qui identifie les mesures de contrôle de l'Annexe A de la norme ISO 42001 applicables au système de management de l'IA d'une organisation, et qui justifie l'exclusion des autres.
Modification substantielle
Toute modification apportée à un système d'IA après sa mise sur le marché, qui affecte sa conformité ou sa destination initiale conformément à la législation européenne sur l'IA (EU AI Act).
Risque lié à la surveillance
La menace que les systèmes d'IA ne soient exploités à des fins de surveillance intrusive d'individus ou de groupes, portant ainsi atteinte à la vie privée et aux libertés civiles.
Système d'enregistrement
La source de données de référence pour un élément de donnée ou une information spécifique au sein d'une organisation.
Seuil de risque systémique
Le seuil technique ou de capacité (par exemple, 10^25 FLOP) qui qualifie un modèle d'IA à usage général comme présentant un niveau de risque élevé pour la société.
T
Risque extrême
La possibilité d'obtenir des résultats rares et extrêmes dans le comportement ou la prise de décision de l'IA, qui sortent du cadre des attentes normales et nécessitent une planification d'atténuation spécifique.
Tests et validation
Le processus systématique d'évaluation des modèles d'IA par rapport à des critères de référence, des cas limites et des conditions de stress, afin de garantir qu'ils répondent aux exigences de performance, de sécurité et de conformité.
Risques liés aux tiers
L'exposition découlant de la dépendance vis-à-vis de fournisseurs de données externes, de concepteurs de modèles ou de plateformes de services susceptibles d'introduire des vulnérabilités en matière de conformité ou de sécurité.
Définition du seuil
Définir des seuils ou des valeurs limites dans les règles de décision de l'IA (par exemple, des scores de confiance) afin d'équilibrer les risques, tels que les faux positifs par rapport aux faux négatifs.
Trilogue
Négociation informelle tripartite entre la Commission européenne, le Conseil de l'Union européenne et le Parlement européen, visant à obtenir un accord politique sur la législation de l'UE avant son adoption formelle.
Une IA de confiance
Des systèmes d'IA conçus et exploités de manière éthique, fiable, sécurisée et conforme aux valeurs humaines et aux normes sociétales.
Vous
Plan d'action sur les opportunités de l'IA au Royaume-Uni
La feuille de route stratégique du gouvernement britannique visant à maximiser les avantages de l'IA tout en établissant des règles de sécurité ciblées et contraignantes.
Gouvernance des cas d'usage
La pratique consistant à définir, approuver et superviser les cas d'usage spécifiques de l'intelligence artificielle, afin de garantir que chacun d'eux s'aligne sur les politiques de l'organisation, les normes éthiques et l'appétence au risque.
Consentement de l'utilisateur
Le processus consistant à obtenir et à enregistrer le consentement explicite des personnes physiques avant de collecter, de traiter ou d'utiliser leurs données personnelles au sein de systèmes d'intelligence artificielle.
V
Suivi des écarts
Suivi des fluctuations des résultats des modèles d'IA ou des indicateurs de performance au fil du temps afin de détecter les dérives et d'en déduire une dégradation potentielle ou un risque.
Gestion des risques liés aux fournisseurs
Évaluer et surveiller les fournisseurs tiers de composants ou de services d'IA afin d'identifier et d'atténuer les risques potentiels en matière de conformité, de sécurité ou d'éthique.
Verrouillage de version
La pratique consistant à verrouiller un système d'IA sur une version spécifique et testée d'un modèle de fondation, afin d'éviter que des mises à jour silencieuses ne modifient le comportement du système.
Droit de veto
Le droit formel détenu par un organe de gouvernance ou une partie prenante de bloquer ou d'exiger des modifications sur les déploiements d'IA qui présentent des risques inacceptables.
Surveillance de vigilance
Une surveillance continue du comportement de l'IA et des signaux externes (tels que les évolutions réglementaires) afin d'identifier rapidement et de traiter les risques émergents ou les cas de non-conformité.
Supervision par Intelligence Artificielle Visuelle
Les processus de gouvernance spécifiques aux systèmes de vision par ordinateur, garantissant la qualité des données, le contrôle des biais et la transparence des prises de décision basées sur des images ou des vidéos.
W
Surveillance Watchdog
Contrôles autonomes au moment de l'exécution qui observent les décisions de l'IA et déclenchent des alertes ou des interventions en cas de violation des politiques ou des seuils définis.
Filigranage
La pratique consistant à intégrer des marqueurs de provenance détectables et lisibles par machine dans les contenus générés par IA, tels que les images, l'audio, la vidéo et le texte synthétique, afin de permettre aux utilisateurs et plateformes en aval d'identifier ces contenus comme étant issus de l'intelligence artificielle.
Audit des pondérations
Examen des poids et des structures des modèles afin de détecter toute anomalie, porte dérobée ou biais susceptible d'indiquer une altération ou des comportements indésirables.
Politique de liste d'autorisation et d'exclusion
Règle de gouvernance définissant les entrées, fonctionnalités ou opérations autorisées (liste d'autorisation) et interdites (liste de blocage) afin de garantir la conformité et de prévenir tout usage abusif.
Autorisation d'accès
Autoriser exclusivement les sources de données, bibliothèques ou composants de modèles préalablement approuvés au sein des pipelines d'IA, afin de limiter les risques liés à des éléments non vérifiés ou malveillants.
Ségrégation des charges de travail
Séparer les environnements de calcul IA (ex. développement, test, production) et les domaines de données afin de limiter le rayon d'impact des défaillances ou des failles de sécurité.
Analyse du pire scénario
Évaluer les défaillances ou les abus potentiels les plus extrêmes d'un système d'IA afin d'éclairer l'atténuation robuste des risques et la planification d'urgence.
Stockage WORM (écriture unique, lectures multiples)
Un stockage immuable garantissant que les journaux, les pistes d'audit et les artefacts de modèles ne peuvent être altérés après leur écriture, assurant ainsi la non-répudiation et facilitant l'analyse médico-légale.
X
Audit d'IA explicable
Un processus d'évaluation visant à vérifier si les explications fournies par l'IA respectent les politiques internes et les exigences réglementaires, garantissant ainsi un niveau de transparence adéquat.
L'IA explicable (XAI)
Techniques et méthodes visant à rendre le processus de décision d'un modèle d'IA transparent et compréhensible pour l'homme, favorisant ainsi la responsabilité et la conformité.
Cadre de référence XAI
Une approche structurée ou un ensemble de directives que les organisations utilisent pour implémenter, mesurer et gouverner les pratiques d'explicabilité à travers leurs systèmes d'IA.
Mesures d'IA explicable
Mesures quantitatives ou qualitatives (par exemple, scores d'importance des fonctionnalités, fidélité des explications) utilisées pour évaluer la qualité et la fiabilité des explications fournies par l'IA.
Oui
Revue annuelle de conformité
Une évaluation annuelle des processus, politiques et systèmes de gouvernance de l'IA, afin de garantir une conformité continue avec les réglementations et les normes internes.
Z
Tolérance zéro défaut
Un principe de gouvernance visant l'absence totale d'erreurs et de violations des politiques au sein des résultats de l'IA, soutenu par des tests rigoureux, une surveillance continue et des cycles d'amélioration constante.
Contrôle d'accès basé sur les zones
Une approche de gouvernance réseau ou de données qui fragmente les ressources en zones dotées de politiques distinctes, limitant l'accès des systèmes d'intelligence artificielle en fonction de la sensibilité des données.
Abonnez-vous à notre lettre d'information
En vous inscrivant, vous acceptez la politique de confidentialité d'Enzai
Abonnez-vous à notre lettre d'information
En vous inscrivant, vous acceptez la politique de confidentialité d'Enzai
Abonnez-vous à notre lettre d'information
En vous inscrivant, vous acceptez la politique de confidentialité d'Enzai
Abonnez-vous à notre lettre d'information
En vous inscrivant, vous acceptez la politique de confidentialité d'Enzai
Gouvernance de l'IA
Gouvernance de l'IA
infrastructure
infrastructure
Conçu pour inspirer la confiance.
Conçu pour inspirer la confiance.
Donnez à votre organisation les moyens d'adopter, de gérer et de surveiller l'IA avec une confiance de niveau entreprise. Conçu pour les organisations réglementées opérant à grande échelle.
Connectez en toute transparence vos systèmes existants, vos politiques et vos flux de travail IA, le tout au sein d'une plateforme unifiée.
Connectez en toute transparence vos systèmes existants, vos politiques et vos flux de travail IA, le tout au sein d'une plateforme unifiée.