Produits
Découvrez la gamme complète de produits de gouvernance de l'IA d'Enzai, conçus pour aider les organisations à gérer, surveiller et faire évoluer l'IA en toute confiance. Des processus d'intégration structurés et des inventaires centralisés d'IA aux évaluations automatisées et à la surveillance en temps réel, Enzai fournit les éléments nécessaires pour intégrer la gouvernance directement dans les flux de travail quotidiens de l'IA, sans freiner l'innovation.
Tous
Livre blanc
Réglementations sur l'IA
Balados
Mises à jour du produit
Couverture Médiatique
Glossaire
Rejoignez notre podcast ou collaborez sur du contenu
Contactez-nous et nous verrons ce que nous pouvons réaliser ensemble.
A
Responsabilité de l'IA
L'obligation des développeurs et opérateurs de systèmes d'IA d'assurer que leurs systèmes sont conçus et utilisés de manière responsable, en respectant les normes éthiques et les exigences légales.
Alignement de l'IA
Le processus consistant à garantir que les objectifs et les comportements des systèmes d'IA sont alignés avec les valeurs et les intentions humaines.
Audit IA
L'évaluation systématique des systèmes d'IA pour vérifier la conformité aux normes éthiques, aux règlements et aux indicateurs de performance.
Biais de l'IA
Erreurs systématiques dans les sorties d'IA résultant de données d'entraînement biaisées ou d'algorithmes défectueux, conduisant à des résultats inéquitables.
Conformité IA
L'adhésion des systèmes d'IA aux lois, réglementations et directives éthiques applicables tout au long de leur cycle de vie.
Éthique de l'IA
Le domaine concerné par les implications morales et les responsabilités liées au développement et au déploiement des technologies d'IA.
Explicabilité de l'IA
Le degré auquel la mécanique interne d'un système d'IA peut être comprise et interprétée par les humains.
Gouvernance de l'IA
Le cadre des politiques, processus et contrôles qui guident le développement et l'utilisation éthiques et efficaces des systèmes d'IA.
Inventaire IA
Un catalogue complet et centralisé de tous les systèmes d'IA, modèles et agents utilisés dans toute l'organisation, permettant de suivre leur objectif commercial, leur niveau de risque et leur propriétaire.
Culture de l'IA
La compréhension des concepts, des capacités et des limitations de l'IA, permettant une interaction éclairée avec les technologies de l'IA.
Surveillance de l'IA
L'observation et l'analyse continues des performances des systèmes d'IA afin de garantir la fiabilité, la sécurité et la conformité.
Risque lié à l'IA
Le potentiel des systèmes d'intelligence artificielle à causer des préjudices ou des conséquences imprévues, y compris les risques éthiques, juridiques et opérationnels.
Gestion des Risques liés à l'IA
Le processus d'identification, d'évaluation et d'atténuation des risques associés aux systèmes d'IA.
TRiSM IA
Un acronyme inventé par Gartner signifiant Gestion de la Confiance, des Risques et de la Sécurité de l'IA ; un cadre qui unifie la gouvernance, la fiabilité et la sécurité en une seule stratégie opérationnelle.
Transparence de l'IA
Le principe selon lequel les systèmes d'IA doivent être ouverts et clairs quant à leurs opérations, décisions et utilisation des données.
Précision
Le degré auquel les résultats d'un système d'IA reflètent correctement les données du monde réel ou les résultats escomptés.
Attaque Adversariale
Techniques qui manipulent les modèles d'IA en introduisant des entrées trompeuses pour provoquer des résultats incorrects.
Agentic IA
Une catégorie de systèmes d'intelligence artificielle conçus pour atteindre de manière autonome des objectifs complexes et exécuter des actions à multiples étapes (telles que le déploiement de logiciels ou les transactions financières) avec une intervention humaine minimale.
Gouvernance d'IA Agentic
La gouvernance des systèmes d'IA autonomes capables d'exécuter des actions indépendantes (par exemple, des transactions, le déploiement de code) se distingue de l'IA prédictive (qui fournit des insights) et de l'IA générative (qui crée du contenu).
Algorithme
Un ensemble de règles ou d'instructions donné à un système d'IA pour l'aider à apprendre de manière autonome.
Biais Algorithmique
Un biais qui survient lorsqu'un algorithme produit des résultats systématiquement biaisés en raison d'hypothèses erronées dans le processus d'apprentissage automatique.
Gouvernance Algorithmique
L'utilisation d'algorithmes pour gérer et réguler les fonctions sociétales, pouvant potentiellement influencer les processus de prise de décision.
Intelligence Artificielle Générale
Un type d'intelligence artificielle qui possède la capacité de comprendre, d'apprendre et d'appliquer des connaissances de manière générale, similaire à l'intelligence humaine.
Intelligence Artificielle
La simulation des processus d'intelligence humaine par des machines, en particulier les systèmes informatiques, y compris l'apprentissage, le raisonnement et l'auto-correction.
Agent Fabric
An integrated runtime substrate that hosts, orchestrates, and governs multiple AI agents alongside the models, tools, and data they depend on.
Agent Mesh
A networked topology in which AI agents discover, communicate with, and delegate work to one another through a shared infrastructure layer.
AI Assistant
A conversational AI system designed to help users complete tasks through natural language interaction, typically powered by a large language model.
AI Bill of Materials (AIBOM)
A structured inventory listing the components that make up an AI system, including foundation models, training datasets, libraries, and dependencies - the AI equivalent of a Software Bill of Materials (SBOM).
AI Footprint
The total set of AI systems, models, agents, and embedded AI features in use across an organization at any given time, including sanctioned and shadow systems.
AI Sprawl
The uncontrolled expansion of AI systems across an organization, typically driven by easy access to AI tools and a lack of effective intake and inventory processes.
Article 25 (EU AI Act)
The EU AI Act provision creating a direct obligation chain between providers and deployers of high-risk AI systems, including responsibility transfer when systems are substantially modified.
Article 50 (EU AI Act)
The EU AI Act provision setting transparency obligations for AI systems that interact with people, generate synthetic content, or produce deepfakes.
Acceptable Use Policy (AUP)
A set of rules applied by an organization that outlines the permitted and prohibited ways employees may interact with company-provided AI tools.
Accredited Certification
A certificate issued by a certification body that has been formally recognized by a national accreditation body (like ANAB or UKAS) as competent to audit against a specific standard.
Action Preview
A governance requirement where an AI agent must display exactly what an irreversible operation will do before a human provides final approval.
Action Whitelisting
A security and governance control that specifies the only permitted tools, APIs, and actions an AI agent is allowed to execute.
Agent Goal Hijack (ASI01)
A vulnerability where an attacker manipulates an agent's objectives or decision pathways to redirect its autonomous behavior toward unintended outcomes.
Agentic Policy Engine
A runtime software component that intercepts agent actions and evaluates them against a set of deterministic governance rules before execution.
AI Governance for Financial Services
The specialized application of AI risk management frameworks to meet the rigorous prudential and conduct requirements of the banking and insurance sectors.
AI Governance Software
Specialized enterprise tools used to automate the inventory, risk assessment, and regulatory compliance of artificial intelligence systems.
EU AI Liability Directive
A proposed EU directive aimed at simplifying the process for claimants to seek damages caused by AI systems by introducing a rebuttable presumption of causality.
Artificial Intelligence Management System (AIMS)
A set of interrelated or interacting elements of an organization to establish policies, objectives, and processes for the responsible development or use of AI.
AI System Impact Assessment
A formal process to evaluate the potential consequences of an AI system's deployment on individuals, groups, and society at large.
Artificial Intelligence and Data Act (AIDA)
Canada's federal regulatory framework (part of Bill C-27) aimed at ensuring high-impact AI systems are developed and used safely and without bias.
Amnesty Program
A time-limited governance initiative where employees are invited to disclose unsanctioned AI tool usage without fear of disciplinary action.
Annex I Products
A list of products already regulated by EU health and safety law (e.g., machinery, medical devices) where AI integrated under the EU AI Act is automatically classified as high-risk.
Annex III Categories
A specific list of high-risk AI application areas defined by the EU AI Act that trigger mandatory compliance obligations.
API Traffic Analysis
The technical process of monitoring and inspecting network calls made to external AI service providers.
Article 6(3) Exception
A self-determination mechanism under the EU AI Act allowing providers to classify an Annex III AI system as not high-risk if it poses no significant harm.
Australia Safe & Responsible AI Policy
The Australian federal policy governing the use of AI within the public service and government agencies.
Automated AI Governance
The use of software and API integrations to perform continuous, real-time compliance checks and risk monitoring without manual intervention.
B
Rétropropagation
Un algorithme d'apprentissage utilisé dans les réseaux de neurones qui ajuste les poids en propageant les erreurs à rebours depuis la couche de sortie afin de minimiser la perte.
Apprentissage par lot
Une approche d'apprentissage automatique où le modèle est entraîné sur l'ensemble du jeu de données en une seule fois, par opposition à l'apprentissage incrémental.
Évaluation comparative
Le processus de comparaison des performances des systèmes d'IA avec des métriques standard ou d'autres systèmes pour évaluer l'efficacité.
Préjugé
Erreurs systématiques dans les sorties d'IA résultant de données d'entraînement biaisées ou d'algorithmes défectueux, conduisant à des résultats inéquitables.
Amplification des biais
Le phénomène où les systèmes d'IA exacerbent les biais existants présents dans les données d'entraînement, conduisant à des résultats de plus en plus biaisés.
Audit de Biais
Un processus d'évaluation pour détecter et atténuer les biais dans les systèmes d'IA, garantissant l'équité et la conformité avec les normes éthiques.
Détection des Biais
Le processus d'identification des biais dans les modèles d'IA en analysant leurs résultats et leurs processus de prise de décision.
Atténuation des biais
Techniques appliquées lors du développement de l'IA pour réduire ou éliminer les biais dans les modèles et les ensembles de données.
Modèle Boîte Noire
Un système d'IA dont le fonctionnement interne n'est ni transparent ni interprétable, rendant difficile la compréhension du processus de prise de décision.
Robot
Une application logicielle qui exécute des tâches automatisées, souvent utilisée dans le domaine de l'intelligence artificielle pour des tâches telles que le service client ou la collecte de données.
Brussels Effect
The phenomenon whereby EU regulation becomes the global default through market access requirements, even for organizations headquartered outside the EU.
Brazil AI Bill (PL 2338/2023)
Brazil's primary legislative effort to establish a national framework for AI rights and governance.
C
Inférence Causale
Une méthode en intelligence artificielle et en statistiques utilisée pour déterminer les relations de cause à effet, aidant à comprendre l'impact des interventions ou des modifications des variables.
Assistant conversationnel
Une application logicielle alimentée par l'IA, conçue pour simuler une conversation humaine, souvent utilisée dans le service client et l'acquisition d'informations.
Classification
Une technique d'apprentissage supervisé en apprentissage automatique où le modèle prédit la catégorie ou l'étiquette de classe des nouvelles observations en se basant sur des données d'entraînement.
Biais Cognitif
Des schémas systématiques de déviation par rapport à la norme ou à la rationalité dans le jugement, qui peuvent influencer la prise de décision de l'IA s'ils sont présents dans les données d'entraînement.
Informatique cognitive
Un sous-ensemble de l'intelligence artificielle qui simule les processus de pensée humaine dans un modèle informatisé, visant à résoudre des problèmes complexes sans assistance humaine.
Charge cognitive
La quantité totale d'effort mental utilisée dans la mémoire de travail, est prise en compte en IA pour concevoir des systèmes qui ne submergent pas les utilisateurs.
Cadre de Conformité
Un ensemble structuré de directives et de meilleures pratiques que les organisations suivent pour garantir que leurs systèmes d'IA respectent les normes réglementaires et éthiques.
Risque de Conformité
Le risque de sanctions légales ou réglementaires, de pertes financières ou de préjudice à la réputation qu'une organisation encourt lorsqu'elle ne se conforme pas aux lois, réglementations ou pratiques prescrites.
Vision par Ordinateur
Un domaine de l'IA qui forme les ordinateurs à interpréter et traiter les informations visuelles du monde, telles que les images et les vidéos.
Dérive de Concept
La modification des propriétés statistiques de la variable cible, que le modèle cherche à prédire, au fil du temps, conduit à une dégradation du modèle.
Intervalle de Confiance
Une gamme de valeurs, dérivées de statistiques d'échantillons, qui est susceptible de contenir la valeur d'un paramètre de population inconnu, utilisée en IA pour exprimer l'incertitude.
Évaluation de la conformité
Un processus destiné à déterminer si un système d'IA répond aux exigences, normes ou réglementations spécifiées, impliquant souvent des tests et une certification.
Apprentissage Continu
La capacité d'un système d'intelligence artificielle à apprendre et à s'adapter en continu à partir de nouvelles données sans intervention humaine, s'améliorant au fil du temps.
Maîtrise
La mesure dans laquelle les humains peuvent diriger, influencer ou remplacer les décisions et les comportements d'un système d'intelligence artificielle.
Validation croisée
Une technique de validation de modèle pour évaluer comment les résultats d'une analyse statistique se généraliseront à un ensemble de données indépendant.
Cybersécurité
La pratique de la protection des systèmes, réseaux et programmes contre les attaques numériques, essentielle pour sécuriser les systèmes d'intelligence artificielle contre les menaces.
COREPER Mandate
The negotiating authority granted by EU member state ambassadors (Committee of Permanent Representatives) to the rotating Council Presidency for trilogue negotiations on EU legislation.
California AB 1008
An amendment to the CCPA clarifying that personal information includes data generated or output by AI systems.
California AB 3030
A California law requiring transparency when Generative AI is used to communicate with patients in a healthcare setting.
California ADMT Regulations
Rules under the California Consumer Privacy Act (CCPA) governing Automated Decision-Making Technology (ADMT).
California FEHA AI Regulations
State regulations under the Fair Employment and Housing Act (FEHA) targeting AI-driven discrimination in the workplace.
California AI Transparency Act (SB 942)
Legislation requiring large providers of generative AI systems to provide detection tools and embed latent and manifest disclosures in AI-generated content.
Cascading Failure (ASI08)
A failure mode where an error or malicious input in one AI agent's reasoning triggers a chain reaction of failures across multiple connected agents or systems.
CE Marking
A mandatory certification mark that indicates an AI system's conformity with health, safety, and environmental protection standards for products sold within the EEA.
Change Notification Window
A contractual period during which a vendor must inform a customer of material updates to an AI model before those updates are deployed in production.
China Interim GenAI Measures
Regulatory requirements for generative AI services provided to the Chinese public.
Council of Europe AI Convention
The first legally binding international treaty on AI, focusing on the protection of human rights, democracy, and the rule of law.
Colorado AI Act (SB24-205)
The first broad U.S. state law requiring developers and deployers of high-risk AI systems to implement duty of care standards and conduct annual impact assessments.
Internal Control (Conformity Assessment)
A process under the EU AI Act where a provider self-verifies that their high-risk AI system meets all regulatory requirements without requiring a third-party audit.
Cryptographic Agent Identity
A verifiable digital credential (often a Decentralized Identifier or DID) that uniquely identifies an AI agent and its authority level.
D
Variation des données
L'évolution des données d'entrée du modèle avec le temps, qui peut entraîner une dégradation des performances du modèle si elle n'est pas surveillée et corrigée.
Éthique des Données
La branche de l'éthique qui évalue les pratiques en matière de données en ce qui concerne les obligations morales liées à la collecte, à la protection et à l'utilisation des informations personnellement identifiables.
Gouvernance des données
La gestion globale de la disponibilité, de l'utilisabilité, de l'intégrité et de la sécurité des données dans une entreprise, garantissant que les données sont correctement traitées tout au long de leur cycle de vie.
Gestion du cycle de vie des données
La gestion des flux de données basée sur des politiques tout au long de leur cycle de vie : de leur création et stockage initial à leur obsolescence et suppression.
Minimisation des Données
Le principe de ne collecter que les données nécessaires à un objectif spécifique, réduisant ainsi le risque de mauvaise utilisation ou de violation.
Confidentialité des données
L'aspect de la technologie de l'information qui traite de la capacité à contrôler quelles données sont partagées et avec qui, en veillant à ce que les données personnelles soient traitées de manière appropriée.
Protection des Données
Le processus de protection des informations importantes contre la corruption, la compromission ou la perte, tout en garantissant la conformité avec les lois et régulations sur la protection des données.
Qualité des Données
La condition des données, basée sur des facteurs tels que l'exactitude, la complétude, la fiabilité et la pertinence, est cruciale pour la performance efficace des modèles d'intelligence artificielle.
Résidence des données
Le lieu physique ou géographique des données d'une organisation, qui peut avoir des implications pour la conformité aux lois sur la protection des données.
Souveraineté des Données
Le concept selon lequel les données sont soumises aux lois et structures de gouvernance du pays où elles sont collectées, stockées ou traitées.
Personne concernée par les données
Une personne dont les données personnelles sont collectées, conservées ou traitées, est particulièrement pertinente dans le contexte des lois sur la protection des données comme le RGPD.
Dé-identification
Le processus de suppression ou de masquage des identifiants personnels des ensembles de données, rendant difficile l'identification des individus, est utilisé pour protéger la confidentialité.
Apprentissage Profond
Un sous-ensemble d'apprentissage automatique impliquant des réseaux neuronaux avec plusieurs couches, permettant de modéliser des schémas complexes dans les données.
Hypertrucage
Médias synthétiques dans lesquels une personne dans une image ou une vidéo existante est remplacée par la ressemblance de quelqu'un d'autre, créée en utilisant des techniques d'apprentissage profond.
Confidentialité Différentielle
Un système pour partager publiquement des informations sur un ensemble de données en décrivant les tendances des groupes au sein de cet ensemble tout en préservant la confidentialité des informations individuelles.
Discrimination
En IA, cela se réfère à un traitement injuste des individus ou des groupes basé sur des biais dans les données ou les algorithmes, conduisant à des résultats inégaux.
Apprentissage Distribué
Une approche d'apprentissage automatique où les données d'entraînement sont réparties sur plusieurs appareils ou emplacements, et les modèles sont formés de manière collaborative sans partager les données brutes.
Adaptation de Domaine
Une technique en apprentissage automatique où un modèle entraîné dans un domaine est adapté pour fonctionner dans un domaine différent mais connexe.
Évaluation Dynamique des Risques
Le processus continu d'identification et d'évaluation des risques en temps réel, permettant des réponses opportunes aux menaces émergentes dans les systèmes d'IA.
Data Ingestion Risk
The danger that sensitive or proprietary information will be permanently absorbed into an AI model's training set during a user's interaction.
Data Provenance
A documented record of the origin, ownership, and lifecycle of a dataset used to train or fine-tune an AI model.
EU Digital Omnibus on AI
A 2025/2026 legislative package designed to streamline and harmonize technical standards, conformity assessments, and enforcement timelines across the EU AI Act and related digital safety laws.
Dual-Use Foundation Model
An AI model that is trained on a vast amount of data and has high-level performance that could be used for both civilian and harmful or military purposes.
Entreprises
IA de pointe
Le déploiement d'algorithmes d'intelligence artificielle sur des dispositifs périphériques, permettant le traitement des données et la prise de décisions à la source de génération des données.
Analyse de pointe
L'analyse des données à la périphérie du réseau, près de la source de génération des données, réduisant la latence et l'utilisation de la bande passante.
Apprentissage Collectif
Un paradigme d'apprentissage automatique où plusieurs modèles sont entraînés et combinés pour résoudre le même problème, améliorant ainsi la performance globale.
Résolution d'Entité
Le processus d'identification et de liaison des enregistrements faisant référence à la même entité du monde réel dans différents ensembles de données.
Enzai
Une plateforme de gouvernance de l'IA d'entreprise qui permet aux organisations de répertorier, d'évaluer et de contrôler leurs systèmes d'IA, assurant une adoption maximale de l'IA tout en minimisant les risques liés à l'IA.
IA Éthique
La pratique de concevoir, développer et déployer des systèmes d'intelligence artificielle d'une manière qui s'aligne sur des principes et valeurs éthiques, garantissant l'équité, la responsabilité et la transparence.
Audit d'IA Éthique
Le processus d'évaluation systématique des systèmes d'IA pour garantir leur conformité aux normes éthiques et éviter tout dommage.
Certification de l'IA Éthique
Une reconnaissance formelle qu'un système d'IA respecte les normes et directives éthiques établies.
Gouvernance Éthique de l'IA
Le cadre des politiques, procédures et pratiques qui garantissent que les systèmes d'IA sont développés et utilisés de manière responsable et éthique.
Cadres éthiques
Ensembles structurés de principes et de lignes directrices conçus pour guider le développement et le déploiement éthique des systèmes d'intelligence artificielle.
Pirate Éthique
La pratique consistant à explorer intentionnellement les systèmes pour en déceler les vulnérabilités afin d'identifier et de corriger les problèmes de sécurité, garantissant ainsi la robustesse des systèmes d'IA.
Évaluation de l'Impact Éthique
Un processus d'évaluation systématique pour identifier et traiter les implications éthiques ainsi que les impacts sociétaux potentiels des systèmes d'IA avant leur déploiement.
Risques éthiques
Le potentiel d'un système d'IA à causer des dommages en raison d'un comportement non éthique, notamment des préjugés, de la discrimination ou de la violation de la vie privée.
Principes Éthiques pour une IA de Confiance
Un ensemble de lignes directrices élaborées par le groupe d'experts de haut niveau sur l'IA de la Commission européenne pour promouvoir une IA digne de confiance, axée sur l'autonomie humaine, la robustesse technique, la confidentialité, la transparence, la diversité, le bien-être sociétal et la responsabilité.
Techniques d'explicabilité
Méthodes utilisées pour interpréter et comprendre les décisions prises par les modèles d'IA, telles que LIME, SHAP et les cartes de saillance.
Explicabilité vs Interprétabilité
Bien que les deux visent à rendre compréhensibles les décisions de l'IA, l'explicabilité se concentre sur le raisonnement derrière les décisions, tandis que l'interprétabilité se rapporte à la transparence des mécaniques internes du modèle.
Intelligence Artificielle Explicable (IAE)
Les systèmes d'IA conçus pour fournir des justifications compréhensibles par l'homme pour leurs décisions et actions, renforçant la transparence et la confiance.
Apprentissage Automatique Explicable
Modèles d'apprentissage automatique conçus pour fournir des explications claires et compréhensibles de leurs prédictions et décisions.
EU AI Office
The European Commission body established to oversee implementation and enforcement of the EU AI Act, particularly for general-purpose AI models with systemic risk.
EU Digital Omnibus
The European Union's broader 2025-2026 legislative simplification package addressing multiple digital regulations including the AI Act, GDPR provisions, the Cyber Resilience Act, and Data Act amendments.
Embedded AI
AI capabilities or features that are integrated directly into third-party software-as-a-service (SaaS) platforms or enterprise tools.
Escalation Logic
A set of predefined rules and triggers that force an AI agent to stop autonomous operation and hand control back to a human operator.
ESMA AI/ML Governance Expectations
Regulatory guidelines from the European Securities and Markets Authority regarding the use of AI and Machine Learning in financial markets.
EU AI Act
The world's first comprehensive horizontal legal framework for AI, establishing a risk-based classification system for systems deployed or used within the European Union.
EU AI Act Risk Classification
The mandatory process of assigning one of four risk levels (Unacceptable, High, Limited, Minimal) to an AI system under the EU AI Act.
Excessive Agency
A vulnerability where an AI system is granted too much autonomy, too many tools, or over-privileged access relative to its intended function.
Executive Order 14110
The Biden administration directive (signed October 2023, rescinded January 2025) that established U.S. national standards for AI safety, security, and privacy and created the U.S. AI Safety Institute at NIST.
EU AI Act High-Risk Categories
The two classifications of high-risk AI systems under the EU AI Act: standalone systems listed in Annex III (covering biometrics, critical infrastructure, employment, education, law enforcement, and other named uses), and AI embedded in regulated products listed in Annex I (covering medical devices, vehicles, machinery, and other regulated product categories).
F
Équité
Assurer que les systèmes d'IA produisent des résultats impartiaux et équitables à travers différents individus et groupes, et atténuer les impacts discriminatoires.
Indicateurs d'Équité
Des mesures quantitatives (par exemple, parité démographique, chances égalisées) utilisées pour évaluer la justice des prédictions d'un modèle d'IA à travers différents groupes.
Faux négatif
Lorsqu'un modèle d'IA prédit incorrectement une classe négative pour un cas qui est en réalité positif (Erreur de Type II).
Faux Positif
Lorsqu'un modèle d'IA prédit incorrectement une classe positive pour un cas qui est en réalité négatif (erreur de Type I).
Tolérance aux pannes
La capacité d'un système d'IA à continuer de fonctionner correctement même lorsque certains composants échouent ou produisent des erreurs.
Ingénierie des fonctionnalités
Créer, sélectionner ou transformer des attributs de jeux de données bruts en fonctionnalités qui améliorent la performance des modèles d'apprentissage automatique.
Extraction de fonctionnalités
Le processus de conversion des données brutes (par exemple, texte, images) en représentations numériques (caractéristiques) adaptées à l'entrée dans des algorithmes d'apprentissage automatique.
Sélection de Fonctionnalités
Identifier et sélectionner les fonctionnalités les plus pertinentes pour l'entraînement du modèle afin de réduire la complexité et améliorer la précision.
Apprentissage Fédéré
Une approche de ML décentralisée où les modèles sont entraînés sur plusieurs appareils ou serveurs contenant des données locales, sans partager les données brutes de manière centralisée.
Boucle de Rétroaction
Un processus dans lequel les résultats de l’IA sont réinjectés en entrée, ce qui peut amplifier le comportement du modèle — pour le meilleur (apprentissage par renforcement) ou pour le pire (renforcement des biais).
Ajustement Fin
Adapter un modèle d'IA pré-entraîné à une tâche spécifique ou à un ensemble de données en poursuivant la formation sur de nouvelles données, ce qui améliore souvent les performances spécifiques à la tâche.
Vérification Formelle
Prouver mathématiquement que les algorithmes d'IA respectent les propriétés de correction spécifiées, souvent utilisées dans des systèmes critiques pour la sécurité.
Cadre
Un ensemble structuré de politiques, de processus et d'outils guidant la gouvernance, le développement, le déploiement et la surveillance des systèmes d'IA.
Détection de fraude
Utiliser des techniques d'IA (par exemple, la détection d'anomalies, la reconnaissance de motifs) pour identifier et prévenir les activités frauduleuses dans le domaine de la finance, de l'assurance, etc.
Sécurité Fonctionnelle
Garantir que les systèmes d'IA fonctionnent en toute sécurité dans toutes les conditions, en particulier dans des secteurs tels que l'automobile ou la santé, souvent par le biais de redondances et de vérifications.
Logique floue
Un système logique qui traite le raisonnement à l’aide de valeurs approximatives, plutôt que de valeurs binaires vrai/faux, utile pour les systèmes de contrôle et la gestion de l’incertitude.
Federated AI Governance
A governance model where central policy and oversight are paired with distributed decision-making by business units or regional offices, balancing consistency with operational flexibility.
FS AI RMF (Financial Services AI Risk Management Framework)
The US Treasury's specialized AI risk management framework for financial services firms, published February 2026, adapting the NIST AI RMF for sector-specific obligations.
Fundamental Rights Impact Assessment (FRIA)
A mandatory evaluation under the EU AI Act for certain deployers to determine how the use of a high-risk AI system might impact civil liberties and human rights.
G
RGPD
Le Règlement général sur la protection des données (RGPD) de l'UE, établissant des exigences strictes pour la collecte et le traitement des données personnelles, ainsi que les droits individuels.
processeur graphique
Accélérateur matériel spécialisé pour les calculs parallèles, largement utilisé pour entraîner et exécuter efficacement des modèles d'IA à grande échelle.
Analyse des écarts
Le processus de comparaison des pratiques actuelles de gouvernance de l'IA avec les normes ou réglementations souhaitées afin d'identifier les domaines nécessitant des améliorations.
Généralisation
La capacité d'un modèle d'intelligence artificielle à bien performer sur des données nouvelles et inédites en capturant des motifs sous-jacents plutôt qu'en mémorisant des exemples d'entraînement.
Intelligence Artificielle Générative
Les techniques d’IA (p. ex., les GAN et les transformateurs) qui créent de nouveaux contenus — textes, images ou autres médias — soulèvent souvent de nouvelles problématiques en matière de gouvernance et de propriété intellectuelle.
Modèle Global
Un modèle d'IA consolidé, formé sur des données agrégées provenant de multiples sources, contrairement aux modèles localisés ou personnalisés.
Gouvernance
L'ensemble des politiques, procédures, rôles et responsabilités qui guident le développement et le déploiement éthique, légal et efficace des systèmes d'IA.
Instance de gouvernance
Un groupe interfonctionnel (par exemple, juridique, éthique, technique) chargé de superviser les politiques de gouvernance de l'IA et leur mise en œuvre au sein d'une organisation.
Cadre de Gouvernance
Un modèle structuré décrivant comment les composants de la gouvernance de l'IA (gestion des risques, responsabilité, supervision) s'imbriquent pour garantir la conformité et l'utilisation éthique.
Modèle de Maturité en Gouvernance
Un cadre organisé qui évalue le degré d'avancement des pratiques de gouvernance de l'IA au sein d'une organisation, allant de l'ad-hoc à l'optimisé.
Politique de Gouvernance
Un document formel qui codifie les règles, rôles et procédures pour le développement et la supervision de l'IA au sein d'une organisation.
Tableau de bord de gouvernance
Un tableau de bord ou un rapport qui suit les indicateurs clés (par exemple, incidents de partialité, audits de conformité) pour évaluer l'efficacité de la gouvernance de l'IA au fil du temps.
Descente de Gradient
Un algorithme d'optimisation qui ajuste itérativement les paramètres du modèle dans une direction qui diminue minimalement la fonction de perte.
Consentement Granulaire
Une approche de la protection des données permettant aux individus d'accorder ou de refuser des permissions spécifiques pour chaque type d'utilisation des données, renforçant ainsi la transparence et le contrôle.
IA Verte
La pratique de réduire l'impact environnemental de l'IA grâce à des algorithmes économes en énergie et à des pratiques informatiques durables.
Modèle Boîte Grise
Un modèle dont la logique interne est partiellement transparente (certains composants sont interprétables, d'autres sont opaques), équilibrant performance et explicabilité.
Vérité de terrain
Les données ou étiquettes précises et réelles utilisées comme référence pour entraîner et évaluer les performances des modèles d'IA.
Garde-fous
Contraintes prédéfinies ou vérifications (techniques et politiques) intégrées dans les systèmes d'intelligence artificielle pour prévenir les comportements dangereux ou non conformes pendant l'exécution.
Directive (IA Éthique)
Une recommandation non contraignante ou un document de bonnes pratiques émis par des organisations (par exemple, IEEE, UE) pour orienter le développement et le déploiement responsable de l'IA.
Goal Drift
A phenomenon where an AI agent's internal sub-goals or reasoning pathways gradually move away from the original human-provided objective.
GPAI Code of Practice
The detailed regulatory instrument outlining specific transparency, safety testing, and risk mitigation obligations for providers of General-Purpose AI (GPAI) models under the EU AI Act.
GPAI Model
A general-purpose artificial intelligence model capable of performing a wide range of distinct tasks and integrating into various applications.
Bonjour
Hallucination
Lorsque l'IA générative produit des informations incorrectes ou fabriquées qui semblent plausibles mais qui n'ont aucun fondement dans les données d'entraînement.
Gestion des données manquantes
Techniques (par exemple, imputation, suppression, modélisation) pour combler les lacunes dans les ensembles de données afin de maintenir l'intégrité et l'équité des modèles.
Accélérateur Matériel
Des puces spécialisées (par exemple, GPU, TPU) conçues pour accélérer les calculs d'IA, avec des implications pour la consommation d'énergie et les risques liés à la chaîne d'approvisionnement.
Évaluation des risques
Évaluer les impacts négatifs potentiels (physiques, psychologiques, sociétaux) des systèmes d'IA et définir des stratégies d'atténuation.
Harmonisation
Aligner les politiques, normes et réglementations sur l'IA à travers les juridictions pour réduire les conflits et favoriser l'interopérabilité.
Hachage
Le processus de conversion des données en une chaîne de caractères de taille fixe, utilisé pour les vérifications d'intégrité des données et le couplage d'enregistrements préservant la confidentialité.
Données Hétérogènes
La combinaison de données de différents types (texte, image, capteur) ou provenant de multiples domaines présente des défis en matière d'intégration et de gouvernance.
Heuristique
Une règle empirique ou une stratégie simplifiée de prise de décision utilisée pour accélérer les processus d'IA, échangeant souvent l'optimalité pour l'efficacité.
Évaluation heuristique
Une méthode d'inspection de l'utilisabilité où des experts évaluent un système d'IA par rapport à des principes d'utilisabilité établis afin d'identifier les problèmes potentiels.
IA à enjeux élevés
Les applications d'IA dont les défaillances pourraient causer des préjudices significatifs (par exemple, les diagnostics médicaux, les véhicules autonomes), nécessitant une gouvernance et une supervision accrues.
Supervision Humaine
Des mécanismes permettant à des individus désignés de surveiller, intervenir ou remplacer les décisions des systèmes d'IA afin d'assurer le respect des normes éthiques et légales.
Évaluation de l'impact sur les droits de l'homme
Un processus d'évaluation de l'impact des systèmes d'IA sur les droits fondamentaux (vie privée, expression, non-discrimination) et d'identification des mesures d'atténuation.
Humain dans le processus
Impliquer le jugement humain dans les processus d'IA (entraînement, validation, révision des décisions) pour améliorer la précision et la responsabilité.
Modèle Hybride
Les systèmes d'IA alliant plusieurs paradigmes d'apprentissage (par exemple, symbolique et neuronal) pour équilibrer l'explicabilité et la performance.
Hyperparamètre
Une variable de configuration (par exemple, taux d'apprentissage, profondeur d'arbre) définie avant l'entraînement du modèle qui influence le comportement d'apprentissage et les performances.
Optimisation des hyperparamètres
Le processus de recherche des valeurs optimales des hyperparamètres (par exemple, via une recherche en grille, l'optimisation bayésienne) pour maximiser la performance du modèle.
Harmonized Structure
A standardized template for all ISO management system standards, formerly known as Annex SL, ensuring consistency in terminology and clause numbering.
High-Risk AI System
AI applications that have a significant potential to harm the health, safety, or fundamental rights of individuals, triggering the most stringent compliance requirements under the EU AI Act.
Je
ISO/IEC JTC 1/SC 42
Le comité conjoint ISO/IEC sur la normalisation de l'intelligence artificielle, développe des normes internationales d'IA pour la gouvernance, la gestion des risques et l'interopérabilité.
Données Déséquilibrées
Un ensemble de données dans lequel une classe ou catégorie dépasse significativement les autres, ce qui peut amener les modèles d'IA à privilégier la classe majoritaire, sauf en cas de mesures d'atténuation.
Registre Immuable
Un mécanisme de tenue de registres à preuve de falsification (p. ex., la blockchain) garantissant qu’une fois les données enregistrées, elles ne peuvent être modifiées sans détection — utile pour les pistes d’audit de l’IA.
Évaluation d'Impact
Une évaluation structurée pour identifier, analyser et atténuer les impacts potentiels éthiques, juridiques et sociétaux d'un système d'IA avant son déploiement.
Biais Implicite
Les biais inconscients ou involontaires intégrés dans les données de formation ou la conception du modèle peuvent conduire à des résultats discriminatoires.
Alignement des incitations
La conception des structures de récompense et des objectifs afin que les buts des systèmes d'IA restent en adéquation avec les valeurs humaines et les priorités organisationnelles.
Biais Inductif
L'ensemble des hypothèses qu'un algorithme d'apprentissage utilise pour généraliser des données observées à des instances non vues.
Inférence
Le processus par lequel un modèle d'IA formé traite de nouvelles entrées de données pour produire des prédictions ou des décisions.
Moteur d'Inférence
Le composant d'un système d'intelligence artificielle (souvent dans des systèmes basés sur des règles ou des systèmes experts) qui applique une base de connaissances aux données d'entrée pour en tirer des conclusions.
Gouvernance de l'information
Les politiques, procédures et contrôles qui garantissent la qualité, la confidentialité et l'utilisabilité des données à travers les actifs de données d'une organisation, y compris les ensembles de données d'entraînement de l'IA.
Confidentialité de l'information
Le droit des individus de contrôler comment leurs données personnelles sont collectées, utilisées, stockées et partagées par les systèmes d'IA.
Infrastructure en tant que Code (IaC)
Gérer et provisionner l'infrastructure d'IA (calcul, stockage, réseau) par le biais de fichiers de configuration lisibles par machine, améliorant ainsi la reproductibilité et l'auditabilité.
Interopérabilité
La capacité des divers systèmes et composants d'IA à échanger, comprendre et utiliser des informations de manière transparente, souvent via des normes ouvertes ou des API.
Interprétabilité
Le degré auquel un être humain peut comprendre les mécanismes internes ou la logique décisionnelle d'un modèle d'IA.
Détection d'Intrusion
Surveillance de l'infrastructure et des applications d'intelligence artificielle afin de détecter toute activité malveillante ou tout manquement aux politiques, avec déclenchement d'alertes ou de réponses automatisées.
Inherited Data Risk
The regulatory and ethical liability an organization assumes when using an AI system trained on data they did not collect or vet themselves.
Intake Workflow
The standardized process and series of checks that a new AI system must pass through before being built or procured.
Intent Validation
The process of verifying that an AI agent's planned sub-actions remain consistent with the original human-provided objective.
ISO/IEC 42001
The international standard specifying requirements for establishing, implementing, maintaining, and continually improving an Artificial Intelligence Management System (AIMS).
ISO/IEC 42005
The international standard providing guidance on performing AI system impact assessments.
Implementing Acts
Secondary EU legislation adopted by the European Commission to set uniform conditions for implementing primary legislation, with binding legal effect across all Member States.
J
Matrice Jacobienne
En termes d'explicabilité de l'IA, la matrice de toutes les dérivées partielles d'ordre un des sorties d'un modèle par rapport à ses entrées, utilisée pour évaluer la sensibilité et l'importance des caractéristiques.
Attaque de Jailbreak
Un type d'injection de commande où les utilisateurs exploitent des vulnérabilités pour contourner les protections dans les modèles d'IA générative, ce qui peut potentiellement conduire à des résultats non sécurisés ou non autorisés.
Responsabilité Conjointe
Principe juridique selon lequel plusieurs parties (par exemple, développeurs, déployeurs) partagent la responsabilité des préjudices liés à l'IA, influençant les structures contractuelles et de gouvernance.
Modélisation Conjointe
Créer des systèmes d'IA qui apprennent conjointement plusieurs tâches (par exemple, reconnaissance vocale et traduction), avec une gouvernance nécessaire pour la complexité et l'auditabilité.
Biais de Jugement
Erreurs systématiques dans les processus de prise de décision humains ou d'IA causées par des raccourcis cognitifs ou des données erronées, nécessitant des audits et une atténuation des biais.
Révision Judiciaire
Le processus légal par lequel les tribunaux évaluent la légalité des décisions prises ou assistées par l'IA, garantissant la responsabilité et le respect des procédures.
Juridiction
L'autorité légale sur les données, les opérations liées à l'intelligence artificielle et la responsabilité, qui varie selon la géographie et impacte la conformité aux réglementations régionales (par exemple, RGPD, CCPA).
Automatisation du Jury
L'utilisation de l'IA pour aider à la sélection du jury ou à l'analyse des dossiers soulève des préoccupations éthiques concernant l'équité, la transparence et la supervision juridique.
Métriques de la Justice
Mesures quantitatives (par exemple, impact disparate, égalité des chances) utilisées pour évaluer l'équité et la non-discrimination dans la prise de décision par l'IA.
Japan Act on Promotion of AI
A Japanese law (enacted 2025) establishing basic principles for AI promotion and risk mitigation.
K
Indicateur Clé de Performance
Une métrique quantifiable (par exemple, la dérive de précision du modèle, le temps de correction des biais) utilisée pour surveiller et rendre compte des objectifs de gouvernance et de conformité de l'IA.
Indicateur Clé de Risque
Un indicateur clé (par exemple, la fréquence des prédictions hors cadre, le taux de décisions inexplicables) qui signale les risques émergents liés à l'IA avant qu'ils ne se concrétisent.
Connaître Votre Client (KYC)
Les processus de conformité pour vérifier l'identité, le profil de risque et la légitimité des individus ou des entités interagissant avec les systèmes d'IA, en particulier dans les industries réglementées.
Distillation des connaissances
Une méthode de transfert des connaissances d'un modèle « enseignant » plus grand vers un modèle « étudiant » plus petit, équilibrant la performance avec les contraintes de ressources et de gouvernance.
Graph de Connaissances
Une représentation structurée des entités et de leurs relations utilisée pour améliorer l'explicabilité de l'IA, l'auditabilité et l'alignement avec les ontologies de domaine.
Gestion des connaissances
Pratiques et outils pour capturer, organiser et partager les connaissances organisationnelles (par exemple, la documentation des modèles, les journaux d'audit) afin d'assurer la reproductibilité et la supervision.
L'entreprise
Fuite d'Étiquettes
L'inclusion involontaire d'informations de sortie dans les étiquettes des données d'entraînement, pouvant gonfler les indicateurs de performance et masquer les véritables problèmes de généralisation du modèle.
Modèle de Langage de Grande Envergure
Un modèle d'apprentissage profond entraîné sur de vastes corpus de texte, capable de réaliser des tâches telles que la génération de texte, la traduction et la synthèse, nécessitant souvent une gouvernance pour éviter les biais et les abus.
Moindre Privilège
Un principe de sécurité selon lequel les composants d'IA et les utilisateurs ne reçoivent que les droits d'accès minimaux nécessaires pour exécuter leurs fonctions, réduisant ainsi le risque d'utilisation abusive.
Conformité Légale
La pratique de garantir que les systèmes d'IA respectent les lois, règlements et normes industrielles applicables tout au long de leur cycle de vie.
Cadre de Responsabilité
Une approche structurée définissant qui est responsable des préjudices ou des échecs liés à l'IA, y compris les développeurs, les déployeurs et les opérateurs.
Gestion du Cycle de Vie
Les processus coordonnés pour le développement, le déploiement, la surveillance, la maintenance et le retrait des systèmes d'IA afin de garantir la conformité continue et le contrôle des risques.
Détection de vitalité
Techniques utilisées pour vérifier qu'une entrée (par exemple, biométrique) provient d'un sujet vivant plutôt que d'une fraude ou d'une répétition, renforçant ainsi la sécurité et l'intégrité du système.
Localisation
Adaptation des systèmes d'IA aux langues locales, aux réglementations, aux normes culturelles et aux exigences de résidence des données dans différentes juridictions.
Gestion des journaux
La collecte, le stockage et l'analyse des journaux de système et d'application issus des workflows d'IA pour soutenir l'audit, la gestion des incidents et le suivi des performances des modèles.
Fonction de Perte
Une fonction mathématique qui quantifie la différence entre les résultats prévus et les valeurs réelles, guidant ainsi la formation et l'optimisation du modèle.
Least Agency
A security and governance principle stating that AI agents should only be granted the minimum level of autonomy and tool-access necessary to complete a specific task.
M
Contrôle Humain Significatif
Une norme réglementaire et opérationnelle garantissant que les humains conservent la capacité de superviser, d'intervenir et de contrecarrer les processus décisionnels de l'IA.
Gestion des métadonnées
La pratique de capture et de maintien de données descriptives (par exemple, provenance des données, définitions des fonctionnalités, paramètres de modèle) pour soutenir la traçabilité et les audits.
Mesures et indicateurs clés de performance
Des mesures quantitatives (par exemple, dérive de précision, scores d'équité, temps de réponse aux incidents) utilisées pour surveiller la santé, les risques et les objectifs de conformité des systèmes d'IA.
Stratégies d'atténuation
Actions prévues (par exemple, la correction des biais, la reformation, la réingénierie des fonctionnalités) pour traiter les risques d'IA identifiés et les lacunes en matière de conformité.
Explicabilité du Modèle
Techniques et documentation qui rendent la logique décisionnelle d'un modèle d'IA compréhensible pour les parties prenantes et les auditeurs.
Gouvernance du Modèle
Les politiques, rôles et contrôles qui garantissent que les modèles d'IA sont développés, approuvés et utilisés conformément aux normes organisationnelles et aux exigences réglementaires.
Surveillance du Modèle
Suivi continu des performances d'un modèle d'IA, des dérives de données et des indicateurs opérationnels pour détecter toute dégradation ou nouveaux risques potentiels.
Réentraînement du Modèle
Le processus de mise à jour d’un modèle d'IA avec des données nouvelles ou actualisées pour maintenir la performance et la conformité à mesure que les distributions de données évoluent.
Gestion des risques du modèle
Le processus structuré d'identification, d'évaluation et de réduction des risques découlant des modèles IA/ML tout au long de leur cycle de vie.
Validation du modèle
Les activités d'évaluation (par exemple, tests sur des données de validation, scénarios de stress) qui confirment qu'un modèle d'IA répond à son objectif et à ses critères de performance.
Engagement Multi-Intervenants
Impliquer divers groupes (par exemple, juridique, éthique, opérations, utilisateurs finaux) dans les processus de gouvernance de l'intelligence artificielle pour garantir une supervision équilibrée des risques et une alignement avec les objectifs commerciaux.
Market Surveillance Authority
The national regulatory body in each EU member state responsible for monitoring AI systems to ensure they comply with the EU AI Act.
MAS FEAT Principles
The Monetary Authority of Singapore's principles for Fairness, Ethics, Accountability, and Transparency (FEAT) in the use of AI in finance.
Mexico Federal Law on AI and Algorithms
A draft Mexican federal law on AI and algorithms proposing a risk-based classification system, the National AI Commission (CONAIA), and watermarking requirements for AI-generated content.
Minnesota CDPA (AI Provisions)
The AI-specific components of the Minnesota Consumer Data Privacy Act.
Model Card
A short, standardized document providing essential information about a machine learning model's performance, limitations, and intended use cases.
Model Disgorgement
A regulatory remedy requiring a company to delete AI models or algorithms that were developed using improperly or unlawfully acquired data.
Model Drift
The degradation of an AI model's predictive performance over time due to changes in real-world data or the environment.
Non
Cadre de Gestion des Risques de l'IA de NIST
Une orientation volontaire de l'Institut National des Standards et de la Technologie des États-Unis décrivant les meilleures pratiques pour atténuer les risques tout au long des cycles de vie des systèmes d'intelligence artificielle.
Traitement Automatique du Langage Naturel (TALN)
Techniques et outils qui permettent aux machines d'interpréter, de générer et d'analyser le langage humain sous forme de texte ou de parole.
Sécurité du Réseau
Mesures et contrôles (par exemple, segmentation, pare-feu, détection d'intrusion) pour protéger l'infrastructure de l'IA et les pipelines de données contre l'accès non autorisé ou la falsification.
Recherche d'Architecture Neurale
Méthodes automatisées pour concevoir et optimiser les structures de réseaux neuronaux afin d'améliorer la performance des modèles tout en équilibrant la complexité et les contraintes de ressources.
Injection de bruit
Introduction délibérée de perturbations aléatoires dans les données d'entraînement ou les paramètres du modèle afin d'améliorer la robustesse et de se protéger contre la manipulation malveillante.
Détection de Nouveautés
Techniques pour identifier les entrées ou scénarios qui diffèrent significativement des données d'entraînement, déclenchant une révision ou un mode de fonctionnement sécurisé afin de prévenir des défaillances inattendues.
NIST AI RMF Profiles
Context-specific implementations of the NIST AI Risk Management Framework tailored to particular industries, technologies, or risk types.
Non-Human Identity (NHI)
A digital credential used by an AI agent, bot, or service to authenticate and interact with enterprise systems.
Notified Body
An independent third-party organization designated by an EU member state to assess the conformity of certain high-risk AI systems under the EU AI Act.
NYC Local Law 144
A New York City law requiring annual bias audits for AI tools used in employment decisions.
O
Observabilité
La capacité de déduire l'état interne et le comportement d'un système d'IA par la collecte et l'analyse des journaux, des métriques et des résultats pour un suivi et un dépannage efficaces.
Surveillance Continue
Suivi continu des performances des systèmes d'IA, de la dérive des données, des métriques de biais et des événements de sécurité afin de détecter et traiter les risques émergents au fil du temps.
Opacité
L'absence de transparence dans la manière dont un modèle d'IA parvient à des décisions ou à des prédictions pose des défis en termes de confiance et de conformité réglementaire.
Résilience Opérationnelle
La capacité des systèmes d'intelligence artificielle et de leur infrastructure de soutien à anticiper, résister, se rétablir et s'adapter aux perturbations ou aux événements défavorables.
Orchestration
La coordination automatisée des flux de travail et des services d’IA — ingestion des données, entraînement des modèles, déploiement — garantissant la conformité aux politiques et à la gouvernance des ressources.
Détection des valeurs aberrantes
Techniques pour identifier les points de données ou les prédictions modélisées qui s'écartent significativement des schémas attendus, déclenchant ainsi des actions de révision ou de mitigation.
Surapprentissage
Un problème de modélisation où un système d'IA apprend le bruit ou les particularités des données d'entraînement, réduisant ainsi sa capacité à généraliser à de nouvelles données non vues.
Supervision
Le processus structuré d'examen, d'approbation et de responsabilité pour le développement et le déploiement de l'IA, impliquant généralement des instances de gouvernance interfonctionnelles.
Propriété
L’attribution claire des responsabilités et des pouvoirs en matière d’actifs d’IA — données, modèles, processus — afin de garantir la redevabilité tout au long du cycle de vie du système.
OMB Memorandum M-25-21
A federal directive specifying AI governance and risk management requirements for US government agencies.
Operational Autonomy
The ability of an AI system to perform multi-step tasks and make decisions without human intervention at each stage.
Output Risk
The operational, legal, and reputational danger arising from the use of incorrect, biased, or harmful content generated by an AI system.
OWASP Agentic Top 10
A formal taxonomy of the ten most critical security risks specific to autonomous AI agents and their application environments.
P
Autorisation
La gestion des droits d'accès des utilisateurs et des systèmes aux données et fonctions de l'IA, garantissant le principe du moindre privilège et empêchant toute utilisation non autorisée.
Essai Pilote
Un essai à portée limitée d'un système d'IA dans un environnement contrôlé pour évaluer les performances, les risques et les contrôles de gouvernance avant le déploiement à grande échelle.
Mise en Application des Politiques
Les mécanismes automatisés ou manuels qui garantissent que les opérations d'IA respectent les politiques organisationnelles, les réglementations et les lignes directrices éthiques.
Surveillance post-déploiement
Observation continue du comportement du système d'IA et de l'environnement après le déploiement afin de détecter toute dégradation, dérive ou violation de conformité.
Maintenance Prédictive
Surveillance et analyse pilotées par l'IA pour prévoir les défaillances des composants ou des systèmes, assurant ainsi la résilience opérationnelle et la réduction des risques dans des environnements critiques.
Évaluation de l'impact sur la vie privée
Une analyse structurée pour identifier et atténuer les risques de confidentialité associés aux systèmes d'IA, couvrant la collecte, l'utilisation, le partage et la conservation des données.
Confidentialité dès la Conception
Une approche qui intègre la protection des données et les considérations de la vie privée des utilisateurs dans l'architecture et les processus des systèmes d'intelligence artificielle dès le départ.
Automatisation des Processus
Utilisation de l'IA et des outils de gestion des flux de travail pour rationaliser la gouvernance, les contrôles de conformité et les activités de réduction des risques, réduisant ainsi les efforts manuels et les erreurs.
Presumption of Conformity
A legal mechanism under EU AI Act and other regimes whereby compliance with a harmonized standard (e.g., a published EN standard) provides a rebuttable assumption that the underlying regulation is satisfied.
Parametric Knowledge
The information learned by an AI model during its training process and stored within its weights and parameters.
Paved Road Governance
A strategy that encourages compliance by making sanctioned, secure workflows easier to follow than unsanctioned alternatives.
PRA SS1/23 (Model Risk Management)
The UK Prudential Regulation Authority's statement on model risk management for banks and insurers.
Probabilistic System
A system where outputs are based on statistical likelihood rather than deterministic, fixed logic.
Q
Évaluation Qualitative
L'évaluation subjective des comportements, des décisions et de la documentation des systèmes d'IA par des experts, visant à identifier les préoccupations éthiques, juridiques ou réputationnelles qui ne sont pas quantifiées.
Assurance Qualité
Les processus systématiques et les vérifications visant à garantir que les modèles d'IA et les flux de données répondent aux normes définies en termes de précision, de fiabilité et de conformité éthique.
Contrôle de Qualité
La vérification continue des résultats et des processus d'IA par rapport aux référentiels et aux cas de test, afin de détecter les défauts, les incidents de biais ou les violations de politique.
Évaluation Quantitative des Risques
Une évaluation fondée sur les données des menaces potentielles de l'IA, estimant les probabilités et les impacts de manière numérique afin de prioriser les efforts d'atténuation.
Calcul Quantique
Le paradigme computationnel émergent qui exploite la mécanique quantique pose de nouveaux défis de gouvernance en matière de sécurité, de standardisation et de gestion des risques.
Enregistrement des Requêtes
La pratique d'enregistrer les entrées du système d'IA et les requêtes des utilisateurs pour permettre des pistes d'audit, détecter les abus et soutenir la responsabilité.
Confidentialité des Requêtes
Techniques et politiques visant à protéger les informations sensibles dans les requêtes des utilisateurs, garantissant que les entrées enregistrées ne compromettent pas les données personnelles ou propriétaires.
Cadre de Questionnaire
Un ensemble structuré de questions axées sur la gouvernance utilisé lors de la conception, de l'acquisition ou du déploiement pour garantir que les systèmes d'IA sont conformes aux exigences réglementaires.
Quorum pour le Conseil de Gouvernance
Le nombre minimum de membres du comité de gouvernance requis pour être présents afin de prendre des décisions officielles concernant les risques liés à l'IA, les approbations de politiques ou les résultats d'audit.
Gestion des quotas
Les contrôles et limites imposés à l'utilisation des ressources d'IA (par exemple, appels API, temps de calcul) afin de appliquer les politiques de gouvernance et prévenir les coûts excessifs ou les abus.
R
Recours
Mécanismes permettant aux individus concernés de contester ou de demander un recours pour des décisions prises par l'IA qui affectent leurs droits ou leurs intérêts.
Équipe Rouge
Une approche proactive de test où des experts internes ou externes simulent des attaques ou des scénarios d'utilisation abusive afin de découvrir les vulnérabilités des systèmes d'intelligence artificielle.
Conformité Réglementaire
Garantir que les systèmes d'IA respectent les lois, réglementations et normes industrielles applicables (par exemple, RGPD, FDA, surveillance financière) tout au long de leur fonctionnement.
Reproductibilité
La capacité de régénérer systématiquement les résultats des modèles d'IA en utilisant les mêmes données, code et configurations, garantissant ainsi la transparence et l'auditabilité.
Matrice d'Attribution des Responsabilités
Un outil (p. ex., la matrice RACI) qui clarifie les rôles et les responsabilités pour chaque activité de gouvernance — en précisant qui est Responsable, Redevable, Consulté et Informé.
Intelligence Artificielle Responsable
La pratique de concevoir, développer et déployer des systèmes d'IA de manière éthique, transparente et responsable envers les parties prenantes et la société.
Évaluation des Risques
Le processus d'identification, d'analyse et de hiérarchisation des dommages ou défaillances potentiels dans les systèmes d'IA afin de déterminer les stratégies d'atténuation appropriées.
Cadre de Gestion des Risques
Un ensemble structuré de directives et de processus pour aborder systématiquement les risques liés à l'IA tout au long du cycle de vie du système, de la conception à la mise au rebut.
Robustesse
La capacité d'un système d'intelligence artificielle à maintenir une performance fiable dans une variété de conditions difficiles ou adverses.
Analyse des Causes Racines
Une enquête structurée visant à déterminer les raisons sous-jacentes des défaillances ou des comportements inattendus des systèmes d'IA, guidant les actions correctives.
Reasoning Chain
The multi-step logical process an AI agent follows to move from an initial objective to a final action or output.
S
Politique d'Utilisation Sanctionnée
Des règles et contrôles définis spécifiant les contextes, les utilisateurs et les objectifs approuvés pour le fonctionnement des systèmes d'intelligence artificielle afin de prévenir tout usage abusif.
Sécurité par Conception
Intégrer des contrôles de sécurité et des pratiques exemplaires dans les systèmes d'IA dès les premières phases de conception pour prévenir les vulnérabilités et les violations de données.
Intelligence Artificielle de l'Ombre
L'utilisation non autorisée de modèles d'IA, d'agents ou d'outils par les employés sans l'approbation du service informatique crée des vulnérabilités de sécurité cachées dues à des fuites de données et à des actions autonomes non autorisées.
Évaluation de l'Impact Sociétal
Une évaluation structurée de l'impact d'un système d'IA sur les aspects sociaux, économiques et culturels des communautés, identifiant les dommages potentiels et les avantages.
Cycle de vie du développement logiciel
Le processus de bout en bout (exigences, conception, construction, test, déploiement, surveillance) pour les applications d'IA, intégrant des vérifications de gouvernance et de conformité à chaque étape.
Engagement des parties prenantes
Le processus d'implication des parties affectées (par exemple, utilisateurs, régulateurs, communautés concernées) dans le développement et la supervision de l'IA afin de garantir des perspectives variées et leur approbation.
Risque de Surveillance
La menace que les systèmes d'IA puissent être exploités pour une surveillance intrusive des individus ou des groupes, portant atteinte à la vie privée et aux libertés civiles.
Données Synthétiques
Jeux de données générés artificiellement qui imitent les distributions de données réelles, utilisés pour augmenter les ensembles d'entraînement tout en protégeant la confidentialité.
Shadow Agents
Unsanctioned autonomous AI agents deployed within an organization without governance team awareness, capable of taking actions that affect business systems and external parties.
Singapore Model AI Governance Framework
A voluntary guidance framework from Singapore's IMDA and PDPC for responsible AI deployment.
South Korea AI Basic Act
South Korea's comprehensive legal framework for AI development and trust.
SR 11-7 (Model Risk Management)
The foundational US Federal Reserve guidance for managing risks associated with the use of models in banking.
Statement of Applicability (SoA)
A document that identifies which ISO 42001 Annex A controls are relevant to an organization's AI Management System and explains why others were excluded.
Substantial Modification
A change to an AI system after it has been placed on the market that affects its compliance or intended purpose under the EU AI Act.
System of Record
The authoritative data source for a given data element or piece of information within an organization.
Systemic Risk Threshold
The technical or capability-based limit (e.g., 10^25 FLOPs) that classifies a General-Purpose AI model as posing a high level of risk to society.
T
Risque de queue
Le potentiel de résultats rares et extrêmes dans le comportement ou la prise de décision de l'IA qui dépassent les attentes normales et nécessitent une planification spéciale d'atténuation.
Test et Validation
Le processus systématique d'évaluation des modèles d'IA par rapport à des références, des cas limites et des conditions de stress pour garantir qu'ils répondent aux critères de performance, de sécurité et de conformité.
Risque lié aux tiers
L'exposition résultant de la dépendance envers des fournisseurs de données externes, des vendeurs de modèles ou des plateformes de services qui pourraient introduire des vulnérabilités de conformité ou de sécurité.
Paramétrage du Seuil
Définir des limites ou des valeurs seuil dans les règles de décision de l'IA (par exemple, les scores de confiance) afin de trouver un équilibre entre les risques tels que les faux positifs et les faux négatifs.
Traçabilité
La capacité à suivre et à documenter chaque étape du cycle de vie de l’IA — de la collecte des données au développement des modèles jusqu’au déploiement — afin de faciliter les audits et les analyses forensiques.
Ensemble de données de formation
La collection soigneusement sélectionnée de données annotées ou non annotées utilisée pour enseigner à un modèle d'intelligence artificielle les relations et les modèles qu'il doit apprendre pour accomplir sa tâche.
Apprentissage par Transfert
Une technique où un modèle développé pour une tâche est adapté à une tâche connexe, réduisant ainsi le temps de développement, mais nécessitant la gouvernance des biais hérités.
Transparence
La pratique consistant à rendre les processus des systèmes d'IA, la logique de décision, et l'utilisation des données clairs et compréhensibles pour les parties prenantes afin d'assurer la responsabilité.
IA fiable
Des systèmes d'IA conçus et exploités de manière éthique, fiable, sûre et en adéquation avec les valeurs humaines et les normes sociétales.
Trilogue
The informal three-way negotiation between the European Commission, the Council of the European Union, and the European Parliament used to reach political agreement on EU legislation before formal adoption.
Vous
Sous-ajustement
Un problème de modélisation où un système d'IA est trop simpliste pour saisir les motifs sous-jacents des données, entraînant des performances médiocres tant sur les données d'entraînement que sur les nouvelles données.
Uniformité
Assurer une application cohérente des politiques, contrôles et normes à travers tous les systèmes d'IA pour éviter les lacunes de gouvernance ou une gestion des risques inégale.
Apprentissage Non Supervisé
Une approche d'apprentissage automatique où les modèles identifient des motifs ou des regroupements dans des données non étiquetées sans orientation explicite sur les résultats.
Surveillance de la disponibilité
Suivi continu de la disponibilité et des performances des systèmes d'IA pour détecter les pannes ou les dégradations pouvant affecter les opérations critiques ou les obligations de conformité.
Gouvernance des Cas d'Utilisation
La pratique de définir, approuver et surveiller des cas d'utilisation spécifiques de l'IA pour s'assurer que chacun est conforme aux politiques organisationnelles, aux normes éthiques et à l'appétit pour le risque.
Consentement de l'utilisateur
Le processus d'obtention et d'enregistrement d'une autorisation explicite de la part des individus avant de collecter, traiter ou utiliser leurs données personnelles dans des systèmes d'IA.
Utilité
Une mesure de la valeur ou de l'efficacité d'un système d'IA à atteindre ses objectifs visés, équilibrée par rapport aux risques ou aux coûts en ressources associés.
UK AI Opportunities Action Plan
The UK government's strategic roadmap for maximizing AI benefits while establishing targeted, binding safety rules.
V
Validation
Le processus de confirmation qu'un modèle d'intelligence artificielle fonctionne de manière précise et fiable sur les tâches prévues et répond aux critères de performance définis.
Surveillance des Variances
Suivi des fluctuations des sorties des modèles d'IA ou des indicateurs de performance au fil du temps pour détecter les dérives et en déduire une éventuelle dégradation ou un risque.
Gestion des Risques Fournisseurs
Évaluer et surveiller les fournisseurs tiers de composants ou services d'IA pour identifier et atténuer les risques potentiels de conformité, de sécurité ou d'éthique.
Contrôle de Version
La pratique de la gestion et du suivi des modifications du code de l'IA, des modèles et des ensembles de données au fil du temps pour garantir la reproductibilité et l'auditabilité.
Autorité de Veto
Le droit formel détenu par un organe de gouvernance ou un intervenant pour bloquer ou exiger des modifications des déploiements d'IA présentant des risques inacceptables.
Surveillance de la Vigilance
Surveillance continue du comportement de l'IA et des signaux externes (par exemple, les mises à jour réglementaires) afin d'identifier et de répondre rapidement aux risques émergents ou aux non-conformités.
Surveillance IA Vision
Les processus de gouvernance spécifiques aux systèmes de vision par ordinateur, garantissant la qualité des données, les vérifications des biais et la transparence dans la prise de décision basée sur des images et des vidéos.
Évaluation des vulnérabilités
Identifier, analyser et prioriser les faiblesses de sécurité dans l'infrastructure et les applications d'IA afin de guider les efforts de remédiation.
Version Pinning
The practice of locking an AI system to a specific, tested version of a foundation model to prevent silent updates from changing system behavior.
W
Surveillance Surveillance
Contrôles d'exécution indépendants qui observent les décisions de l'IA et déclenchent des alertes ou des interventions lorsque des politiques ou des seuils sont enfreints.
Audit de Poids
Examiner les poids et les structures des modèles pour détecter des anomalies, des portes dérobées ou des biais pouvant indiquer une altération ou des comportements non souhaités.
Testage en boîte blanche
Évaluer les systèmes d'IA avec une pleine connaissance du fonctionnement interne (code, paramètres, architecture) pour vérifier l'exactitude, la sécurité et la conformité.
Politique de liste blanche/liste noire
Règle de gouvernance définissant les entrées, caractéristiques ou opérations autorisées (liste blanche) et interdites (liste noire) afin d'assurer la conformité et de prévenir tout abus.
Mise en liste blanche
Autoriser uniquement des sources de données, des bibliothèques ou des composants de modèle pré-approuvés dans les processus d'IA afin de réduire les risques liés à des éléments non vérifiés ou malveillants.
Orchestration des flux de travail
Automatisation et séquençage des tâches du cycle de vie de l'IA (ingestion de données, formation, validation, déploiement) pour appliquer les politiques de gouvernance et garantir la cohérence.
Segmentation des charges de travail
Séparer les environnements de calcul IA (par exemple, développement, test, production) et les domaines de données afin de limiter l'impact des pannes ou des violations de sécurité.
Analyse du pire des cas
Évaluer les échecs ou abus potentiels les plus extrêmes d'un système d'IA afin d'informer une atténuation des risques et une planification de contingence robustes.
Stockage WORM (Write-Once Read-Many)
Stockage immuable garantissant que les journaux, pistes d'audit et artefacts de modèles ne peuvent pas être modifiés une fois écrits, soutenant ainsi la non-répudiation et l'examen médico-légal.
Watermarking
The practice of embedding detectable, machine-readable provenance markers in AI-generated output, such as images, audio, video, and synthetic text, so downstream consumers and platforms can identify content as AI-generated.
X
X-Validation
Une technique de validation de modèle (souvent abrégée « X-Val ») qui partitionne les données en segments afin d'évaluer rigoureusement la généralisation du modèle et de détecter les surapprentissages.
XAI (IA Explicable)
Techniques et méthodes qui rendent le processus de décision d'un modèle d'IA transparent et compréhensible pour les humains, favorisant ainsi la responsabilité et la conformité.
Audit XAI
Un processus de révision qui évalue si les résultats de l'explicabilité de l'IA satisfont aux politiques internes et aux exigences réglementaires, garantissant une transparence suffisante.
Cadre XAI
Une approche structurée ou un ensemble de directives qu'organisations utilisent pour mettre en œuvre, mesurer et régir les pratiques d'explicabilité au sein de leurs systèmes d'IA.
Métriques XAI
Mesures quantitatives ou qualitatives (par exemple, scores d'importance des fonctionnalités, fidélité des explications) utilisées pour évaluer la qualité et la fiabilité des explications d'IA.
Oui
Règles YARA
Un ensemble de modèles de détection basés sur des signatures utilisés pour analyser les pipelines et les artefacts d'IA afin de détecter des codes malveillants connus ou des altérations.
Revue Annuelle de Conformité
Une évaluation annuelle des processus, des politiques et des systèmes de gouvernance de l'IA pour garantir une conformité continue aux réglementations et aux normes internes.
Z
Tolérance Zéro Défaut
Un principe de gouvernance visant l'absence d'erreurs ou de violations de politique dans les résultats de l'IA, soutenu par des cycles rigoureux de test, de surveillance et d'amélioration continue.
Vulnérabilité Zéro Jour
Une faille de sécurité précédemment inconnue dans le logiciel ou l'infrastructure d'IA qui peut être exploitée avant qu'un correctif ou une atténuation ne soit disponible.
Apprentissage sans supervision
Une capacité modèle pour gérer correctement les tâches ou classer les données sur lesquelles il n'a jamais été explicitement formé en utilisant des représentations de connaissances généralisées.
Contrôle d'accès par zone
Une approche de gouvernance réseau ou de données qui divise les ressources en zones avec des politiques distinctes, restreignant l'accès des systèmes d'IA en fonction de la sensibilité des données.
Tous
Livre blanc
Réglementations sur l'IA
Balados
Mises à jour du produit
Couverture Médiatique
Glossaire
Rejoignez notre podcast ou collaborez sur du contenu
Contactez-nous et nous verrons ce que nous pouvons réaliser ensemble.
A
Responsabilité de l'IA
L'obligation des développeurs et opérateurs de systèmes d'IA d'assurer que leurs systèmes sont conçus et utilisés de manière responsable, en respectant les normes éthiques et les exigences légales.
Alignement de l'IA
Le processus consistant à garantir que les objectifs et les comportements des systèmes d'IA sont alignés avec les valeurs et les intentions humaines.
Audit IA
L'évaluation systématique des systèmes d'IA pour vérifier la conformité aux normes éthiques, aux règlements et aux indicateurs de performance.
Biais de l'IA
Erreurs systématiques dans les sorties d'IA résultant de données d'entraînement biaisées ou d'algorithmes défectueux, conduisant à des résultats inéquitables.
Conformité IA
L'adhésion des systèmes d'IA aux lois, réglementations et directives éthiques applicables tout au long de leur cycle de vie.
Éthique de l'IA
Le domaine concerné par les implications morales et les responsabilités liées au développement et au déploiement des technologies d'IA.
Explicabilité de l'IA
Le degré auquel la mécanique interne d'un système d'IA peut être comprise et interprétée par les humains.
Gouvernance de l'IA
Le cadre des politiques, processus et contrôles qui guident le développement et l'utilisation éthiques et efficaces des systèmes d'IA.
Inventaire IA
Un catalogue complet et centralisé de tous les systèmes d'IA, modèles et agents utilisés dans toute l'organisation, permettant de suivre leur objectif commercial, leur niveau de risque et leur propriétaire.
Culture de l'IA
La compréhension des concepts, des capacités et des limitations de l'IA, permettant une interaction éclairée avec les technologies de l'IA.
Surveillance de l'IA
L'observation et l'analyse continues des performances des systèmes d'IA afin de garantir la fiabilité, la sécurité et la conformité.
Risque lié à l'IA
Le potentiel des systèmes d'intelligence artificielle à causer des préjudices ou des conséquences imprévues, y compris les risques éthiques, juridiques et opérationnels.
Gestion des Risques liés à l'IA
Le processus d'identification, d'évaluation et d'atténuation des risques associés aux systèmes d'IA.
TRiSM IA
Un acronyme inventé par Gartner signifiant Gestion de la Confiance, des Risques et de la Sécurité de l'IA ; un cadre qui unifie la gouvernance, la fiabilité et la sécurité en une seule stratégie opérationnelle.
Transparence de l'IA
Le principe selon lequel les systèmes d'IA doivent être ouverts et clairs quant à leurs opérations, décisions et utilisation des données.
Précision
Le degré auquel les résultats d'un système d'IA reflètent correctement les données du monde réel ou les résultats escomptés.
Attaque Adversariale
Techniques qui manipulent les modèles d'IA en introduisant des entrées trompeuses pour provoquer des résultats incorrects.
Agentic IA
Une catégorie de systèmes d'intelligence artificielle conçus pour atteindre de manière autonome des objectifs complexes et exécuter des actions à multiples étapes (telles que le déploiement de logiciels ou les transactions financières) avec une intervention humaine minimale.
Gouvernance d'IA Agentic
La gouvernance des systèmes d'IA autonomes capables d'exécuter des actions indépendantes (par exemple, des transactions, le déploiement de code) se distingue de l'IA prédictive (qui fournit des insights) et de l'IA générative (qui crée du contenu).
Algorithme
Un ensemble de règles ou d'instructions donné à un système d'IA pour l'aider à apprendre de manière autonome.
Biais Algorithmique
Un biais qui survient lorsqu'un algorithme produit des résultats systématiquement biaisés en raison d'hypothèses erronées dans le processus d'apprentissage automatique.
Gouvernance Algorithmique
L'utilisation d'algorithmes pour gérer et réguler les fonctions sociétales, pouvant potentiellement influencer les processus de prise de décision.
Intelligence Artificielle Générale
Un type d'intelligence artificielle qui possède la capacité de comprendre, d'apprendre et d'appliquer des connaissances de manière générale, similaire à l'intelligence humaine.
Intelligence Artificielle
La simulation des processus d'intelligence humaine par des machines, en particulier les systèmes informatiques, y compris l'apprentissage, le raisonnement et l'auto-correction.
Agent Fabric
An integrated runtime substrate that hosts, orchestrates, and governs multiple AI agents alongside the models, tools, and data they depend on.
Agent Mesh
A networked topology in which AI agents discover, communicate with, and delegate work to one another through a shared infrastructure layer.
AI Assistant
A conversational AI system designed to help users complete tasks through natural language interaction, typically powered by a large language model.
AI Bill of Materials (AIBOM)
A structured inventory listing the components that make up an AI system, including foundation models, training datasets, libraries, and dependencies - the AI equivalent of a Software Bill of Materials (SBOM).
AI Footprint
The total set of AI systems, models, agents, and embedded AI features in use across an organization at any given time, including sanctioned and shadow systems.
AI Sprawl
The uncontrolled expansion of AI systems across an organization, typically driven by easy access to AI tools and a lack of effective intake and inventory processes.
Article 25 (EU AI Act)
The EU AI Act provision creating a direct obligation chain between providers and deployers of high-risk AI systems, including responsibility transfer when systems are substantially modified.
Article 50 (EU AI Act)
The EU AI Act provision setting transparency obligations for AI systems that interact with people, generate synthetic content, or produce deepfakes.
Acceptable Use Policy (AUP)
A set of rules applied by an organization that outlines the permitted and prohibited ways employees may interact with company-provided AI tools.
Accredited Certification
A certificate issued by a certification body that has been formally recognized by a national accreditation body (like ANAB or UKAS) as competent to audit against a specific standard.
Action Preview
A governance requirement where an AI agent must display exactly what an irreversible operation will do before a human provides final approval.
Action Whitelisting
A security and governance control that specifies the only permitted tools, APIs, and actions an AI agent is allowed to execute.
Agent Goal Hijack (ASI01)
A vulnerability where an attacker manipulates an agent's objectives or decision pathways to redirect its autonomous behavior toward unintended outcomes.
Agentic Policy Engine
A runtime software component that intercepts agent actions and evaluates them against a set of deterministic governance rules before execution.
AI Governance for Financial Services
The specialized application of AI risk management frameworks to meet the rigorous prudential and conduct requirements of the banking and insurance sectors.
AI Governance Software
Specialized enterprise tools used to automate the inventory, risk assessment, and regulatory compliance of artificial intelligence systems.
EU AI Liability Directive
A proposed EU directive aimed at simplifying the process for claimants to seek damages caused by AI systems by introducing a rebuttable presumption of causality.
Artificial Intelligence Management System (AIMS)
A set of interrelated or interacting elements of an organization to establish policies, objectives, and processes for the responsible development or use of AI.
AI System Impact Assessment
A formal process to evaluate the potential consequences of an AI system's deployment on individuals, groups, and society at large.
Artificial Intelligence and Data Act (AIDA)
Canada's federal regulatory framework (part of Bill C-27) aimed at ensuring high-impact AI systems are developed and used safely and without bias.
Amnesty Program
A time-limited governance initiative where employees are invited to disclose unsanctioned AI tool usage without fear of disciplinary action.
Annex I Products
A list of products already regulated by EU health and safety law (e.g., machinery, medical devices) where AI integrated under the EU AI Act is automatically classified as high-risk.
Annex III Categories
A specific list of high-risk AI application areas defined by the EU AI Act that trigger mandatory compliance obligations.
API Traffic Analysis
The technical process of monitoring and inspecting network calls made to external AI service providers.
Article 6(3) Exception
A self-determination mechanism under the EU AI Act allowing providers to classify an Annex III AI system as not high-risk if it poses no significant harm.
Australia Safe & Responsible AI Policy
The Australian federal policy governing the use of AI within the public service and government agencies.
Automated AI Governance
The use of software and API integrations to perform continuous, real-time compliance checks and risk monitoring without manual intervention.
B
Rétropropagation
Un algorithme d'apprentissage utilisé dans les réseaux de neurones qui ajuste les poids en propageant les erreurs à rebours depuis la couche de sortie afin de minimiser la perte.
Apprentissage par lot
Une approche d'apprentissage automatique où le modèle est entraîné sur l'ensemble du jeu de données en une seule fois, par opposition à l'apprentissage incrémental.
Évaluation comparative
Le processus de comparaison des performances des systèmes d'IA avec des métriques standard ou d'autres systèmes pour évaluer l'efficacité.
Préjugé
Erreurs systématiques dans les sorties d'IA résultant de données d'entraînement biaisées ou d'algorithmes défectueux, conduisant à des résultats inéquitables.
Amplification des biais
Le phénomène où les systèmes d'IA exacerbent les biais existants présents dans les données d'entraînement, conduisant à des résultats de plus en plus biaisés.
Audit de Biais
Un processus d'évaluation pour détecter et atténuer les biais dans les systèmes d'IA, garantissant l'équité et la conformité avec les normes éthiques.
Détection des Biais
Le processus d'identification des biais dans les modèles d'IA en analysant leurs résultats et leurs processus de prise de décision.
Atténuation des biais
Techniques appliquées lors du développement de l'IA pour réduire ou éliminer les biais dans les modèles et les ensembles de données.
Modèle Boîte Noire
Un système d'IA dont le fonctionnement interne n'est ni transparent ni interprétable, rendant difficile la compréhension du processus de prise de décision.
Robot
Une application logicielle qui exécute des tâches automatisées, souvent utilisée dans le domaine de l'intelligence artificielle pour des tâches telles que le service client ou la collecte de données.
Brussels Effect
The phenomenon whereby EU regulation becomes the global default through market access requirements, even for organizations headquartered outside the EU.
Brazil AI Bill (PL 2338/2023)
Brazil's primary legislative effort to establish a national framework for AI rights and governance.
C
Inférence Causale
Une méthode en intelligence artificielle et en statistiques utilisée pour déterminer les relations de cause à effet, aidant à comprendre l'impact des interventions ou des modifications des variables.
Assistant conversationnel
Une application logicielle alimentée par l'IA, conçue pour simuler une conversation humaine, souvent utilisée dans le service client et l'acquisition d'informations.
Classification
Une technique d'apprentissage supervisé en apprentissage automatique où le modèle prédit la catégorie ou l'étiquette de classe des nouvelles observations en se basant sur des données d'entraînement.
Biais Cognitif
Des schémas systématiques de déviation par rapport à la norme ou à la rationalité dans le jugement, qui peuvent influencer la prise de décision de l'IA s'ils sont présents dans les données d'entraînement.
Informatique cognitive
Un sous-ensemble de l'intelligence artificielle qui simule les processus de pensée humaine dans un modèle informatisé, visant à résoudre des problèmes complexes sans assistance humaine.
Charge cognitive
La quantité totale d'effort mental utilisée dans la mémoire de travail, est prise en compte en IA pour concevoir des systèmes qui ne submergent pas les utilisateurs.
Cadre de Conformité
Un ensemble structuré de directives et de meilleures pratiques que les organisations suivent pour garantir que leurs systèmes d'IA respectent les normes réglementaires et éthiques.
Risque de Conformité
Le risque de sanctions légales ou réglementaires, de pertes financières ou de préjudice à la réputation qu'une organisation encourt lorsqu'elle ne se conforme pas aux lois, réglementations ou pratiques prescrites.
Vision par Ordinateur
Un domaine de l'IA qui forme les ordinateurs à interpréter et traiter les informations visuelles du monde, telles que les images et les vidéos.
Dérive de Concept
La modification des propriétés statistiques de la variable cible, que le modèle cherche à prédire, au fil du temps, conduit à une dégradation du modèle.
Intervalle de Confiance
Une gamme de valeurs, dérivées de statistiques d'échantillons, qui est susceptible de contenir la valeur d'un paramètre de population inconnu, utilisée en IA pour exprimer l'incertitude.
Évaluation de la conformité
Un processus destiné à déterminer si un système d'IA répond aux exigences, normes ou réglementations spécifiées, impliquant souvent des tests et une certification.
Apprentissage Continu
La capacité d'un système d'intelligence artificielle à apprendre et à s'adapter en continu à partir de nouvelles données sans intervention humaine, s'améliorant au fil du temps.
Maîtrise
La mesure dans laquelle les humains peuvent diriger, influencer ou remplacer les décisions et les comportements d'un système d'intelligence artificielle.
Validation croisée
Une technique de validation de modèle pour évaluer comment les résultats d'une analyse statistique se généraliseront à un ensemble de données indépendant.
Cybersécurité
La pratique de la protection des systèmes, réseaux et programmes contre les attaques numériques, essentielle pour sécuriser les systèmes d'intelligence artificielle contre les menaces.
COREPER Mandate
The negotiating authority granted by EU member state ambassadors (Committee of Permanent Representatives) to the rotating Council Presidency for trilogue negotiations on EU legislation.
California AB 1008
An amendment to the CCPA clarifying that personal information includes data generated or output by AI systems.
California AB 3030
A California law requiring transparency when Generative AI is used to communicate with patients in a healthcare setting.
California ADMT Regulations
Rules under the California Consumer Privacy Act (CCPA) governing Automated Decision-Making Technology (ADMT).
California FEHA AI Regulations
State regulations under the Fair Employment and Housing Act (FEHA) targeting AI-driven discrimination in the workplace.
California AI Transparency Act (SB 942)
Legislation requiring large providers of generative AI systems to provide detection tools and embed latent and manifest disclosures in AI-generated content.
Cascading Failure (ASI08)
A failure mode where an error or malicious input in one AI agent's reasoning triggers a chain reaction of failures across multiple connected agents or systems.
CE Marking
A mandatory certification mark that indicates an AI system's conformity with health, safety, and environmental protection standards for products sold within the EEA.
Change Notification Window
A contractual period during which a vendor must inform a customer of material updates to an AI model before those updates are deployed in production.
China Interim GenAI Measures
Regulatory requirements for generative AI services provided to the Chinese public.
Council of Europe AI Convention
The first legally binding international treaty on AI, focusing on the protection of human rights, democracy, and the rule of law.
Colorado AI Act (SB24-205)
The first broad U.S. state law requiring developers and deployers of high-risk AI systems to implement duty of care standards and conduct annual impact assessments.
Internal Control (Conformity Assessment)
A process under the EU AI Act where a provider self-verifies that their high-risk AI system meets all regulatory requirements without requiring a third-party audit.
Cryptographic Agent Identity
A verifiable digital credential (often a Decentralized Identifier or DID) that uniquely identifies an AI agent and its authority level.
D
Variation des données
L'évolution des données d'entrée du modèle avec le temps, qui peut entraîner une dégradation des performances du modèle si elle n'est pas surveillée et corrigée.
Éthique des Données
La branche de l'éthique qui évalue les pratiques en matière de données en ce qui concerne les obligations morales liées à la collecte, à la protection et à l'utilisation des informations personnellement identifiables.
Gouvernance des données
La gestion globale de la disponibilité, de l'utilisabilité, de l'intégrité et de la sécurité des données dans une entreprise, garantissant que les données sont correctement traitées tout au long de leur cycle de vie.
Gestion du cycle de vie des données
La gestion des flux de données basée sur des politiques tout au long de leur cycle de vie : de leur création et stockage initial à leur obsolescence et suppression.
Minimisation des Données
Le principe de ne collecter que les données nécessaires à un objectif spécifique, réduisant ainsi le risque de mauvaise utilisation ou de violation.
Confidentialité des données
L'aspect de la technologie de l'information qui traite de la capacité à contrôler quelles données sont partagées et avec qui, en veillant à ce que les données personnelles soient traitées de manière appropriée.
Protection des Données
Le processus de protection des informations importantes contre la corruption, la compromission ou la perte, tout en garantissant la conformité avec les lois et régulations sur la protection des données.
Qualité des Données
La condition des données, basée sur des facteurs tels que l'exactitude, la complétude, la fiabilité et la pertinence, est cruciale pour la performance efficace des modèles d'intelligence artificielle.
Résidence des données
Le lieu physique ou géographique des données d'une organisation, qui peut avoir des implications pour la conformité aux lois sur la protection des données.
Souveraineté des Données
Le concept selon lequel les données sont soumises aux lois et structures de gouvernance du pays où elles sont collectées, stockées ou traitées.
Personne concernée par les données
Une personne dont les données personnelles sont collectées, conservées ou traitées, est particulièrement pertinente dans le contexte des lois sur la protection des données comme le RGPD.
Dé-identification
Le processus de suppression ou de masquage des identifiants personnels des ensembles de données, rendant difficile l'identification des individus, est utilisé pour protéger la confidentialité.
Apprentissage Profond
Un sous-ensemble d'apprentissage automatique impliquant des réseaux neuronaux avec plusieurs couches, permettant de modéliser des schémas complexes dans les données.
Hypertrucage
Médias synthétiques dans lesquels une personne dans une image ou une vidéo existante est remplacée par la ressemblance de quelqu'un d'autre, créée en utilisant des techniques d'apprentissage profond.
Confidentialité Différentielle
Un système pour partager publiquement des informations sur un ensemble de données en décrivant les tendances des groupes au sein de cet ensemble tout en préservant la confidentialité des informations individuelles.
Discrimination
En IA, cela se réfère à un traitement injuste des individus ou des groupes basé sur des biais dans les données ou les algorithmes, conduisant à des résultats inégaux.
Apprentissage Distribué
Une approche d'apprentissage automatique où les données d'entraînement sont réparties sur plusieurs appareils ou emplacements, et les modèles sont formés de manière collaborative sans partager les données brutes.
Adaptation de Domaine
Une technique en apprentissage automatique où un modèle entraîné dans un domaine est adapté pour fonctionner dans un domaine différent mais connexe.
Évaluation Dynamique des Risques
Le processus continu d'identification et d'évaluation des risques en temps réel, permettant des réponses opportunes aux menaces émergentes dans les systèmes d'IA.
Data Ingestion Risk
The danger that sensitive or proprietary information will be permanently absorbed into an AI model's training set during a user's interaction.
Data Provenance
A documented record of the origin, ownership, and lifecycle of a dataset used to train or fine-tune an AI model.
EU Digital Omnibus on AI
A 2025/2026 legislative package designed to streamline and harmonize technical standards, conformity assessments, and enforcement timelines across the EU AI Act and related digital safety laws.
Dual-Use Foundation Model
An AI model that is trained on a vast amount of data and has high-level performance that could be used for both civilian and harmful or military purposes.
Entreprises
IA de pointe
Le déploiement d'algorithmes d'intelligence artificielle sur des dispositifs périphériques, permettant le traitement des données et la prise de décisions à la source de génération des données.
Analyse de pointe
L'analyse des données à la périphérie du réseau, près de la source de génération des données, réduisant la latence et l'utilisation de la bande passante.
Apprentissage Collectif
Un paradigme d'apprentissage automatique où plusieurs modèles sont entraînés et combinés pour résoudre le même problème, améliorant ainsi la performance globale.
Résolution d'Entité
Le processus d'identification et de liaison des enregistrements faisant référence à la même entité du monde réel dans différents ensembles de données.
Enzai
Une plateforme de gouvernance de l'IA d'entreprise qui permet aux organisations de répertorier, d'évaluer et de contrôler leurs systèmes d'IA, assurant une adoption maximale de l'IA tout en minimisant les risques liés à l'IA.
IA Éthique
La pratique de concevoir, développer et déployer des systèmes d'intelligence artificielle d'une manière qui s'aligne sur des principes et valeurs éthiques, garantissant l'équité, la responsabilité et la transparence.
Audit d'IA Éthique
Le processus d'évaluation systématique des systèmes d'IA pour garantir leur conformité aux normes éthiques et éviter tout dommage.
Certification de l'IA Éthique
Une reconnaissance formelle qu'un système d'IA respecte les normes et directives éthiques établies.
Gouvernance Éthique de l'IA
Le cadre des politiques, procédures et pratiques qui garantissent que les systèmes d'IA sont développés et utilisés de manière responsable et éthique.
Cadres éthiques
Ensembles structurés de principes et de lignes directrices conçus pour guider le développement et le déploiement éthique des systèmes d'intelligence artificielle.
Pirate Éthique
La pratique consistant à explorer intentionnellement les systèmes pour en déceler les vulnérabilités afin d'identifier et de corriger les problèmes de sécurité, garantissant ainsi la robustesse des systèmes d'IA.
Évaluation de l'Impact Éthique
Un processus d'évaluation systématique pour identifier et traiter les implications éthiques ainsi que les impacts sociétaux potentiels des systèmes d'IA avant leur déploiement.
Risques éthiques
Le potentiel d'un système d'IA à causer des dommages en raison d'un comportement non éthique, notamment des préjugés, de la discrimination ou de la violation de la vie privée.
Principes Éthiques pour une IA de Confiance
Un ensemble de lignes directrices élaborées par le groupe d'experts de haut niveau sur l'IA de la Commission européenne pour promouvoir une IA digne de confiance, axée sur l'autonomie humaine, la robustesse technique, la confidentialité, la transparence, la diversité, le bien-être sociétal et la responsabilité.
Techniques d'explicabilité
Méthodes utilisées pour interpréter et comprendre les décisions prises par les modèles d'IA, telles que LIME, SHAP et les cartes de saillance.
Explicabilité vs Interprétabilité
Bien que les deux visent à rendre compréhensibles les décisions de l'IA, l'explicabilité se concentre sur le raisonnement derrière les décisions, tandis que l'interprétabilité se rapporte à la transparence des mécaniques internes du modèle.
Intelligence Artificielle Explicable (IAE)
Les systèmes d'IA conçus pour fournir des justifications compréhensibles par l'homme pour leurs décisions et actions, renforçant la transparence et la confiance.
Apprentissage Automatique Explicable
Modèles d'apprentissage automatique conçus pour fournir des explications claires et compréhensibles de leurs prédictions et décisions.
EU AI Office
The European Commission body established to oversee implementation and enforcement of the EU AI Act, particularly for general-purpose AI models with systemic risk.
EU Digital Omnibus
The European Union's broader 2025-2026 legislative simplification package addressing multiple digital regulations including the AI Act, GDPR provisions, the Cyber Resilience Act, and Data Act amendments.
Embedded AI
AI capabilities or features that are integrated directly into third-party software-as-a-service (SaaS) platforms or enterprise tools.
Escalation Logic
A set of predefined rules and triggers that force an AI agent to stop autonomous operation and hand control back to a human operator.
ESMA AI/ML Governance Expectations
Regulatory guidelines from the European Securities and Markets Authority regarding the use of AI and Machine Learning in financial markets.
EU AI Act
The world's first comprehensive horizontal legal framework for AI, establishing a risk-based classification system for systems deployed or used within the European Union.
EU AI Act Risk Classification
The mandatory process of assigning one of four risk levels (Unacceptable, High, Limited, Minimal) to an AI system under the EU AI Act.
Excessive Agency
A vulnerability where an AI system is granted too much autonomy, too many tools, or over-privileged access relative to its intended function.
Executive Order 14110
The Biden administration directive (signed October 2023, rescinded January 2025) that established U.S. national standards for AI safety, security, and privacy and created the U.S. AI Safety Institute at NIST.
EU AI Act High-Risk Categories
The two classifications of high-risk AI systems under the EU AI Act: standalone systems listed in Annex III (covering biometrics, critical infrastructure, employment, education, law enforcement, and other named uses), and AI embedded in regulated products listed in Annex I (covering medical devices, vehicles, machinery, and other regulated product categories).
F
Équité
Assurer que les systèmes d'IA produisent des résultats impartiaux et équitables à travers différents individus et groupes, et atténuer les impacts discriminatoires.
Indicateurs d'Équité
Des mesures quantitatives (par exemple, parité démographique, chances égalisées) utilisées pour évaluer la justice des prédictions d'un modèle d'IA à travers différents groupes.
Faux négatif
Lorsqu'un modèle d'IA prédit incorrectement une classe négative pour un cas qui est en réalité positif (Erreur de Type II).
Faux Positif
Lorsqu'un modèle d'IA prédit incorrectement une classe positive pour un cas qui est en réalité négatif (erreur de Type I).
Tolérance aux pannes
La capacité d'un système d'IA à continuer de fonctionner correctement même lorsque certains composants échouent ou produisent des erreurs.
Ingénierie des fonctionnalités
Créer, sélectionner ou transformer des attributs de jeux de données bruts en fonctionnalités qui améliorent la performance des modèles d'apprentissage automatique.
Extraction de fonctionnalités
Le processus de conversion des données brutes (par exemple, texte, images) en représentations numériques (caractéristiques) adaptées à l'entrée dans des algorithmes d'apprentissage automatique.
Sélection de Fonctionnalités
Identifier et sélectionner les fonctionnalités les plus pertinentes pour l'entraînement du modèle afin de réduire la complexité et améliorer la précision.
Apprentissage Fédéré
Une approche de ML décentralisée où les modèles sont entraînés sur plusieurs appareils ou serveurs contenant des données locales, sans partager les données brutes de manière centralisée.
Boucle de Rétroaction
Un processus dans lequel les résultats de l’IA sont réinjectés en entrée, ce qui peut amplifier le comportement du modèle — pour le meilleur (apprentissage par renforcement) ou pour le pire (renforcement des biais).
Ajustement Fin
Adapter un modèle d'IA pré-entraîné à une tâche spécifique ou à un ensemble de données en poursuivant la formation sur de nouvelles données, ce qui améliore souvent les performances spécifiques à la tâche.
Vérification Formelle
Prouver mathématiquement que les algorithmes d'IA respectent les propriétés de correction spécifiées, souvent utilisées dans des systèmes critiques pour la sécurité.
Cadre
Un ensemble structuré de politiques, de processus et d'outils guidant la gouvernance, le développement, le déploiement et la surveillance des systèmes d'IA.
Détection de fraude
Utiliser des techniques d'IA (par exemple, la détection d'anomalies, la reconnaissance de motifs) pour identifier et prévenir les activités frauduleuses dans le domaine de la finance, de l'assurance, etc.
Sécurité Fonctionnelle
Garantir que les systèmes d'IA fonctionnent en toute sécurité dans toutes les conditions, en particulier dans des secteurs tels que l'automobile ou la santé, souvent par le biais de redondances et de vérifications.
Logique floue
Un système logique qui traite le raisonnement à l’aide de valeurs approximatives, plutôt que de valeurs binaires vrai/faux, utile pour les systèmes de contrôle et la gestion de l’incertitude.
Federated AI Governance
A governance model where central policy and oversight are paired with distributed decision-making by business units or regional offices, balancing consistency with operational flexibility.
FS AI RMF (Financial Services AI Risk Management Framework)
The US Treasury's specialized AI risk management framework for financial services firms, published February 2026, adapting the NIST AI RMF for sector-specific obligations.
Fundamental Rights Impact Assessment (FRIA)
A mandatory evaluation under the EU AI Act for certain deployers to determine how the use of a high-risk AI system might impact civil liberties and human rights.
G
RGPD
Le Règlement général sur la protection des données (RGPD) de l'UE, établissant des exigences strictes pour la collecte et le traitement des données personnelles, ainsi que les droits individuels.
processeur graphique
Accélérateur matériel spécialisé pour les calculs parallèles, largement utilisé pour entraîner et exécuter efficacement des modèles d'IA à grande échelle.
Analyse des écarts
Le processus de comparaison des pratiques actuelles de gouvernance de l'IA avec les normes ou réglementations souhaitées afin d'identifier les domaines nécessitant des améliorations.
Généralisation
La capacité d'un modèle d'intelligence artificielle à bien performer sur des données nouvelles et inédites en capturant des motifs sous-jacents plutôt qu'en mémorisant des exemples d'entraînement.
Intelligence Artificielle Générative
Les techniques d’IA (p. ex., les GAN et les transformateurs) qui créent de nouveaux contenus — textes, images ou autres médias — soulèvent souvent de nouvelles problématiques en matière de gouvernance et de propriété intellectuelle.
Modèle Global
Un modèle d'IA consolidé, formé sur des données agrégées provenant de multiples sources, contrairement aux modèles localisés ou personnalisés.
Gouvernance
L'ensemble des politiques, procédures, rôles et responsabilités qui guident le développement et le déploiement éthique, légal et efficace des systèmes d'IA.
Instance de gouvernance
Un groupe interfonctionnel (par exemple, juridique, éthique, technique) chargé de superviser les politiques de gouvernance de l'IA et leur mise en œuvre au sein d'une organisation.
Cadre de Gouvernance
Un modèle structuré décrivant comment les composants de la gouvernance de l'IA (gestion des risques, responsabilité, supervision) s'imbriquent pour garantir la conformité et l'utilisation éthique.
Modèle de Maturité en Gouvernance
Un cadre organisé qui évalue le degré d'avancement des pratiques de gouvernance de l'IA au sein d'une organisation, allant de l'ad-hoc à l'optimisé.
Politique de Gouvernance
Un document formel qui codifie les règles, rôles et procédures pour le développement et la supervision de l'IA au sein d'une organisation.
Tableau de bord de gouvernance
Un tableau de bord ou un rapport qui suit les indicateurs clés (par exemple, incidents de partialité, audits de conformité) pour évaluer l'efficacité de la gouvernance de l'IA au fil du temps.
Descente de Gradient
Un algorithme d'optimisation qui ajuste itérativement les paramètres du modèle dans une direction qui diminue minimalement la fonction de perte.
Consentement Granulaire
Une approche de la protection des données permettant aux individus d'accorder ou de refuser des permissions spécifiques pour chaque type d'utilisation des données, renforçant ainsi la transparence et le contrôle.
IA Verte
La pratique de réduire l'impact environnemental de l'IA grâce à des algorithmes économes en énergie et à des pratiques informatiques durables.
Modèle Boîte Grise
Un modèle dont la logique interne est partiellement transparente (certains composants sont interprétables, d'autres sont opaques), équilibrant performance et explicabilité.
Vérité de terrain
Les données ou étiquettes précises et réelles utilisées comme référence pour entraîner et évaluer les performances des modèles d'IA.
Garde-fous
Contraintes prédéfinies ou vérifications (techniques et politiques) intégrées dans les systèmes d'intelligence artificielle pour prévenir les comportements dangereux ou non conformes pendant l'exécution.
Directive (IA Éthique)
Une recommandation non contraignante ou un document de bonnes pratiques émis par des organisations (par exemple, IEEE, UE) pour orienter le développement et le déploiement responsable de l'IA.
Goal Drift
A phenomenon where an AI agent's internal sub-goals or reasoning pathways gradually move away from the original human-provided objective.
GPAI Code of Practice
The detailed regulatory instrument outlining specific transparency, safety testing, and risk mitigation obligations for providers of General-Purpose AI (GPAI) models under the EU AI Act.
GPAI Model
A general-purpose artificial intelligence model capable of performing a wide range of distinct tasks and integrating into various applications.
Bonjour
Hallucination
Lorsque l'IA générative produit des informations incorrectes ou fabriquées qui semblent plausibles mais qui n'ont aucun fondement dans les données d'entraînement.
Gestion des données manquantes
Techniques (par exemple, imputation, suppression, modélisation) pour combler les lacunes dans les ensembles de données afin de maintenir l'intégrité et l'équité des modèles.
Accélérateur Matériel
Des puces spécialisées (par exemple, GPU, TPU) conçues pour accélérer les calculs d'IA, avec des implications pour la consommation d'énergie et les risques liés à la chaîne d'approvisionnement.
Évaluation des risques
Évaluer les impacts négatifs potentiels (physiques, psychologiques, sociétaux) des systèmes d'IA et définir des stratégies d'atténuation.
Harmonisation
Aligner les politiques, normes et réglementations sur l'IA à travers les juridictions pour réduire les conflits et favoriser l'interopérabilité.
Hachage
Le processus de conversion des données en une chaîne de caractères de taille fixe, utilisé pour les vérifications d'intégrité des données et le couplage d'enregistrements préservant la confidentialité.
Données Hétérogènes
La combinaison de données de différents types (texte, image, capteur) ou provenant de multiples domaines présente des défis en matière d'intégration et de gouvernance.
Heuristique
Une règle empirique ou une stratégie simplifiée de prise de décision utilisée pour accélérer les processus d'IA, échangeant souvent l'optimalité pour l'efficacité.
Évaluation heuristique
Une méthode d'inspection de l'utilisabilité où des experts évaluent un système d'IA par rapport à des principes d'utilisabilité établis afin d'identifier les problèmes potentiels.
IA à enjeux élevés
Les applications d'IA dont les défaillances pourraient causer des préjudices significatifs (par exemple, les diagnostics médicaux, les véhicules autonomes), nécessitant une gouvernance et une supervision accrues.
Supervision Humaine
Des mécanismes permettant à des individus désignés de surveiller, intervenir ou remplacer les décisions des systèmes d'IA afin d'assurer le respect des normes éthiques et légales.
Évaluation de l'impact sur les droits de l'homme
Un processus d'évaluation de l'impact des systèmes d'IA sur les droits fondamentaux (vie privée, expression, non-discrimination) et d'identification des mesures d'atténuation.
Humain dans le processus
Impliquer le jugement humain dans les processus d'IA (entraînement, validation, révision des décisions) pour améliorer la précision et la responsabilité.
Modèle Hybride
Les systèmes d'IA alliant plusieurs paradigmes d'apprentissage (par exemple, symbolique et neuronal) pour équilibrer l'explicabilité et la performance.
Hyperparamètre
Une variable de configuration (par exemple, taux d'apprentissage, profondeur d'arbre) définie avant l'entraînement du modèle qui influence le comportement d'apprentissage et les performances.
Optimisation des hyperparamètres
Le processus de recherche des valeurs optimales des hyperparamètres (par exemple, via une recherche en grille, l'optimisation bayésienne) pour maximiser la performance du modèle.
Harmonized Structure
A standardized template for all ISO management system standards, formerly known as Annex SL, ensuring consistency in terminology and clause numbering.
High-Risk AI System
AI applications that have a significant potential to harm the health, safety, or fundamental rights of individuals, triggering the most stringent compliance requirements under the EU AI Act.
Je
ISO/IEC JTC 1/SC 42
Le comité conjoint ISO/IEC sur la normalisation de l'intelligence artificielle, développe des normes internationales d'IA pour la gouvernance, la gestion des risques et l'interopérabilité.
Données Déséquilibrées
Un ensemble de données dans lequel une classe ou catégorie dépasse significativement les autres, ce qui peut amener les modèles d'IA à privilégier la classe majoritaire, sauf en cas de mesures d'atténuation.
Registre Immuable
Un mécanisme de tenue de registres à preuve de falsification (p. ex., la blockchain) garantissant qu’une fois les données enregistrées, elles ne peuvent être modifiées sans détection — utile pour les pistes d’audit de l’IA.
Évaluation d'Impact
Une évaluation structurée pour identifier, analyser et atténuer les impacts potentiels éthiques, juridiques et sociétaux d'un système d'IA avant son déploiement.
Biais Implicite
Les biais inconscients ou involontaires intégrés dans les données de formation ou la conception du modèle peuvent conduire à des résultats discriminatoires.
Alignement des incitations
La conception des structures de récompense et des objectifs afin que les buts des systèmes d'IA restent en adéquation avec les valeurs humaines et les priorités organisationnelles.
Biais Inductif
L'ensemble des hypothèses qu'un algorithme d'apprentissage utilise pour généraliser des données observées à des instances non vues.
Inférence
Le processus par lequel un modèle d'IA formé traite de nouvelles entrées de données pour produire des prédictions ou des décisions.
Moteur d'Inférence
Le composant d'un système d'intelligence artificielle (souvent dans des systèmes basés sur des règles ou des systèmes experts) qui applique une base de connaissances aux données d'entrée pour en tirer des conclusions.
Gouvernance de l'information
Les politiques, procédures et contrôles qui garantissent la qualité, la confidentialité et l'utilisabilité des données à travers les actifs de données d'une organisation, y compris les ensembles de données d'entraînement de l'IA.
Confidentialité de l'information
Le droit des individus de contrôler comment leurs données personnelles sont collectées, utilisées, stockées et partagées par les systèmes d'IA.
Infrastructure en tant que Code (IaC)
Gérer et provisionner l'infrastructure d'IA (calcul, stockage, réseau) par le biais de fichiers de configuration lisibles par machine, améliorant ainsi la reproductibilité et l'auditabilité.
Interopérabilité
La capacité des divers systèmes et composants d'IA à échanger, comprendre et utiliser des informations de manière transparente, souvent via des normes ouvertes ou des API.
Interprétabilité
Le degré auquel un être humain peut comprendre les mécanismes internes ou la logique décisionnelle d'un modèle d'IA.
Détection d'Intrusion
Surveillance de l'infrastructure et des applications d'intelligence artificielle afin de détecter toute activité malveillante ou tout manquement aux politiques, avec déclenchement d'alertes ou de réponses automatisées.
Inherited Data Risk
The regulatory and ethical liability an organization assumes when using an AI system trained on data they did not collect or vet themselves.
Intake Workflow
The standardized process and series of checks that a new AI system must pass through before being built or procured.
Intent Validation
The process of verifying that an AI agent's planned sub-actions remain consistent with the original human-provided objective.
ISO/IEC 42001
The international standard specifying requirements for establishing, implementing, maintaining, and continually improving an Artificial Intelligence Management System (AIMS).
ISO/IEC 42005
The international standard providing guidance on performing AI system impact assessments.
Implementing Acts
Secondary EU legislation adopted by the European Commission to set uniform conditions for implementing primary legislation, with binding legal effect across all Member States.
J
Matrice Jacobienne
En termes d'explicabilité de l'IA, la matrice de toutes les dérivées partielles d'ordre un des sorties d'un modèle par rapport à ses entrées, utilisée pour évaluer la sensibilité et l'importance des caractéristiques.
Attaque de Jailbreak
Un type d'injection de commande où les utilisateurs exploitent des vulnérabilités pour contourner les protections dans les modèles d'IA générative, ce qui peut potentiellement conduire à des résultats non sécurisés ou non autorisés.
Responsabilité Conjointe
Principe juridique selon lequel plusieurs parties (par exemple, développeurs, déployeurs) partagent la responsabilité des préjudices liés à l'IA, influençant les structures contractuelles et de gouvernance.
Modélisation Conjointe
Créer des systèmes d'IA qui apprennent conjointement plusieurs tâches (par exemple, reconnaissance vocale et traduction), avec une gouvernance nécessaire pour la complexité et l'auditabilité.
Biais de Jugement
Erreurs systématiques dans les processus de prise de décision humains ou d'IA causées par des raccourcis cognitifs ou des données erronées, nécessitant des audits et une atténuation des biais.
Révision Judiciaire
Le processus légal par lequel les tribunaux évaluent la légalité des décisions prises ou assistées par l'IA, garantissant la responsabilité et le respect des procédures.
Juridiction
L'autorité légale sur les données, les opérations liées à l'intelligence artificielle et la responsabilité, qui varie selon la géographie et impacte la conformité aux réglementations régionales (par exemple, RGPD, CCPA).
Automatisation du Jury
L'utilisation de l'IA pour aider à la sélection du jury ou à l'analyse des dossiers soulève des préoccupations éthiques concernant l'équité, la transparence et la supervision juridique.
Métriques de la Justice
Mesures quantitatives (par exemple, impact disparate, égalité des chances) utilisées pour évaluer l'équité et la non-discrimination dans la prise de décision par l'IA.
Japan Act on Promotion of AI
A Japanese law (enacted 2025) establishing basic principles for AI promotion and risk mitigation.
K
Indicateur Clé de Performance
Une métrique quantifiable (par exemple, la dérive de précision du modèle, le temps de correction des biais) utilisée pour surveiller et rendre compte des objectifs de gouvernance et de conformité de l'IA.
Indicateur Clé de Risque
Un indicateur clé (par exemple, la fréquence des prédictions hors cadre, le taux de décisions inexplicables) qui signale les risques émergents liés à l'IA avant qu'ils ne se concrétisent.
Connaître Votre Client (KYC)
Les processus de conformité pour vérifier l'identité, le profil de risque et la légitimité des individus ou des entités interagissant avec les systèmes d'IA, en particulier dans les industries réglementées.
Distillation des connaissances
Une méthode de transfert des connaissances d'un modèle « enseignant » plus grand vers un modèle « étudiant » plus petit, équilibrant la performance avec les contraintes de ressources et de gouvernance.
Graph de Connaissances
Une représentation structurée des entités et de leurs relations utilisée pour améliorer l'explicabilité de l'IA, l'auditabilité et l'alignement avec les ontologies de domaine.
Gestion des connaissances
Pratiques et outils pour capturer, organiser et partager les connaissances organisationnelles (par exemple, la documentation des modèles, les journaux d'audit) afin d'assurer la reproductibilité et la supervision.
L'entreprise
Fuite d'Étiquettes
L'inclusion involontaire d'informations de sortie dans les étiquettes des données d'entraînement, pouvant gonfler les indicateurs de performance et masquer les véritables problèmes de généralisation du modèle.
Modèle de Langage de Grande Envergure
Un modèle d'apprentissage profond entraîné sur de vastes corpus de texte, capable de réaliser des tâches telles que la génération de texte, la traduction et la synthèse, nécessitant souvent une gouvernance pour éviter les biais et les abus.
Moindre Privilège
Un principe de sécurité selon lequel les composants d'IA et les utilisateurs ne reçoivent que les droits d'accès minimaux nécessaires pour exécuter leurs fonctions, réduisant ainsi le risque d'utilisation abusive.
Conformité Légale
La pratique de garantir que les systèmes d'IA respectent les lois, règlements et normes industrielles applicables tout au long de leur cycle de vie.
Cadre de Responsabilité
Une approche structurée définissant qui est responsable des préjudices ou des échecs liés à l'IA, y compris les développeurs, les déployeurs et les opérateurs.
Gestion du Cycle de Vie
Les processus coordonnés pour le développement, le déploiement, la surveillance, la maintenance et le retrait des systèmes d'IA afin de garantir la conformité continue et le contrôle des risques.
Détection de vitalité
Techniques utilisées pour vérifier qu'une entrée (par exemple, biométrique) provient d'un sujet vivant plutôt que d'une fraude ou d'une répétition, renforçant ainsi la sécurité et l'intégrité du système.
Localisation
Adaptation des systèmes d'IA aux langues locales, aux réglementations, aux normes culturelles et aux exigences de résidence des données dans différentes juridictions.
Gestion des journaux
La collecte, le stockage et l'analyse des journaux de système et d'application issus des workflows d'IA pour soutenir l'audit, la gestion des incidents et le suivi des performances des modèles.
Fonction de Perte
Une fonction mathématique qui quantifie la différence entre les résultats prévus et les valeurs réelles, guidant ainsi la formation et l'optimisation du modèle.
Least Agency
A security and governance principle stating that AI agents should only be granted the minimum level of autonomy and tool-access necessary to complete a specific task.
M
Contrôle Humain Significatif
Une norme réglementaire et opérationnelle garantissant que les humains conservent la capacité de superviser, d'intervenir et de contrecarrer les processus décisionnels de l'IA.
Gestion des métadonnées
La pratique de capture et de maintien de données descriptives (par exemple, provenance des données, définitions des fonctionnalités, paramètres de modèle) pour soutenir la traçabilité et les audits.
Mesures et indicateurs clés de performance
Des mesures quantitatives (par exemple, dérive de précision, scores d'équité, temps de réponse aux incidents) utilisées pour surveiller la santé, les risques et les objectifs de conformité des systèmes d'IA.
Stratégies d'atténuation
Actions prévues (par exemple, la correction des biais, la reformation, la réingénierie des fonctionnalités) pour traiter les risques d'IA identifiés et les lacunes en matière de conformité.
Explicabilité du Modèle
Techniques et documentation qui rendent la logique décisionnelle d'un modèle d'IA compréhensible pour les parties prenantes et les auditeurs.
Gouvernance du Modèle
Les politiques, rôles et contrôles qui garantissent que les modèles d'IA sont développés, approuvés et utilisés conformément aux normes organisationnelles et aux exigences réglementaires.
Surveillance du Modèle
Suivi continu des performances d'un modèle d'IA, des dérives de données et des indicateurs opérationnels pour détecter toute dégradation ou nouveaux risques potentiels.
Réentraînement du Modèle
Le processus de mise à jour d’un modèle d'IA avec des données nouvelles ou actualisées pour maintenir la performance et la conformité à mesure que les distributions de données évoluent.
Gestion des risques du modèle
Le processus structuré d'identification, d'évaluation et de réduction des risques découlant des modèles IA/ML tout au long de leur cycle de vie.
Validation du modèle
Les activités d'évaluation (par exemple, tests sur des données de validation, scénarios de stress) qui confirment qu'un modèle d'IA répond à son objectif et à ses critères de performance.
Engagement Multi-Intervenants
Impliquer divers groupes (par exemple, juridique, éthique, opérations, utilisateurs finaux) dans les processus de gouvernance de l'intelligence artificielle pour garantir une supervision équilibrée des risques et une alignement avec les objectifs commerciaux.
Market Surveillance Authority
The national regulatory body in each EU member state responsible for monitoring AI systems to ensure they comply with the EU AI Act.
MAS FEAT Principles
The Monetary Authority of Singapore's principles for Fairness, Ethics, Accountability, and Transparency (FEAT) in the use of AI in finance.
Mexico Federal Law on AI and Algorithms
A draft Mexican federal law on AI and algorithms proposing a risk-based classification system, the National AI Commission (CONAIA), and watermarking requirements for AI-generated content.
Minnesota CDPA (AI Provisions)
The AI-specific components of the Minnesota Consumer Data Privacy Act.
Model Card
A short, standardized document providing essential information about a machine learning model's performance, limitations, and intended use cases.
Model Disgorgement
A regulatory remedy requiring a company to delete AI models or algorithms that were developed using improperly or unlawfully acquired data.
Model Drift
The degradation of an AI model's predictive performance over time due to changes in real-world data or the environment.
Non
Cadre de Gestion des Risques de l'IA de NIST
Une orientation volontaire de l'Institut National des Standards et de la Technologie des États-Unis décrivant les meilleures pratiques pour atténuer les risques tout au long des cycles de vie des systèmes d'intelligence artificielle.
Traitement Automatique du Langage Naturel (TALN)
Techniques et outils qui permettent aux machines d'interpréter, de générer et d'analyser le langage humain sous forme de texte ou de parole.
Sécurité du Réseau
Mesures et contrôles (par exemple, segmentation, pare-feu, détection d'intrusion) pour protéger l'infrastructure de l'IA et les pipelines de données contre l'accès non autorisé ou la falsification.
Recherche d'Architecture Neurale
Méthodes automatisées pour concevoir et optimiser les structures de réseaux neuronaux afin d'améliorer la performance des modèles tout en équilibrant la complexité et les contraintes de ressources.
Injection de bruit
Introduction délibérée de perturbations aléatoires dans les données d'entraînement ou les paramètres du modèle afin d'améliorer la robustesse et de se protéger contre la manipulation malveillante.
Détection de Nouveautés
Techniques pour identifier les entrées ou scénarios qui diffèrent significativement des données d'entraînement, déclenchant une révision ou un mode de fonctionnement sécurisé afin de prévenir des défaillances inattendues.
NIST AI RMF Profiles
Context-specific implementations of the NIST AI Risk Management Framework tailored to particular industries, technologies, or risk types.
Non-Human Identity (NHI)
A digital credential used by an AI agent, bot, or service to authenticate and interact with enterprise systems.
Notified Body
An independent third-party organization designated by an EU member state to assess the conformity of certain high-risk AI systems under the EU AI Act.
NYC Local Law 144
A New York City law requiring annual bias audits for AI tools used in employment decisions.
O
Observabilité
La capacité de déduire l'état interne et le comportement d'un système d'IA par la collecte et l'analyse des journaux, des métriques et des résultats pour un suivi et un dépannage efficaces.
Surveillance Continue
Suivi continu des performances des systèmes d'IA, de la dérive des données, des métriques de biais et des événements de sécurité afin de détecter et traiter les risques émergents au fil du temps.
Opacité
L'absence de transparence dans la manière dont un modèle d'IA parvient à des décisions ou à des prédictions pose des défis en termes de confiance et de conformité réglementaire.
Résilience Opérationnelle
La capacité des systèmes d'intelligence artificielle et de leur infrastructure de soutien à anticiper, résister, se rétablir et s'adapter aux perturbations ou aux événements défavorables.
Orchestration
La coordination automatisée des flux de travail et des services d’IA — ingestion des données, entraînement des modèles, déploiement — garantissant la conformité aux politiques et à la gouvernance des ressources.
Détection des valeurs aberrantes
Techniques pour identifier les points de données ou les prédictions modélisées qui s'écartent significativement des schémas attendus, déclenchant ainsi des actions de révision ou de mitigation.
Surapprentissage
Un problème de modélisation où un système d'IA apprend le bruit ou les particularités des données d'entraînement, réduisant ainsi sa capacité à généraliser à de nouvelles données non vues.
Supervision
Le processus structuré d'examen, d'approbation et de responsabilité pour le développement et le déploiement de l'IA, impliquant généralement des instances de gouvernance interfonctionnelles.
Propriété
L’attribution claire des responsabilités et des pouvoirs en matière d’actifs d’IA — données, modèles, processus — afin de garantir la redevabilité tout au long du cycle de vie du système.
OMB Memorandum M-25-21
A federal directive specifying AI governance and risk management requirements for US government agencies.
Operational Autonomy
The ability of an AI system to perform multi-step tasks and make decisions without human intervention at each stage.
Output Risk
The operational, legal, and reputational danger arising from the use of incorrect, biased, or harmful content generated by an AI system.
OWASP Agentic Top 10
A formal taxonomy of the ten most critical security risks specific to autonomous AI agents and their application environments.
P
Autorisation
La gestion des droits d'accès des utilisateurs et des systèmes aux données et fonctions de l'IA, garantissant le principe du moindre privilège et empêchant toute utilisation non autorisée.
Essai Pilote
Un essai à portée limitée d'un système d'IA dans un environnement contrôlé pour évaluer les performances, les risques et les contrôles de gouvernance avant le déploiement à grande échelle.
Mise en Application des Politiques
Les mécanismes automatisés ou manuels qui garantissent que les opérations d'IA respectent les politiques organisationnelles, les réglementations et les lignes directrices éthiques.
Surveillance post-déploiement
Observation continue du comportement du système d'IA et de l'environnement après le déploiement afin de détecter toute dégradation, dérive ou violation de conformité.
Maintenance Prédictive
Surveillance et analyse pilotées par l'IA pour prévoir les défaillances des composants ou des systèmes, assurant ainsi la résilience opérationnelle et la réduction des risques dans des environnements critiques.
Évaluation de l'impact sur la vie privée
Une analyse structurée pour identifier et atténuer les risques de confidentialité associés aux systèmes d'IA, couvrant la collecte, l'utilisation, le partage et la conservation des données.
Confidentialité dès la Conception
Une approche qui intègre la protection des données et les considérations de la vie privée des utilisateurs dans l'architecture et les processus des systèmes d'intelligence artificielle dès le départ.
Automatisation des Processus
Utilisation de l'IA et des outils de gestion des flux de travail pour rationaliser la gouvernance, les contrôles de conformité et les activités de réduction des risques, réduisant ainsi les efforts manuels et les erreurs.
Presumption of Conformity
A legal mechanism under EU AI Act and other regimes whereby compliance with a harmonized standard (e.g., a published EN standard) provides a rebuttable assumption that the underlying regulation is satisfied.
Parametric Knowledge
The information learned by an AI model during its training process and stored within its weights and parameters.
Paved Road Governance
A strategy that encourages compliance by making sanctioned, secure workflows easier to follow than unsanctioned alternatives.
PRA SS1/23 (Model Risk Management)
The UK Prudential Regulation Authority's statement on model risk management for banks and insurers.
Probabilistic System
A system where outputs are based on statistical likelihood rather than deterministic, fixed logic.
Q
Évaluation Qualitative
L'évaluation subjective des comportements, des décisions et de la documentation des systèmes d'IA par des experts, visant à identifier les préoccupations éthiques, juridiques ou réputationnelles qui ne sont pas quantifiées.
Assurance Qualité
Les processus systématiques et les vérifications visant à garantir que les modèles d'IA et les flux de données répondent aux normes définies en termes de précision, de fiabilité et de conformité éthique.
Contrôle de Qualité
La vérification continue des résultats et des processus d'IA par rapport aux référentiels et aux cas de test, afin de détecter les défauts, les incidents de biais ou les violations de politique.
Évaluation Quantitative des Risques
Une évaluation fondée sur les données des menaces potentielles de l'IA, estimant les probabilités et les impacts de manière numérique afin de prioriser les efforts d'atténuation.
Calcul Quantique
Le paradigme computationnel émergent qui exploite la mécanique quantique pose de nouveaux défis de gouvernance en matière de sécurité, de standardisation et de gestion des risques.
Enregistrement des Requêtes
La pratique d'enregistrer les entrées du système d'IA et les requêtes des utilisateurs pour permettre des pistes d'audit, détecter les abus et soutenir la responsabilité.
Confidentialité des Requêtes
Techniques et politiques visant à protéger les informations sensibles dans les requêtes des utilisateurs, garantissant que les entrées enregistrées ne compromettent pas les données personnelles ou propriétaires.
Cadre de Questionnaire
Un ensemble structuré de questions axées sur la gouvernance utilisé lors de la conception, de l'acquisition ou du déploiement pour garantir que les systèmes d'IA sont conformes aux exigences réglementaires.
Quorum pour le Conseil de Gouvernance
Le nombre minimum de membres du comité de gouvernance requis pour être présents afin de prendre des décisions officielles concernant les risques liés à l'IA, les approbations de politiques ou les résultats d'audit.
Gestion des quotas
Les contrôles et limites imposés à l'utilisation des ressources d'IA (par exemple, appels API, temps de calcul) afin de appliquer les politiques de gouvernance et prévenir les coûts excessifs ou les abus.
R
Recours
Mécanismes permettant aux individus concernés de contester ou de demander un recours pour des décisions prises par l'IA qui affectent leurs droits ou leurs intérêts.
Équipe Rouge
Une approche proactive de test où des experts internes ou externes simulent des attaques ou des scénarios d'utilisation abusive afin de découvrir les vulnérabilités des systèmes d'intelligence artificielle.
Conformité Réglementaire
Garantir que les systèmes d'IA respectent les lois, réglementations et normes industrielles applicables (par exemple, RGPD, FDA, surveillance financière) tout au long de leur fonctionnement.
Reproductibilité
La capacité de régénérer systématiquement les résultats des modèles d'IA en utilisant les mêmes données, code et configurations, garantissant ainsi la transparence et l'auditabilité.
Matrice d'Attribution des Responsabilités
Un outil (p. ex., la matrice RACI) qui clarifie les rôles et les responsabilités pour chaque activité de gouvernance — en précisant qui est Responsable, Redevable, Consulté et Informé.
Intelligence Artificielle Responsable
La pratique de concevoir, développer et déployer des systèmes d'IA de manière éthique, transparente et responsable envers les parties prenantes et la société.
Évaluation des Risques
Le processus d'identification, d'analyse et de hiérarchisation des dommages ou défaillances potentiels dans les systèmes d'IA afin de déterminer les stratégies d'atténuation appropriées.
Cadre de Gestion des Risques
Un ensemble structuré de directives et de processus pour aborder systématiquement les risques liés à l'IA tout au long du cycle de vie du système, de la conception à la mise au rebut.
Robustesse
La capacité d'un système d'intelligence artificielle à maintenir une performance fiable dans une variété de conditions difficiles ou adverses.
Analyse des Causes Racines
Une enquête structurée visant à déterminer les raisons sous-jacentes des défaillances ou des comportements inattendus des systèmes d'IA, guidant les actions correctives.
Reasoning Chain
The multi-step logical process an AI agent follows to move from an initial objective to a final action or output.
S
Politique d'Utilisation Sanctionnée
Des règles et contrôles définis spécifiant les contextes, les utilisateurs et les objectifs approuvés pour le fonctionnement des systèmes d'intelligence artificielle afin de prévenir tout usage abusif.
Sécurité par Conception
Intégrer des contrôles de sécurité et des pratiques exemplaires dans les systèmes d'IA dès les premières phases de conception pour prévenir les vulnérabilités et les violations de données.
Intelligence Artificielle de l'Ombre
L'utilisation non autorisée de modèles d'IA, d'agents ou d'outils par les employés sans l'approbation du service informatique crée des vulnérabilités de sécurité cachées dues à des fuites de données et à des actions autonomes non autorisées.
Évaluation de l'Impact Sociétal
Une évaluation structurée de l'impact d'un système d'IA sur les aspects sociaux, économiques et culturels des communautés, identifiant les dommages potentiels et les avantages.
Cycle de vie du développement logiciel
Le processus de bout en bout (exigences, conception, construction, test, déploiement, surveillance) pour les applications d'IA, intégrant des vérifications de gouvernance et de conformité à chaque étape.
Engagement des parties prenantes
Le processus d'implication des parties affectées (par exemple, utilisateurs, régulateurs, communautés concernées) dans le développement et la supervision de l'IA afin de garantir des perspectives variées et leur approbation.
Risque de Surveillance
La menace que les systèmes d'IA puissent être exploités pour une surveillance intrusive des individus ou des groupes, portant atteinte à la vie privée et aux libertés civiles.
Données Synthétiques
Jeux de données générés artificiellement qui imitent les distributions de données réelles, utilisés pour augmenter les ensembles d'entraînement tout en protégeant la confidentialité.
Shadow Agents
Unsanctioned autonomous AI agents deployed within an organization without governance team awareness, capable of taking actions that affect business systems and external parties.
Singapore Model AI Governance Framework
A voluntary guidance framework from Singapore's IMDA and PDPC for responsible AI deployment.
South Korea AI Basic Act
South Korea's comprehensive legal framework for AI development and trust.
SR 11-7 (Model Risk Management)
The foundational US Federal Reserve guidance for managing risks associated with the use of models in banking.
Statement of Applicability (SoA)
A document that identifies which ISO 42001 Annex A controls are relevant to an organization's AI Management System and explains why others were excluded.
Substantial Modification
A change to an AI system after it has been placed on the market that affects its compliance or intended purpose under the EU AI Act.
System of Record
The authoritative data source for a given data element or piece of information within an organization.
Systemic Risk Threshold
The technical or capability-based limit (e.g., 10^25 FLOPs) that classifies a General-Purpose AI model as posing a high level of risk to society.
T
Risque de queue
Le potentiel de résultats rares et extrêmes dans le comportement ou la prise de décision de l'IA qui dépassent les attentes normales et nécessitent une planification spéciale d'atténuation.
Test et Validation
Le processus systématique d'évaluation des modèles d'IA par rapport à des références, des cas limites et des conditions de stress pour garantir qu'ils répondent aux critères de performance, de sécurité et de conformité.
Risque lié aux tiers
L'exposition résultant de la dépendance envers des fournisseurs de données externes, des vendeurs de modèles ou des plateformes de services qui pourraient introduire des vulnérabilités de conformité ou de sécurité.
Paramétrage du Seuil
Définir des limites ou des valeurs seuil dans les règles de décision de l'IA (par exemple, les scores de confiance) afin de trouver un équilibre entre les risques tels que les faux positifs et les faux négatifs.
Traçabilité
La capacité à suivre et à documenter chaque étape du cycle de vie de l’IA — de la collecte des données au développement des modèles jusqu’au déploiement — afin de faciliter les audits et les analyses forensiques.
Ensemble de données de formation
La collection soigneusement sélectionnée de données annotées ou non annotées utilisée pour enseigner à un modèle d'intelligence artificielle les relations et les modèles qu'il doit apprendre pour accomplir sa tâche.
Apprentissage par Transfert
Une technique où un modèle développé pour une tâche est adapté à une tâche connexe, réduisant ainsi le temps de développement, mais nécessitant la gouvernance des biais hérités.
Transparence
La pratique consistant à rendre les processus des systèmes d'IA, la logique de décision, et l'utilisation des données clairs et compréhensibles pour les parties prenantes afin d'assurer la responsabilité.
IA fiable
Des systèmes d'IA conçus et exploités de manière éthique, fiable, sûre et en adéquation avec les valeurs humaines et les normes sociétales.
Trilogue
The informal three-way negotiation between the European Commission, the Council of the European Union, and the European Parliament used to reach political agreement on EU legislation before formal adoption.
Vous
Sous-ajustement
Un problème de modélisation où un système d'IA est trop simpliste pour saisir les motifs sous-jacents des données, entraînant des performances médiocres tant sur les données d'entraînement que sur les nouvelles données.
Uniformité
Assurer une application cohérente des politiques, contrôles et normes à travers tous les systèmes d'IA pour éviter les lacunes de gouvernance ou une gestion des risques inégale.
Apprentissage Non Supervisé
Une approche d'apprentissage automatique où les modèles identifient des motifs ou des regroupements dans des données non étiquetées sans orientation explicite sur les résultats.
Surveillance de la disponibilité
Suivi continu de la disponibilité et des performances des systèmes d'IA pour détecter les pannes ou les dégradations pouvant affecter les opérations critiques ou les obligations de conformité.
Gouvernance des Cas d'Utilisation
La pratique de définir, approuver et surveiller des cas d'utilisation spécifiques de l'IA pour s'assurer que chacun est conforme aux politiques organisationnelles, aux normes éthiques et à l'appétit pour le risque.
Consentement de l'utilisateur
Le processus d'obtention et d'enregistrement d'une autorisation explicite de la part des individus avant de collecter, traiter ou utiliser leurs données personnelles dans des systèmes d'IA.
Utilité
Une mesure de la valeur ou de l'efficacité d'un système d'IA à atteindre ses objectifs visés, équilibrée par rapport aux risques ou aux coûts en ressources associés.
UK AI Opportunities Action Plan
The UK government's strategic roadmap for maximizing AI benefits while establishing targeted, binding safety rules.
V
Validation
Le processus de confirmation qu'un modèle d'intelligence artificielle fonctionne de manière précise et fiable sur les tâches prévues et répond aux critères de performance définis.
Surveillance des Variances
Suivi des fluctuations des sorties des modèles d'IA ou des indicateurs de performance au fil du temps pour détecter les dérives et en déduire une éventuelle dégradation ou un risque.
Gestion des Risques Fournisseurs
Évaluer et surveiller les fournisseurs tiers de composants ou services d'IA pour identifier et atténuer les risques potentiels de conformité, de sécurité ou d'éthique.
Contrôle de Version
La pratique de la gestion et du suivi des modifications du code de l'IA, des modèles et des ensembles de données au fil du temps pour garantir la reproductibilité et l'auditabilité.
Autorité de Veto
Le droit formel détenu par un organe de gouvernance ou un intervenant pour bloquer ou exiger des modifications des déploiements d'IA présentant des risques inacceptables.
Surveillance de la Vigilance
Surveillance continue du comportement de l'IA et des signaux externes (par exemple, les mises à jour réglementaires) afin d'identifier et de répondre rapidement aux risques émergents ou aux non-conformités.
Surveillance IA Vision
Les processus de gouvernance spécifiques aux systèmes de vision par ordinateur, garantissant la qualité des données, les vérifications des biais et la transparence dans la prise de décision basée sur des images et des vidéos.
Évaluation des vulnérabilités
Identifier, analyser et prioriser les faiblesses de sécurité dans l'infrastructure et les applications d'IA afin de guider les efforts de remédiation.
Version Pinning
The practice of locking an AI system to a specific, tested version of a foundation model to prevent silent updates from changing system behavior.
W
Surveillance Surveillance
Contrôles d'exécution indépendants qui observent les décisions de l'IA et déclenchent des alertes ou des interventions lorsque des politiques ou des seuils sont enfreints.
Audit de Poids
Examiner les poids et les structures des modèles pour détecter des anomalies, des portes dérobées ou des biais pouvant indiquer une altération ou des comportements non souhaités.
Testage en boîte blanche
Évaluer les systèmes d'IA avec une pleine connaissance du fonctionnement interne (code, paramètres, architecture) pour vérifier l'exactitude, la sécurité et la conformité.
Politique de liste blanche/liste noire
Règle de gouvernance définissant les entrées, caractéristiques ou opérations autorisées (liste blanche) et interdites (liste noire) afin d'assurer la conformité et de prévenir tout abus.
Mise en liste blanche
Autoriser uniquement des sources de données, des bibliothèques ou des composants de modèle pré-approuvés dans les processus d'IA afin de réduire les risques liés à des éléments non vérifiés ou malveillants.
Orchestration des flux de travail
Automatisation et séquençage des tâches du cycle de vie de l'IA (ingestion de données, formation, validation, déploiement) pour appliquer les politiques de gouvernance et garantir la cohérence.
Segmentation des charges de travail
Séparer les environnements de calcul IA (par exemple, développement, test, production) et les domaines de données afin de limiter l'impact des pannes ou des violations de sécurité.
Analyse du pire des cas
Évaluer les échecs ou abus potentiels les plus extrêmes d'un système d'IA afin d'informer une atténuation des risques et une planification de contingence robustes.
Stockage WORM (Write-Once Read-Many)
Stockage immuable garantissant que les journaux, pistes d'audit et artefacts de modèles ne peuvent pas être modifiés une fois écrits, soutenant ainsi la non-répudiation et l'examen médico-légal.
Watermarking
The practice of embedding detectable, machine-readable provenance markers in AI-generated output, such as images, audio, video, and synthetic text, so downstream consumers and platforms can identify content as AI-generated.
X
X-Validation
Une technique de validation de modèle (souvent abrégée « X-Val ») qui partitionne les données en segments afin d'évaluer rigoureusement la généralisation du modèle et de détecter les surapprentissages.
XAI (IA Explicable)
Techniques et méthodes qui rendent le processus de décision d'un modèle d'IA transparent et compréhensible pour les humains, favorisant ainsi la responsabilité et la conformité.
Audit XAI
Un processus de révision qui évalue si les résultats de l'explicabilité de l'IA satisfont aux politiques internes et aux exigences réglementaires, garantissant une transparence suffisante.
Cadre XAI
Une approche structurée ou un ensemble de directives qu'organisations utilisent pour mettre en œuvre, mesurer et régir les pratiques d'explicabilité au sein de leurs systèmes d'IA.
Métriques XAI
Mesures quantitatives ou qualitatives (par exemple, scores d'importance des fonctionnalités, fidélité des explications) utilisées pour évaluer la qualité et la fiabilité des explications d'IA.
Oui
Règles YARA
Un ensemble de modèles de détection basés sur des signatures utilisés pour analyser les pipelines et les artefacts d'IA afin de détecter des codes malveillants connus ou des altérations.
Revue Annuelle de Conformité
Une évaluation annuelle des processus, des politiques et des systèmes de gouvernance de l'IA pour garantir une conformité continue aux réglementations et aux normes internes.
Z
Tolérance Zéro Défaut
Un principe de gouvernance visant l'absence d'erreurs ou de violations de politique dans les résultats de l'IA, soutenu par des cycles rigoureux de test, de surveillance et d'amélioration continue.
Vulnérabilité Zéro Jour
Une faille de sécurité précédemment inconnue dans le logiciel ou l'infrastructure d'IA qui peut être exploitée avant qu'un correctif ou une atténuation ne soit disponible.
Apprentissage sans supervision
Une capacité modèle pour gérer correctement les tâches ou classer les données sur lesquelles il n'a jamais été explicitement formé en utilisant des représentations de connaissances généralisées.
Contrôle d'accès par zone
Une approche de gouvernance réseau ou de données qui divise les ressources en zones avec des politiques distinctes, restreignant l'accès des systèmes d'IA en fonction de la sensibilité des données.
Livre blanc
Tous
Réglementations sur l'IA
Balados
Mises à jour du produit
Couverture Médiatique
Glossaire
A
Responsabilité de l'IA
L'obligation des développeurs et opérateurs de systèmes d'IA d'assurer que leurs systèmes sont conçus et utilisés de manière responsable, en respectant les normes éthiques et les exigences légales.
Alignement de l'IA
Le processus consistant à garantir que les objectifs et les comportements des systèmes d'IA sont alignés avec les valeurs et les intentions humaines.
Audit IA
L'évaluation systématique des systèmes d'IA pour vérifier la conformité aux normes éthiques, aux règlements et aux indicateurs de performance.
Biais de l'IA
Erreurs systématiques dans les sorties d'IA résultant de données d'entraînement biaisées ou d'algorithmes défectueux, conduisant à des résultats inéquitables.
Conformité IA
L'adhésion des systèmes d'IA aux lois, réglementations et directives éthiques applicables tout au long de leur cycle de vie.
Éthique de l'IA
Le domaine concerné par les implications morales et les responsabilités liées au développement et au déploiement des technologies d'IA.
Explicabilité de l'IA
Le degré auquel la mécanique interne d'un système d'IA peut être comprise et interprétée par les humains.
Gouvernance de l'IA
Le cadre des politiques, processus et contrôles qui guident le développement et l'utilisation éthiques et efficaces des systèmes d'IA.
Inventaire IA
Un catalogue complet et centralisé de tous les systèmes d'IA, modèles et agents utilisés dans toute l'organisation, permettant de suivre leur objectif commercial, leur niveau de risque et leur propriétaire.
Culture de l'IA
La compréhension des concepts, des capacités et des limitations de l'IA, permettant une interaction éclairée avec les technologies de l'IA.
Surveillance de l'IA
L'observation et l'analyse continues des performances des systèmes d'IA afin de garantir la fiabilité, la sécurité et la conformité.
Risque lié à l'IA
Le potentiel des systèmes d'intelligence artificielle à causer des préjudices ou des conséquences imprévues, y compris les risques éthiques, juridiques et opérationnels.
Gestion des Risques liés à l'IA
Le processus d'identification, d'évaluation et d'atténuation des risques associés aux systèmes d'IA.
TRiSM IA
Un acronyme inventé par Gartner signifiant Gestion de la Confiance, des Risques et de la Sécurité de l'IA ; un cadre qui unifie la gouvernance, la fiabilité et la sécurité en une seule stratégie opérationnelle.
Transparence de l'IA
Le principe selon lequel les systèmes d'IA doivent être ouverts et clairs quant à leurs opérations, décisions et utilisation des données.
Précision
Le degré auquel les résultats d'un système d'IA reflètent correctement les données du monde réel ou les résultats escomptés.
Attaque Adversariale
Techniques qui manipulent les modèles d'IA en introduisant des entrées trompeuses pour provoquer des résultats incorrects.
Agentic IA
Une catégorie de systèmes d'intelligence artificielle conçus pour atteindre de manière autonome des objectifs complexes et exécuter des actions à multiples étapes (telles que le déploiement de logiciels ou les transactions financières) avec une intervention humaine minimale.
Gouvernance d'IA Agentic
La gouvernance des systèmes d'IA autonomes capables d'exécuter des actions indépendantes (par exemple, des transactions, le déploiement de code) se distingue de l'IA prédictive (qui fournit des insights) et de l'IA générative (qui crée du contenu).
Algorithme
Un ensemble de règles ou d'instructions donné à un système d'IA pour l'aider à apprendre de manière autonome.
Biais Algorithmique
Un biais qui survient lorsqu'un algorithme produit des résultats systématiquement biaisés en raison d'hypothèses erronées dans le processus d'apprentissage automatique.
Gouvernance Algorithmique
L'utilisation d'algorithmes pour gérer et réguler les fonctions sociétales, pouvant potentiellement influencer les processus de prise de décision.
Intelligence Artificielle Générale
Un type d'intelligence artificielle qui possède la capacité de comprendre, d'apprendre et d'appliquer des connaissances de manière générale, similaire à l'intelligence humaine.
Intelligence Artificielle
La simulation des processus d'intelligence humaine par des machines, en particulier les systèmes informatiques, y compris l'apprentissage, le raisonnement et l'auto-correction.
Agent Fabric
An integrated runtime substrate that hosts, orchestrates, and governs multiple AI agents alongside the models, tools, and data they depend on.
Agent Mesh
A networked topology in which AI agents discover, communicate with, and delegate work to one another through a shared infrastructure layer.
AI Assistant
A conversational AI system designed to help users complete tasks through natural language interaction, typically powered by a large language model.
AI Bill of Materials (AIBOM)
A structured inventory listing the components that make up an AI system, including foundation models, training datasets, libraries, and dependencies - the AI equivalent of a Software Bill of Materials (SBOM).
AI Footprint
The total set of AI systems, models, agents, and embedded AI features in use across an organization at any given time, including sanctioned and shadow systems.
AI Sprawl
The uncontrolled expansion of AI systems across an organization, typically driven by easy access to AI tools and a lack of effective intake and inventory processes.
Article 25 (EU AI Act)
The EU AI Act provision creating a direct obligation chain between providers and deployers of high-risk AI systems, including responsibility transfer when systems are substantially modified.
Article 50 (EU AI Act)
The EU AI Act provision setting transparency obligations for AI systems that interact with people, generate synthetic content, or produce deepfakes.
Acceptable Use Policy (AUP)
A set of rules applied by an organization that outlines the permitted and prohibited ways employees may interact with company-provided AI tools.
Accredited Certification
A certificate issued by a certification body that has been formally recognized by a national accreditation body (like ANAB or UKAS) as competent to audit against a specific standard.
Action Preview
A governance requirement where an AI agent must display exactly what an irreversible operation will do before a human provides final approval.
Action Whitelisting
A security and governance control that specifies the only permitted tools, APIs, and actions an AI agent is allowed to execute.
Agent Goal Hijack (ASI01)
A vulnerability where an attacker manipulates an agent's objectives or decision pathways to redirect its autonomous behavior toward unintended outcomes.
Agentic Policy Engine
A runtime software component that intercepts agent actions and evaluates them against a set of deterministic governance rules before execution.
AI Governance for Financial Services
The specialized application of AI risk management frameworks to meet the rigorous prudential and conduct requirements of the banking and insurance sectors.
AI Governance Software
Specialized enterprise tools used to automate the inventory, risk assessment, and regulatory compliance of artificial intelligence systems.
EU AI Liability Directive
A proposed EU directive aimed at simplifying the process for claimants to seek damages caused by AI systems by introducing a rebuttable presumption of causality.
Artificial Intelligence Management System (AIMS)
A set of interrelated or interacting elements of an organization to establish policies, objectives, and processes for the responsible development or use of AI.
AI System Impact Assessment
A formal process to evaluate the potential consequences of an AI system's deployment on individuals, groups, and society at large.
Artificial Intelligence and Data Act (AIDA)
Canada's federal regulatory framework (part of Bill C-27) aimed at ensuring high-impact AI systems are developed and used safely and without bias.
Amnesty Program
A time-limited governance initiative where employees are invited to disclose unsanctioned AI tool usage without fear of disciplinary action.
Annex I Products
A list of products already regulated by EU health and safety law (e.g., machinery, medical devices) where AI integrated under the EU AI Act is automatically classified as high-risk.
Annex III Categories
A specific list of high-risk AI application areas defined by the EU AI Act that trigger mandatory compliance obligations.
API Traffic Analysis
The technical process of monitoring and inspecting network calls made to external AI service providers.
Article 6(3) Exception
A self-determination mechanism under the EU AI Act allowing providers to classify an Annex III AI system as not high-risk if it poses no significant harm.
Australia Safe & Responsible AI Policy
The Australian federal policy governing the use of AI within the public service and government agencies.
Automated AI Governance
The use of software and API integrations to perform continuous, real-time compliance checks and risk monitoring without manual intervention.
B
Rétropropagation
Un algorithme d'apprentissage utilisé dans les réseaux de neurones qui ajuste les poids en propageant les erreurs à rebours depuis la couche de sortie afin de minimiser la perte.
Apprentissage par lot
Une approche d'apprentissage automatique où le modèle est entraîné sur l'ensemble du jeu de données en une seule fois, par opposition à l'apprentissage incrémental.
Évaluation comparative
Le processus de comparaison des performances des systèmes d'IA avec des métriques standard ou d'autres systèmes pour évaluer l'efficacité.
Préjugé
Erreurs systématiques dans les sorties d'IA résultant de données d'entraînement biaisées ou d'algorithmes défectueux, conduisant à des résultats inéquitables.
Amplification des biais
Le phénomène où les systèmes d'IA exacerbent les biais existants présents dans les données d'entraînement, conduisant à des résultats de plus en plus biaisés.
Audit de Biais
Un processus d'évaluation pour détecter et atténuer les biais dans les systèmes d'IA, garantissant l'équité et la conformité avec les normes éthiques.
Détection des Biais
Le processus d'identification des biais dans les modèles d'IA en analysant leurs résultats et leurs processus de prise de décision.
Atténuation des biais
Techniques appliquées lors du développement de l'IA pour réduire ou éliminer les biais dans les modèles et les ensembles de données.
Modèle Boîte Noire
Un système d'IA dont le fonctionnement interne n'est ni transparent ni interprétable, rendant difficile la compréhension du processus de prise de décision.
Robot
Une application logicielle qui exécute des tâches automatisées, souvent utilisée dans le domaine de l'intelligence artificielle pour des tâches telles que le service client ou la collecte de données.
Brussels Effect
The phenomenon whereby EU regulation becomes the global default through market access requirements, even for organizations headquartered outside the EU.
Brazil AI Bill (PL 2338/2023)
Brazil's primary legislative effort to establish a national framework for AI rights and governance.
C
Inférence Causale
Une méthode en intelligence artificielle et en statistiques utilisée pour déterminer les relations de cause à effet, aidant à comprendre l'impact des interventions ou des modifications des variables.
Assistant conversationnel
Une application logicielle alimentée par l'IA, conçue pour simuler une conversation humaine, souvent utilisée dans le service client et l'acquisition d'informations.
Classification
Une technique d'apprentissage supervisé en apprentissage automatique où le modèle prédit la catégorie ou l'étiquette de classe des nouvelles observations en se basant sur des données d'entraînement.
Biais Cognitif
Des schémas systématiques de déviation par rapport à la norme ou à la rationalité dans le jugement, qui peuvent influencer la prise de décision de l'IA s'ils sont présents dans les données d'entraînement.
Informatique cognitive
Un sous-ensemble de l'intelligence artificielle qui simule les processus de pensée humaine dans un modèle informatisé, visant à résoudre des problèmes complexes sans assistance humaine.
Charge cognitive
La quantité totale d'effort mental utilisée dans la mémoire de travail, est prise en compte en IA pour concevoir des systèmes qui ne submergent pas les utilisateurs.
Cadre de Conformité
Un ensemble structuré de directives et de meilleures pratiques que les organisations suivent pour garantir que leurs systèmes d'IA respectent les normes réglementaires et éthiques.
Risque de Conformité
Le risque de sanctions légales ou réglementaires, de pertes financières ou de préjudice à la réputation qu'une organisation encourt lorsqu'elle ne se conforme pas aux lois, réglementations ou pratiques prescrites.
Vision par Ordinateur
Un domaine de l'IA qui forme les ordinateurs à interpréter et traiter les informations visuelles du monde, telles que les images et les vidéos.
Dérive de Concept
La modification des propriétés statistiques de la variable cible, que le modèle cherche à prédire, au fil du temps, conduit à une dégradation du modèle.
Intervalle de Confiance
Une gamme de valeurs, dérivées de statistiques d'échantillons, qui est susceptible de contenir la valeur d'un paramètre de population inconnu, utilisée en IA pour exprimer l'incertitude.
Évaluation de la conformité
Un processus destiné à déterminer si un système d'IA répond aux exigences, normes ou réglementations spécifiées, impliquant souvent des tests et une certification.
Apprentissage Continu
La capacité d'un système d'intelligence artificielle à apprendre et à s'adapter en continu à partir de nouvelles données sans intervention humaine, s'améliorant au fil du temps.
Maîtrise
La mesure dans laquelle les humains peuvent diriger, influencer ou remplacer les décisions et les comportements d'un système d'intelligence artificielle.
Validation croisée
Une technique de validation de modèle pour évaluer comment les résultats d'une analyse statistique se généraliseront à un ensemble de données indépendant.
Cybersécurité
La pratique de la protection des systèmes, réseaux et programmes contre les attaques numériques, essentielle pour sécuriser les systèmes d'intelligence artificielle contre les menaces.
COREPER Mandate
The negotiating authority granted by EU member state ambassadors (Committee of Permanent Representatives) to the rotating Council Presidency for trilogue negotiations on EU legislation.
California AB 1008
An amendment to the CCPA clarifying that personal information includes data generated or output by AI systems.
California AB 3030
A California law requiring transparency when Generative AI is used to communicate with patients in a healthcare setting.
California ADMT Regulations
Rules under the California Consumer Privacy Act (CCPA) governing Automated Decision-Making Technology (ADMT).
California FEHA AI Regulations
State regulations under the Fair Employment and Housing Act (FEHA) targeting AI-driven discrimination in the workplace.
California AI Transparency Act (SB 942)
Legislation requiring large providers of generative AI systems to provide detection tools and embed latent and manifest disclosures in AI-generated content.
Cascading Failure (ASI08)
A failure mode where an error or malicious input in one AI agent's reasoning triggers a chain reaction of failures across multiple connected agents or systems.
CE Marking
A mandatory certification mark that indicates an AI system's conformity with health, safety, and environmental protection standards for products sold within the EEA.
Change Notification Window
A contractual period during which a vendor must inform a customer of material updates to an AI model before those updates are deployed in production.
China Interim GenAI Measures
Regulatory requirements for generative AI services provided to the Chinese public.
Council of Europe AI Convention
The first legally binding international treaty on AI, focusing on the protection of human rights, democracy, and the rule of law.
Colorado AI Act (SB24-205)
The first broad U.S. state law requiring developers and deployers of high-risk AI systems to implement duty of care standards and conduct annual impact assessments.
Internal Control (Conformity Assessment)
A process under the EU AI Act where a provider self-verifies that their high-risk AI system meets all regulatory requirements without requiring a third-party audit.
Cryptographic Agent Identity
A verifiable digital credential (often a Decentralized Identifier or DID) that uniquely identifies an AI agent and its authority level.
D
Variation des données
L'évolution des données d'entrée du modèle avec le temps, qui peut entraîner une dégradation des performances du modèle si elle n'est pas surveillée et corrigée.
Éthique des Données
La branche de l'éthique qui évalue les pratiques en matière de données en ce qui concerne les obligations morales liées à la collecte, à la protection et à l'utilisation des informations personnellement identifiables.
Gouvernance des données
La gestion globale de la disponibilité, de l'utilisabilité, de l'intégrité et de la sécurité des données dans une entreprise, garantissant que les données sont correctement traitées tout au long de leur cycle de vie.
Gestion du cycle de vie des données
La gestion des flux de données basée sur des politiques tout au long de leur cycle de vie : de leur création et stockage initial à leur obsolescence et suppression.
Minimisation des Données
Le principe de ne collecter que les données nécessaires à un objectif spécifique, réduisant ainsi le risque de mauvaise utilisation ou de violation.
Confidentialité des données
L'aspect de la technologie de l'information qui traite de la capacité à contrôler quelles données sont partagées et avec qui, en veillant à ce que les données personnelles soient traitées de manière appropriée.
Protection des Données
Le processus de protection des informations importantes contre la corruption, la compromission ou la perte, tout en garantissant la conformité avec les lois et régulations sur la protection des données.
Qualité des Données
La condition des données, basée sur des facteurs tels que l'exactitude, la complétude, la fiabilité et la pertinence, est cruciale pour la performance efficace des modèles d'intelligence artificielle.
Résidence des données
Le lieu physique ou géographique des données d'une organisation, qui peut avoir des implications pour la conformité aux lois sur la protection des données.
Souveraineté des Données
Le concept selon lequel les données sont soumises aux lois et structures de gouvernance du pays où elles sont collectées, stockées ou traitées.
Personne concernée par les données
Une personne dont les données personnelles sont collectées, conservées ou traitées, est particulièrement pertinente dans le contexte des lois sur la protection des données comme le RGPD.
Dé-identification
Le processus de suppression ou de masquage des identifiants personnels des ensembles de données, rendant difficile l'identification des individus, est utilisé pour protéger la confidentialité.
Apprentissage Profond
Un sous-ensemble d'apprentissage automatique impliquant des réseaux neuronaux avec plusieurs couches, permettant de modéliser des schémas complexes dans les données.
Hypertrucage
Médias synthétiques dans lesquels une personne dans une image ou une vidéo existante est remplacée par la ressemblance de quelqu'un d'autre, créée en utilisant des techniques d'apprentissage profond.
Confidentialité Différentielle
Un système pour partager publiquement des informations sur un ensemble de données en décrivant les tendances des groupes au sein de cet ensemble tout en préservant la confidentialité des informations individuelles.
Discrimination
En IA, cela se réfère à un traitement injuste des individus ou des groupes basé sur des biais dans les données ou les algorithmes, conduisant à des résultats inégaux.
Apprentissage Distribué
Une approche d'apprentissage automatique où les données d'entraînement sont réparties sur plusieurs appareils ou emplacements, et les modèles sont formés de manière collaborative sans partager les données brutes.
Adaptation de Domaine
Une technique en apprentissage automatique où un modèle entraîné dans un domaine est adapté pour fonctionner dans un domaine différent mais connexe.
Évaluation Dynamique des Risques
Le processus continu d'identification et d'évaluation des risques en temps réel, permettant des réponses opportunes aux menaces émergentes dans les systèmes d'IA.
Data Ingestion Risk
The danger that sensitive or proprietary information will be permanently absorbed into an AI model's training set during a user's interaction.
Data Provenance
A documented record of the origin, ownership, and lifecycle of a dataset used to train or fine-tune an AI model.
EU Digital Omnibus on AI
A 2025/2026 legislative package designed to streamline and harmonize technical standards, conformity assessments, and enforcement timelines across the EU AI Act and related digital safety laws.
Dual-Use Foundation Model
An AI model that is trained on a vast amount of data and has high-level performance that could be used for both civilian and harmful or military purposes.
Entreprises
IA de pointe
Le déploiement d'algorithmes d'intelligence artificielle sur des dispositifs périphériques, permettant le traitement des données et la prise de décisions à la source de génération des données.
Analyse de pointe
L'analyse des données à la périphérie du réseau, près de la source de génération des données, réduisant la latence et l'utilisation de la bande passante.
Apprentissage Collectif
Un paradigme d'apprentissage automatique où plusieurs modèles sont entraînés et combinés pour résoudre le même problème, améliorant ainsi la performance globale.
Résolution d'Entité
Le processus d'identification et de liaison des enregistrements faisant référence à la même entité du monde réel dans différents ensembles de données.
Enzai
Une plateforme de gouvernance de l'IA d'entreprise qui permet aux organisations de répertorier, d'évaluer et de contrôler leurs systèmes d'IA, assurant une adoption maximale de l'IA tout en minimisant les risques liés à l'IA.
IA Éthique
La pratique de concevoir, développer et déployer des systèmes d'intelligence artificielle d'une manière qui s'aligne sur des principes et valeurs éthiques, garantissant l'équité, la responsabilité et la transparence.
Audit d'IA Éthique
Le processus d'évaluation systématique des systèmes d'IA pour garantir leur conformité aux normes éthiques et éviter tout dommage.
Certification de l'IA Éthique
Une reconnaissance formelle qu'un système d'IA respecte les normes et directives éthiques établies.
Gouvernance Éthique de l'IA
Le cadre des politiques, procédures et pratiques qui garantissent que les systèmes d'IA sont développés et utilisés de manière responsable et éthique.
Cadres éthiques
Ensembles structurés de principes et de lignes directrices conçus pour guider le développement et le déploiement éthique des systèmes d'intelligence artificielle.
Pirate Éthique
La pratique consistant à explorer intentionnellement les systèmes pour en déceler les vulnérabilités afin d'identifier et de corriger les problèmes de sécurité, garantissant ainsi la robustesse des systèmes d'IA.
Évaluation de l'Impact Éthique
Un processus d'évaluation systématique pour identifier et traiter les implications éthiques ainsi que les impacts sociétaux potentiels des systèmes d'IA avant leur déploiement.
Risques éthiques
Le potentiel d'un système d'IA à causer des dommages en raison d'un comportement non éthique, notamment des préjugés, de la discrimination ou de la violation de la vie privée.
Principes Éthiques pour une IA de Confiance
Un ensemble de lignes directrices élaborées par le groupe d'experts de haut niveau sur l'IA de la Commission européenne pour promouvoir une IA digne de confiance, axée sur l'autonomie humaine, la robustesse technique, la confidentialité, la transparence, la diversité, le bien-être sociétal et la responsabilité.
Techniques d'explicabilité
Méthodes utilisées pour interpréter et comprendre les décisions prises par les modèles d'IA, telles que LIME, SHAP et les cartes de saillance.
Explicabilité vs Interprétabilité
Bien que les deux visent à rendre compréhensibles les décisions de l'IA, l'explicabilité se concentre sur le raisonnement derrière les décisions, tandis que l'interprétabilité se rapporte à la transparence des mécaniques internes du modèle.
Intelligence Artificielle Explicable (IAE)
Les systèmes d'IA conçus pour fournir des justifications compréhensibles par l'homme pour leurs décisions et actions, renforçant la transparence et la confiance.
Apprentissage Automatique Explicable
Modèles d'apprentissage automatique conçus pour fournir des explications claires et compréhensibles de leurs prédictions et décisions.
EU AI Office
The European Commission body established to oversee implementation and enforcement of the EU AI Act, particularly for general-purpose AI models with systemic risk.
EU Digital Omnibus
The European Union's broader 2025-2026 legislative simplification package addressing multiple digital regulations including the AI Act, GDPR provisions, the Cyber Resilience Act, and Data Act amendments.
Embedded AI
AI capabilities or features that are integrated directly into third-party software-as-a-service (SaaS) platforms or enterprise tools.
Escalation Logic
A set of predefined rules and triggers that force an AI agent to stop autonomous operation and hand control back to a human operator.
ESMA AI/ML Governance Expectations
Regulatory guidelines from the European Securities and Markets Authority regarding the use of AI and Machine Learning in financial markets.
EU AI Act
The world's first comprehensive horizontal legal framework for AI, establishing a risk-based classification system for systems deployed or used within the European Union.
EU AI Act Risk Classification
The mandatory process of assigning one of four risk levels (Unacceptable, High, Limited, Minimal) to an AI system under the EU AI Act.
Excessive Agency
A vulnerability where an AI system is granted too much autonomy, too many tools, or over-privileged access relative to its intended function.
Executive Order 14110
The Biden administration directive (signed October 2023, rescinded January 2025) that established U.S. national standards for AI safety, security, and privacy and created the U.S. AI Safety Institute at NIST.
EU AI Act High-Risk Categories
The two classifications of high-risk AI systems under the EU AI Act: standalone systems listed in Annex III (covering biometrics, critical infrastructure, employment, education, law enforcement, and other named uses), and AI embedded in regulated products listed in Annex I (covering medical devices, vehicles, machinery, and other regulated product categories).
F
Équité
Assurer que les systèmes d'IA produisent des résultats impartiaux et équitables à travers différents individus et groupes, et atténuer les impacts discriminatoires.
Indicateurs d'Équité
Des mesures quantitatives (par exemple, parité démographique, chances égalisées) utilisées pour évaluer la justice des prédictions d'un modèle d'IA à travers différents groupes.
Faux négatif
Lorsqu'un modèle d'IA prédit incorrectement une classe négative pour un cas qui est en réalité positif (Erreur de Type II).
Faux Positif
Lorsqu'un modèle d'IA prédit incorrectement une classe positive pour un cas qui est en réalité négatif (erreur de Type I).
Tolérance aux pannes
La capacité d'un système d'IA à continuer de fonctionner correctement même lorsque certains composants échouent ou produisent des erreurs.
Ingénierie des fonctionnalités
Créer, sélectionner ou transformer des attributs de jeux de données bruts en fonctionnalités qui améliorent la performance des modèles d'apprentissage automatique.
Extraction de fonctionnalités
Le processus de conversion des données brutes (par exemple, texte, images) en représentations numériques (caractéristiques) adaptées à l'entrée dans des algorithmes d'apprentissage automatique.
Sélection de Fonctionnalités
Identifier et sélectionner les fonctionnalités les plus pertinentes pour l'entraînement du modèle afin de réduire la complexité et améliorer la précision.
Apprentissage Fédéré
Une approche de ML décentralisée où les modèles sont entraînés sur plusieurs appareils ou serveurs contenant des données locales, sans partager les données brutes de manière centralisée.
Boucle de Rétroaction
Un processus dans lequel les résultats de l’IA sont réinjectés en entrée, ce qui peut amplifier le comportement du modèle — pour le meilleur (apprentissage par renforcement) ou pour le pire (renforcement des biais).
Ajustement Fin
Adapter un modèle d'IA pré-entraîné à une tâche spécifique ou à un ensemble de données en poursuivant la formation sur de nouvelles données, ce qui améliore souvent les performances spécifiques à la tâche.
Vérification Formelle
Prouver mathématiquement que les algorithmes d'IA respectent les propriétés de correction spécifiées, souvent utilisées dans des systèmes critiques pour la sécurité.
Cadre
Un ensemble structuré de politiques, de processus et d'outils guidant la gouvernance, le développement, le déploiement et la surveillance des systèmes d'IA.
Détection de fraude
Utiliser des techniques d'IA (par exemple, la détection d'anomalies, la reconnaissance de motifs) pour identifier et prévenir les activités frauduleuses dans le domaine de la finance, de l'assurance, etc.
Sécurité Fonctionnelle
Garantir que les systèmes d'IA fonctionnent en toute sécurité dans toutes les conditions, en particulier dans des secteurs tels que l'automobile ou la santé, souvent par le biais de redondances et de vérifications.
Logique floue
Un système logique qui traite le raisonnement à l’aide de valeurs approximatives, plutôt que de valeurs binaires vrai/faux, utile pour les systèmes de contrôle et la gestion de l’incertitude.
Federated AI Governance
A governance model where central policy and oversight are paired with distributed decision-making by business units or regional offices, balancing consistency with operational flexibility.
FS AI RMF (Financial Services AI Risk Management Framework)
The US Treasury's specialized AI risk management framework for financial services firms, published February 2026, adapting the NIST AI RMF for sector-specific obligations.
Fundamental Rights Impact Assessment (FRIA)
A mandatory evaluation under the EU AI Act for certain deployers to determine how the use of a high-risk AI system might impact civil liberties and human rights.
G
RGPD
Le Règlement général sur la protection des données (RGPD) de l'UE, établissant des exigences strictes pour la collecte et le traitement des données personnelles, ainsi que les droits individuels.
processeur graphique
Accélérateur matériel spécialisé pour les calculs parallèles, largement utilisé pour entraîner et exécuter efficacement des modèles d'IA à grande échelle.
Analyse des écarts
Le processus de comparaison des pratiques actuelles de gouvernance de l'IA avec les normes ou réglementations souhaitées afin d'identifier les domaines nécessitant des améliorations.
Généralisation
La capacité d'un modèle d'intelligence artificielle à bien performer sur des données nouvelles et inédites en capturant des motifs sous-jacents plutôt qu'en mémorisant des exemples d'entraînement.
Intelligence Artificielle Générative
Les techniques d’IA (p. ex., les GAN et les transformateurs) qui créent de nouveaux contenus — textes, images ou autres médias — soulèvent souvent de nouvelles problématiques en matière de gouvernance et de propriété intellectuelle.
Modèle Global
Un modèle d'IA consolidé, formé sur des données agrégées provenant de multiples sources, contrairement aux modèles localisés ou personnalisés.
Gouvernance
L'ensemble des politiques, procédures, rôles et responsabilités qui guident le développement et le déploiement éthique, légal et efficace des systèmes d'IA.
Instance de gouvernance
Un groupe interfonctionnel (par exemple, juridique, éthique, technique) chargé de superviser les politiques de gouvernance de l'IA et leur mise en œuvre au sein d'une organisation.
Cadre de Gouvernance
Un modèle structuré décrivant comment les composants de la gouvernance de l'IA (gestion des risques, responsabilité, supervision) s'imbriquent pour garantir la conformité et l'utilisation éthique.
Modèle de Maturité en Gouvernance
Un cadre organisé qui évalue le degré d'avancement des pratiques de gouvernance de l'IA au sein d'une organisation, allant de l'ad-hoc à l'optimisé.
Politique de Gouvernance
Un document formel qui codifie les règles, rôles et procédures pour le développement et la supervision de l'IA au sein d'une organisation.
Tableau de bord de gouvernance
Un tableau de bord ou un rapport qui suit les indicateurs clés (par exemple, incidents de partialité, audits de conformité) pour évaluer l'efficacité de la gouvernance de l'IA au fil du temps.
Descente de Gradient
Un algorithme d'optimisation qui ajuste itérativement les paramètres du modèle dans une direction qui diminue minimalement la fonction de perte.
Consentement Granulaire
Une approche de la protection des données permettant aux individus d'accorder ou de refuser des permissions spécifiques pour chaque type d'utilisation des données, renforçant ainsi la transparence et le contrôle.
IA Verte
La pratique de réduire l'impact environnemental de l'IA grâce à des algorithmes économes en énergie et à des pratiques informatiques durables.
Modèle Boîte Grise
Un modèle dont la logique interne est partiellement transparente (certains composants sont interprétables, d'autres sont opaques), équilibrant performance et explicabilité.
Vérité de terrain
Les données ou étiquettes précises et réelles utilisées comme référence pour entraîner et évaluer les performances des modèles d'IA.
Garde-fous
Contraintes prédéfinies ou vérifications (techniques et politiques) intégrées dans les systèmes d'intelligence artificielle pour prévenir les comportements dangereux ou non conformes pendant l'exécution.
Directive (IA Éthique)
Une recommandation non contraignante ou un document de bonnes pratiques émis par des organisations (par exemple, IEEE, UE) pour orienter le développement et le déploiement responsable de l'IA.
Goal Drift
A phenomenon where an AI agent's internal sub-goals or reasoning pathways gradually move away from the original human-provided objective.
GPAI Code of Practice
The detailed regulatory instrument outlining specific transparency, safety testing, and risk mitigation obligations for providers of General-Purpose AI (GPAI) models under the EU AI Act.
GPAI Model
A general-purpose artificial intelligence model capable of performing a wide range of distinct tasks and integrating into various applications.
Bonjour
Hallucination
Lorsque l'IA générative produit des informations incorrectes ou fabriquées qui semblent plausibles mais qui n'ont aucun fondement dans les données d'entraînement.
Gestion des données manquantes
Techniques (par exemple, imputation, suppression, modélisation) pour combler les lacunes dans les ensembles de données afin de maintenir l'intégrité et l'équité des modèles.
Accélérateur Matériel
Des puces spécialisées (par exemple, GPU, TPU) conçues pour accélérer les calculs d'IA, avec des implications pour la consommation d'énergie et les risques liés à la chaîne d'approvisionnement.
Évaluation des risques
Évaluer les impacts négatifs potentiels (physiques, psychologiques, sociétaux) des systèmes d'IA et définir des stratégies d'atténuation.
Harmonisation
Aligner les politiques, normes et réglementations sur l'IA à travers les juridictions pour réduire les conflits et favoriser l'interopérabilité.
Hachage
Le processus de conversion des données en une chaîne de caractères de taille fixe, utilisé pour les vérifications d'intégrité des données et le couplage d'enregistrements préservant la confidentialité.
Données Hétérogènes
La combinaison de données de différents types (texte, image, capteur) ou provenant de multiples domaines présente des défis en matière d'intégration et de gouvernance.
Heuristique
Une règle empirique ou une stratégie simplifiée de prise de décision utilisée pour accélérer les processus d'IA, échangeant souvent l'optimalité pour l'efficacité.
Évaluation heuristique
Une méthode d'inspection de l'utilisabilité où des experts évaluent un système d'IA par rapport à des principes d'utilisabilité établis afin d'identifier les problèmes potentiels.
IA à enjeux élevés
Les applications d'IA dont les défaillances pourraient causer des préjudices significatifs (par exemple, les diagnostics médicaux, les véhicules autonomes), nécessitant une gouvernance et une supervision accrues.
Supervision Humaine
Des mécanismes permettant à des individus désignés de surveiller, intervenir ou remplacer les décisions des systèmes d'IA afin d'assurer le respect des normes éthiques et légales.
Évaluation de l'impact sur les droits de l'homme
Un processus d'évaluation de l'impact des systèmes d'IA sur les droits fondamentaux (vie privée, expression, non-discrimination) et d'identification des mesures d'atténuation.
Humain dans le processus
Impliquer le jugement humain dans les processus d'IA (entraînement, validation, révision des décisions) pour améliorer la précision et la responsabilité.
Modèle Hybride
Les systèmes d'IA alliant plusieurs paradigmes d'apprentissage (par exemple, symbolique et neuronal) pour équilibrer l'explicabilité et la performance.
Hyperparamètre
Une variable de configuration (par exemple, taux d'apprentissage, profondeur d'arbre) définie avant l'entraînement du modèle qui influence le comportement d'apprentissage et les performances.
Optimisation des hyperparamètres
Le processus de recherche des valeurs optimales des hyperparamètres (par exemple, via une recherche en grille, l'optimisation bayésienne) pour maximiser la performance du modèle.
Harmonized Structure
A standardized template for all ISO management system standards, formerly known as Annex SL, ensuring consistency in terminology and clause numbering.
High-Risk AI System
AI applications that have a significant potential to harm the health, safety, or fundamental rights of individuals, triggering the most stringent compliance requirements under the EU AI Act.
Je
ISO/IEC JTC 1/SC 42
Le comité conjoint ISO/IEC sur la normalisation de l'intelligence artificielle, développe des normes internationales d'IA pour la gouvernance, la gestion des risques et l'interopérabilité.
Données Déséquilibrées
Un ensemble de données dans lequel une classe ou catégorie dépasse significativement les autres, ce qui peut amener les modèles d'IA à privilégier la classe majoritaire, sauf en cas de mesures d'atténuation.
Registre Immuable
Un mécanisme de tenue de registres à preuve de falsification (p. ex., la blockchain) garantissant qu’une fois les données enregistrées, elles ne peuvent être modifiées sans détection — utile pour les pistes d’audit de l’IA.
Évaluation d'Impact
Une évaluation structurée pour identifier, analyser et atténuer les impacts potentiels éthiques, juridiques et sociétaux d'un système d'IA avant son déploiement.
Biais Implicite
Les biais inconscients ou involontaires intégrés dans les données de formation ou la conception du modèle peuvent conduire à des résultats discriminatoires.
Alignement des incitations
La conception des structures de récompense et des objectifs afin que les buts des systèmes d'IA restent en adéquation avec les valeurs humaines et les priorités organisationnelles.
Biais Inductif
L'ensemble des hypothèses qu'un algorithme d'apprentissage utilise pour généraliser des données observées à des instances non vues.
Inférence
Le processus par lequel un modèle d'IA formé traite de nouvelles entrées de données pour produire des prédictions ou des décisions.
Moteur d'Inférence
Le composant d'un système d'intelligence artificielle (souvent dans des systèmes basés sur des règles ou des systèmes experts) qui applique une base de connaissances aux données d'entrée pour en tirer des conclusions.
Gouvernance de l'information
Les politiques, procédures et contrôles qui garantissent la qualité, la confidentialité et l'utilisabilité des données à travers les actifs de données d'une organisation, y compris les ensembles de données d'entraînement de l'IA.
Confidentialité de l'information
Le droit des individus de contrôler comment leurs données personnelles sont collectées, utilisées, stockées et partagées par les systèmes d'IA.
Infrastructure en tant que Code (IaC)
Gérer et provisionner l'infrastructure d'IA (calcul, stockage, réseau) par le biais de fichiers de configuration lisibles par machine, améliorant ainsi la reproductibilité et l'auditabilité.
Interopérabilité
La capacité des divers systèmes et composants d'IA à échanger, comprendre et utiliser des informations de manière transparente, souvent via des normes ouvertes ou des API.
Interprétabilité
Le degré auquel un être humain peut comprendre les mécanismes internes ou la logique décisionnelle d'un modèle d'IA.
Détection d'Intrusion
Surveillance de l'infrastructure et des applications d'intelligence artificielle afin de détecter toute activité malveillante ou tout manquement aux politiques, avec déclenchement d'alertes ou de réponses automatisées.
Inherited Data Risk
The regulatory and ethical liability an organization assumes when using an AI system trained on data they did not collect or vet themselves.
Intake Workflow
The standardized process and series of checks that a new AI system must pass through before being built or procured.
Intent Validation
The process of verifying that an AI agent's planned sub-actions remain consistent with the original human-provided objective.
ISO/IEC 42001
The international standard specifying requirements for establishing, implementing, maintaining, and continually improving an Artificial Intelligence Management System (AIMS).
ISO/IEC 42005
The international standard providing guidance on performing AI system impact assessments.
Implementing Acts
Secondary EU legislation adopted by the European Commission to set uniform conditions for implementing primary legislation, with binding legal effect across all Member States.
J
Matrice Jacobienne
En termes d'explicabilité de l'IA, la matrice de toutes les dérivées partielles d'ordre un des sorties d'un modèle par rapport à ses entrées, utilisée pour évaluer la sensibilité et l'importance des caractéristiques.
Attaque de Jailbreak
Un type d'injection de commande où les utilisateurs exploitent des vulnérabilités pour contourner les protections dans les modèles d'IA générative, ce qui peut potentiellement conduire à des résultats non sécurisés ou non autorisés.
Responsabilité Conjointe
Principe juridique selon lequel plusieurs parties (par exemple, développeurs, déployeurs) partagent la responsabilité des préjudices liés à l'IA, influençant les structures contractuelles et de gouvernance.
Modélisation Conjointe
Créer des systèmes d'IA qui apprennent conjointement plusieurs tâches (par exemple, reconnaissance vocale et traduction), avec une gouvernance nécessaire pour la complexité et l'auditabilité.
Biais de Jugement
Erreurs systématiques dans les processus de prise de décision humains ou d'IA causées par des raccourcis cognitifs ou des données erronées, nécessitant des audits et une atténuation des biais.
Révision Judiciaire
Le processus légal par lequel les tribunaux évaluent la légalité des décisions prises ou assistées par l'IA, garantissant la responsabilité et le respect des procédures.
Juridiction
L'autorité légale sur les données, les opérations liées à l'intelligence artificielle et la responsabilité, qui varie selon la géographie et impacte la conformité aux réglementations régionales (par exemple, RGPD, CCPA).
Automatisation du Jury
L'utilisation de l'IA pour aider à la sélection du jury ou à l'analyse des dossiers soulève des préoccupations éthiques concernant l'équité, la transparence et la supervision juridique.
Métriques de la Justice
Mesures quantitatives (par exemple, impact disparate, égalité des chances) utilisées pour évaluer l'équité et la non-discrimination dans la prise de décision par l'IA.
Japan Act on Promotion of AI
A Japanese law (enacted 2025) establishing basic principles for AI promotion and risk mitigation.
K
Indicateur Clé de Performance
Une métrique quantifiable (par exemple, la dérive de précision du modèle, le temps de correction des biais) utilisée pour surveiller et rendre compte des objectifs de gouvernance et de conformité de l'IA.
Indicateur Clé de Risque
Un indicateur clé (par exemple, la fréquence des prédictions hors cadre, le taux de décisions inexplicables) qui signale les risques émergents liés à l'IA avant qu'ils ne se concrétisent.
Connaître Votre Client (KYC)
Les processus de conformité pour vérifier l'identité, le profil de risque et la légitimité des individus ou des entités interagissant avec les systèmes d'IA, en particulier dans les industries réglementées.
Distillation des connaissances
Une méthode de transfert des connaissances d'un modèle « enseignant » plus grand vers un modèle « étudiant » plus petit, équilibrant la performance avec les contraintes de ressources et de gouvernance.
Graph de Connaissances
Une représentation structurée des entités et de leurs relations utilisée pour améliorer l'explicabilité de l'IA, l'auditabilité et l'alignement avec les ontologies de domaine.
Gestion des connaissances
Pratiques et outils pour capturer, organiser et partager les connaissances organisationnelles (par exemple, la documentation des modèles, les journaux d'audit) afin d'assurer la reproductibilité et la supervision.
L'entreprise
Fuite d'Étiquettes
L'inclusion involontaire d'informations de sortie dans les étiquettes des données d'entraînement, pouvant gonfler les indicateurs de performance et masquer les véritables problèmes de généralisation du modèle.
Modèle de Langage de Grande Envergure
Un modèle d'apprentissage profond entraîné sur de vastes corpus de texte, capable de réaliser des tâches telles que la génération de texte, la traduction et la synthèse, nécessitant souvent une gouvernance pour éviter les biais et les abus.
Moindre Privilège
Un principe de sécurité selon lequel les composants d'IA et les utilisateurs ne reçoivent que les droits d'accès minimaux nécessaires pour exécuter leurs fonctions, réduisant ainsi le risque d'utilisation abusive.
Conformité Légale
La pratique de garantir que les systèmes d'IA respectent les lois, règlements et normes industrielles applicables tout au long de leur cycle de vie.
Cadre de Responsabilité
Une approche structurée définissant qui est responsable des préjudices ou des échecs liés à l'IA, y compris les développeurs, les déployeurs et les opérateurs.
Gestion du Cycle de Vie
Les processus coordonnés pour le développement, le déploiement, la surveillance, la maintenance et le retrait des systèmes d'IA afin de garantir la conformité continue et le contrôle des risques.
Détection de vitalité
Techniques utilisées pour vérifier qu'une entrée (par exemple, biométrique) provient d'un sujet vivant plutôt que d'une fraude ou d'une répétition, renforçant ainsi la sécurité et l'intégrité du système.
Localisation
Adaptation des systèmes d'IA aux langues locales, aux réglementations, aux normes culturelles et aux exigences de résidence des données dans différentes juridictions.
Gestion des journaux
La collecte, le stockage et l'analyse des journaux de système et d'application issus des workflows d'IA pour soutenir l'audit, la gestion des incidents et le suivi des performances des modèles.
Fonction de Perte
Une fonction mathématique qui quantifie la différence entre les résultats prévus et les valeurs réelles, guidant ainsi la formation et l'optimisation du modèle.
Least Agency
A security and governance principle stating that AI agents should only be granted the minimum level of autonomy and tool-access necessary to complete a specific task.
M
Contrôle Humain Significatif
Une norme réglementaire et opérationnelle garantissant que les humains conservent la capacité de superviser, d'intervenir et de contrecarrer les processus décisionnels de l'IA.
Gestion des métadonnées
La pratique de capture et de maintien de données descriptives (par exemple, provenance des données, définitions des fonctionnalités, paramètres de modèle) pour soutenir la traçabilité et les audits.
Mesures et indicateurs clés de performance
Des mesures quantitatives (par exemple, dérive de précision, scores d'équité, temps de réponse aux incidents) utilisées pour surveiller la santé, les risques et les objectifs de conformité des systèmes d'IA.
Stratégies d'atténuation
Actions prévues (par exemple, la correction des biais, la reformation, la réingénierie des fonctionnalités) pour traiter les risques d'IA identifiés et les lacunes en matière de conformité.
Explicabilité du Modèle
Techniques et documentation qui rendent la logique décisionnelle d'un modèle d'IA compréhensible pour les parties prenantes et les auditeurs.
Gouvernance du Modèle
Les politiques, rôles et contrôles qui garantissent que les modèles d'IA sont développés, approuvés et utilisés conformément aux normes organisationnelles et aux exigences réglementaires.
Surveillance du Modèle
Suivi continu des performances d'un modèle d'IA, des dérives de données et des indicateurs opérationnels pour détecter toute dégradation ou nouveaux risques potentiels.
Réentraînement du Modèle
Le processus de mise à jour d’un modèle d'IA avec des données nouvelles ou actualisées pour maintenir la performance et la conformité à mesure que les distributions de données évoluent.
Gestion des risques du modèle
Le processus structuré d'identification, d'évaluation et de réduction des risques découlant des modèles IA/ML tout au long de leur cycle de vie.
Validation du modèle
Les activités d'évaluation (par exemple, tests sur des données de validation, scénarios de stress) qui confirment qu'un modèle d'IA répond à son objectif et à ses critères de performance.
Engagement Multi-Intervenants
Impliquer divers groupes (par exemple, juridique, éthique, opérations, utilisateurs finaux) dans les processus de gouvernance de l'intelligence artificielle pour garantir une supervision équilibrée des risques et une alignement avec les objectifs commerciaux.
Market Surveillance Authority
The national regulatory body in each EU member state responsible for monitoring AI systems to ensure they comply with the EU AI Act.
MAS FEAT Principles
The Monetary Authority of Singapore's principles for Fairness, Ethics, Accountability, and Transparency (FEAT) in the use of AI in finance.
Mexico Federal Law on AI and Algorithms
A draft Mexican federal law on AI and algorithms proposing a risk-based classification system, the National AI Commission (CONAIA), and watermarking requirements for AI-generated content.
Minnesota CDPA (AI Provisions)
The AI-specific components of the Minnesota Consumer Data Privacy Act.
Model Card
A short, standardized document providing essential information about a machine learning model's performance, limitations, and intended use cases.
Model Disgorgement
A regulatory remedy requiring a company to delete AI models or algorithms that were developed using improperly or unlawfully acquired data.
Model Drift
The degradation of an AI model's predictive performance over time due to changes in real-world data or the environment.
Non
Cadre de Gestion des Risques de l'IA de NIST
Une orientation volontaire de l'Institut National des Standards et de la Technologie des États-Unis décrivant les meilleures pratiques pour atténuer les risques tout au long des cycles de vie des systèmes d'intelligence artificielle.
Traitement Automatique du Langage Naturel (TALN)
Techniques et outils qui permettent aux machines d'interpréter, de générer et d'analyser le langage humain sous forme de texte ou de parole.
Sécurité du Réseau
Mesures et contrôles (par exemple, segmentation, pare-feu, détection d'intrusion) pour protéger l'infrastructure de l'IA et les pipelines de données contre l'accès non autorisé ou la falsification.
Recherche d'Architecture Neurale
Méthodes automatisées pour concevoir et optimiser les structures de réseaux neuronaux afin d'améliorer la performance des modèles tout en équilibrant la complexité et les contraintes de ressources.
Injection de bruit
Introduction délibérée de perturbations aléatoires dans les données d'entraînement ou les paramètres du modèle afin d'améliorer la robustesse et de se protéger contre la manipulation malveillante.
Détection de Nouveautés
Techniques pour identifier les entrées ou scénarios qui diffèrent significativement des données d'entraînement, déclenchant une révision ou un mode de fonctionnement sécurisé afin de prévenir des défaillances inattendues.
NIST AI RMF Profiles
Context-specific implementations of the NIST AI Risk Management Framework tailored to particular industries, technologies, or risk types.
Non-Human Identity (NHI)
A digital credential used by an AI agent, bot, or service to authenticate and interact with enterprise systems.
Notified Body
An independent third-party organization designated by an EU member state to assess the conformity of certain high-risk AI systems under the EU AI Act.
NYC Local Law 144
A New York City law requiring annual bias audits for AI tools used in employment decisions.
O
Observabilité
La capacité de déduire l'état interne et le comportement d'un système d'IA par la collecte et l'analyse des journaux, des métriques et des résultats pour un suivi et un dépannage efficaces.
Surveillance Continue
Suivi continu des performances des systèmes d'IA, de la dérive des données, des métriques de biais et des événements de sécurité afin de détecter et traiter les risques émergents au fil du temps.
Opacité
L'absence de transparence dans la manière dont un modèle d'IA parvient à des décisions ou à des prédictions pose des défis en termes de confiance et de conformité réglementaire.
Résilience Opérationnelle
La capacité des systèmes d'intelligence artificielle et de leur infrastructure de soutien à anticiper, résister, se rétablir et s'adapter aux perturbations ou aux événements défavorables.
Orchestration
La coordination automatisée des flux de travail et des services d’IA — ingestion des données, entraînement des modèles, déploiement — garantissant la conformité aux politiques et à la gouvernance des ressources.
Détection des valeurs aberrantes
Techniques pour identifier les points de données ou les prédictions modélisées qui s'écartent significativement des schémas attendus, déclenchant ainsi des actions de révision ou de mitigation.
Surapprentissage
Un problème de modélisation où un système d'IA apprend le bruit ou les particularités des données d'entraînement, réduisant ainsi sa capacité à généraliser à de nouvelles données non vues.
Supervision
Le processus structuré d'examen, d'approbation et de responsabilité pour le développement et le déploiement de l'IA, impliquant généralement des instances de gouvernance interfonctionnelles.
Propriété
L’attribution claire des responsabilités et des pouvoirs en matière d’actifs d’IA — données, modèles, processus — afin de garantir la redevabilité tout au long du cycle de vie du système.
OMB Memorandum M-25-21
A federal directive specifying AI governance and risk management requirements for US government agencies.
Operational Autonomy
The ability of an AI system to perform multi-step tasks and make decisions without human intervention at each stage.
Output Risk
The operational, legal, and reputational danger arising from the use of incorrect, biased, or harmful content generated by an AI system.
OWASP Agentic Top 10
A formal taxonomy of the ten most critical security risks specific to autonomous AI agents and their application environments.
P
Autorisation
La gestion des droits d'accès des utilisateurs et des systèmes aux données et fonctions de l'IA, garantissant le principe du moindre privilège et empêchant toute utilisation non autorisée.
Essai Pilote
Un essai à portée limitée d'un système d'IA dans un environnement contrôlé pour évaluer les performances, les risques et les contrôles de gouvernance avant le déploiement à grande échelle.
Mise en Application des Politiques
Les mécanismes automatisés ou manuels qui garantissent que les opérations d'IA respectent les politiques organisationnelles, les réglementations et les lignes directrices éthiques.
Surveillance post-déploiement
Observation continue du comportement du système d'IA et de l'environnement après le déploiement afin de détecter toute dégradation, dérive ou violation de conformité.
Maintenance Prédictive
Surveillance et analyse pilotées par l'IA pour prévoir les défaillances des composants ou des systèmes, assurant ainsi la résilience opérationnelle et la réduction des risques dans des environnements critiques.
Évaluation de l'impact sur la vie privée
Une analyse structurée pour identifier et atténuer les risques de confidentialité associés aux systèmes d'IA, couvrant la collecte, l'utilisation, le partage et la conservation des données.
Confidentialité dès la Conception
Une approche qui intègre la protection des données et les considérations de la vie privée des utilisateurs dans l'architecture et les processus des systèmes d'intelligence artificielle dès le départ.
Automatisation des Processus
Utilisation de l'IA et des outils de gestion des flux de travail pour rationaliser la gouvernance, les contrôles de conformité et les activités de réduction des risques, réduisant ainsi les efforts manuels et les erreurs.
Presumption of Conformity
A legal mechanism under EU AI Act and other regimes whereby compliance with a harmonized standard (e.g., a published EN standard) provides a rebuttable assumption that the underlying regulation is satisfied.
Parametric Knowledge
The information learned by an AI model during its training process and stored within its weights and parameters.
Paved Road Governance
A strategy that encourages compliance by making sanctioned, secure workflows easier to follow than unsanctioned alternatives.
PRA SS1/23 (Model Risk Management)
The UK Prudential Regulation Authority's statement on model risk management for banks and insurers.
Probabilistic System
A system where outputs are based on statistical likelihood rather than deterministic, fixed logic.
Q
Évaluation Qualitative
L'évaluation subjective des comportements, des décisions et de la documentation des systèmes d'IA par des experts, visant à identifier les préoccupations éthiques, juridiques ou réputationnelles qui ne sont pas quantifiées.
Assurance Qualité
Les processus systématiques et les vérifications visant à garantir que les modèles d'IA et les flux de données répondent aux normes définies en termes de précision, de fiabilité et de conformité éthique.
Contrôle de Qualité
La vérification continue des résultats et des processus d'IA par rapport aux référentiels et aux cas de test, afin de détecter les défauts, les incidents de biais ou les violations de politique.
Évaluation Quantitative des Risques
Une évaluation fondée sur les données des menaces potentielles de l'IA, estimant les probabilités et les impacts de manière numérique afin de prioriser les efforts d'atténuation.
Calcul Quantique
Le paradigme computationnel émergent qui exploite la mécanique quantique pose de nouveaux défis de gouvernance en matière de sécurité, de standardisation et de gestion des risques.
Enregistrement des Requêtes
La pratique d'enregistrer les entrées du système d'IA et les requêtes des utilisateurs pour permettre des pistes d'audit, détecter les abus et soutenir la responsabilité.
Confidentialité des Requêtes
Techniques et politiques visant à protéger les informations sensibles dans les requêtes des utilisateurs, garantissant que les entrées enregistrées ne compromettent pas les données personnelles ou propriétaires.
Cadre de Questionnaire
Un ensemble structuré de questions axées sur la gouvernance utilisé lors de la conception, de l'acquisition ou du déploiement pour garantir que les systèmes d'IA sont conformes aux exigences réglementaires.
Quorum pour le Conseil de Gouvernance
Le nombre minimum de membres du comité de gouvernance requis pour être présents afin de prendre des décisions officielles concernant les risques liés à l'IA, les approbations de politiques ou les résultats d'audit.
Gestion des quotas
Les contrôles et limites imposés à l'utilisation des ressources d'IA (par exemple, appels API, temps de calcul) afin de appliquer les politiques de gouvernance et prévenir les coûts excessifs ou les abus.
R
Recours
Mécanismes permettant aux individus concernés de contester ou de demander un recours pour des décisions prises par l'IA qui affectent leurs droits ou leurs intérêts.
Équipe Rouge
Une approche proactive de test où des experts internes ou externes simulent des attaques ou des scénarios d'utilisation abusive afin de découvrir les vulnérabilités des systèmes d'intelligence artificielle.
Conformité Réglementaire
Garantir que les systèmes d'IA respectent les lois, réglementations et normes industrielles applicables (par exemple, RGPD, FDA, surveillance financière) tout au long de leur fonctionnement.
Reproductibilité
La capacité de régénérer systématiquement les résultats des modèles d'IA en utilisant les mêmes données, code et configurations, garantissant ainsi la transparence et l'auditabilité.
Matrice d'Attribution des Responsabilités
Un outil (p. ex., la matrice RACI) qui clarifie les rôles et les responsabilités pour chaque activité de gouvernance — en précisant qui est Responsable, Redevable, Consulté et Informé.
Intelligence Artificielle Responsable
La pratique de concevoir, développer et déployer des systèmes d'IA de manière éthique, transparente et responsable envers les parties prenantes et la société.
Évaluation des Risques
Le processus d'identification, d'analyse et de hiérarchisation des dommages ou défaillances potentiels dans les systèmes d'IA afin de déterminer les stratégies d'atténuation appropriées.
Cadre de Gestion des Risques
Un ensemble structuré de directives et de processus pour aborder systématiquement les risques liés à l'IA tout au long du cycle de vie du système, de la conception à la mise au rebut.
Robustesse
La capacité d'un système d'intelligence artificielle à maintenir une performance fiable dans une variété de conditions difficiles ou adverses.
Analyse des Causes Racines
Une enquête structurée visant à déterminer les raisons sous-jacentes des défaillances ou des comportements inattendus des systèmes d'IA, guidant les actions correctives.
Reasoning Chain
The multi-step logical process an AI agent follows to move from an initial objective to a final action or output.
S
Politique d'Utilisation Sanctionnée
Des règles et contrôles définis spécifiant les contextes, les utilisateurs et les objectifs approuvés pour le fonctionnement des systèmes d'intelligence artificielle afin de prévenir tout usage abusif.
Sécurité par Conception
Intégrer des contrôles de sécurité et des pratiques exemplaires dans les systèmes d'IA dès les premières phases de conception pour prévenir les vulnérabilités et les violations de données.
Intelligence Artificielle de l'Ombre
L'utilisation non autorisée de modèles d'IA, d'agents ou d'outils par les employés sans l'approbation du service informatique crée des vulnérabilités de sécurité cachées dues à des fuites de données et à des actions autonomes non autorisées.
Évaluation de l'Impact Sociétal
Une évaluation structurée de l'impact d'un système d'IA sur les aspects sociaux, économiques et culturels des communautés, identifiant les dommages potentiels et les avantages.
Cycle de vie du développement logiciel
Le processus de bout en bout (exigences, conception, construction, test, déploiement, surveillance) pour les applications d'IA, intégrant des vérifications de gouvernance et de conformité à chaque étape.
Engagement des parties prenantes
Le processus d'implication des parties affectées (par exemple, utilisateurs, régulateurs, communautés concernées) dans le développement et la supervision de l'IA afin de garantir des perspectives variées et leur approbation.
Risque de Surveillance
La menace que les systèmes d'IA puissent être exploités pour une surveillance intrusive des individus ou des groupes, portant atteinte à la vie privée et aux libertés civiles.
Données Synthétiques
Jeux de données générés artificiellement qui imitent les distributions de données réelles, utilisés pour augmenter les ensembles d'entraînement tout en protégeant la confidentialité.
Shadow Agents
Unsanctioned autonomous AI agents deployed within an organization without governance team awareness, capable of taking actions that affect business systems and external parties.
Singapore Model AI Governance Framework
A voluntary guidance framework from Singapore's IMDA and PDPC for responsible AI deployment.
South Korea AI Basic Act
South Korea's comprehensive legal framework for AI development and trust.
SR 11-7 (Model Risk Management)
The foundational US Federal Reserve guidance for managing risks associated with the use of models in banking.
Statement of Applicability (SoA)
A document that identifies which ISO 42001 Annex A controls are relevant to an organization's AI Management System and explains why others were excluded.
Substantial Modification
A change to an AI system after it has been placed on the market that affects its compliance or intended purpose under the EU AI Act.
System of Record
The authoritative data source for a given data element or piece of information within an organization.
Systemic Risk Threshold
The technical or capability-based limit (e.g., 10^25 FLOPs) that classifies a General-Purpose AI model as posing a high level of risk to society.
T
Risque de queue
Le potentiel de résultats rares et extrêmes dans le comportement ou la prise de décision de l'IA qui dépassent les attentes normales et nécessitent une planification spéciale d'atténuation.
Test et Validation
Le processus systématique d'évaluation des modèles d'IA par rapport à des références, des cas limites et des conditions de stress pour garantir qu'ils répondent aux critères de performance, de sécurité et de conformité.
Risque lié aux tiers
L'exposition résultant de la dépendance envers des fournisseurs de données externes, des vendeurs de modèles ou des plateformes de services qui pourraient introduire des vulnérabilités de conformité ou de sécurité.
Paramétrage du Seuil
Définir des limites ou des valeurs seuil dans les règles de décision de l'IA (par exemple, les scores de confiance) afin de trouver un équilibre entre les risques tels que les faux positifs et les faux négatifs.
Traçabilité
La capacité à suivre et à documenter chaque étape du cycle de vie de l’IA — de la collecte des données au développement des modèles jusqu’au déploiement — afin de faciliter les audits et les analyses forensiques.
Ensemble de données de formation
La collection soigneusement sélectionnée de données annotées ou non annotées utilisée pour enseigner à un modèle d'intelligence artificielle les relations et les modèles qu'il doit apprendre pour accomplir sa tâche.
Apprentissage par Transfert
Une technique où un modèle développé pour une tâche est adapté à une tâche connexe, réduisant ainsi le temps de développement, mais nécessitant la gouvernance des biais hérités.
Transparence
La pratique consistant à rendre les processus des systèmes d'IA, la logique de décision, et l'utilisation des données clairs et compréhensibles pour les parties prenantes afin d'assurer la responsabilité.
IA fiable
Des systèmes d'IA conçus et exploités de manière éthique, fiable, sûre et en adéquation avec les valeurs humaines et les normes sociétales.
Trilogue
The informal three-way negotiation between the European Commission, the Council of the European Union, and the European Parliament used to reach political agreement on EU legislation before formal adoption.
Vous
Sous-ajustement
Un problème de modélisation où un système d'IA est trop simpliste pour saisir les motifs sous-jacents des données, entraînant des performances médiocres tant sur les données d'entraînement que sur les nouvelles données.
Uniformité
Assurer une application cohérente des politiques, contrôles et normes à travers tous les systèmes d'IA pour éviter les lacunes de gouvernance ou une gestion des risques inégale.
Apprentissage Non Supervisé
Une approche d'apprentissage automatique où les modèles identifient des motifs ou des regroupements dans des données non étiquetées sans orientation explicite sur les résultats.
Surveillance de la disponibilité
Suivi continu de la disponibilité et des performances des systèmes d'IA pour détecter les pannes ou les dégradations pouvant affecter les opérations critiques ou les obligations de conformité.
Gouvernance des Cas d'Utilisation
La pratique de définir, approuver et surveiller des cas d'utilisation spécifiques de l'IA pour s'assurer que chacun est conforme aux politiques organisationnelles, aux normes éthiques et à l'appétit pour le risque.
Consentement de l'utilisateur
Le processus d'obtention et d'enregistrement d'une autorisation explicite de la part des individus avant de collecter, traiter ou utiliser leurs données personnelles dans des systèmes d'IA.
Utilité
Une mesure de la valeur ou de l'efficacité d'un système d'IA à atteindre ses objectifs visés, équilibrée par rapport aux risques ou aux coûts en ressources associés.
UK AI Opportunities Action Plan
The UK government's strategic roadmap for maximizing AI benefits while establishing targeted, binding safety rules.
V
Validation
Le processus de confirmation qu'un modèle d'intelligence artificielle fonctionne de manière précise et fiable sur les tâches prévues et répond aux critères de performance définis.
Surveillance des Variances
Suivi des fluctuations des sorties des modèles d'IA ou des indicateurs de performance au fil du temps pour détecter les dérives et en déduire une éventuelle dégradation ou un risque.
Gestion des Risques Fournisseurs
Évaluer et surveiller les fournisseurs tiers de composants ou services d'IA pour identifier et atténuer les risques potentiels de conformité, de sécurité ou d'éthique.
Contrôle de Version
La pratique de la gestion et du suivi des modifications du code de l'IA, des modèles et des ensembles de données au fil du temps pour garantir la reproductibilité et l'auditabilité.
Autorité de Veto
Le droit formel détenu par un organe de gouvernance ou un intervenant pour bloquer ou exiger des modifications des déploiements d'IA présentant des risques inacceptables.
Surveillance de la Vigilance
Surveillance continue du comportement de l'IA et des signaux externes (par exemple, les mises à jour réglementaires) afin d'identifier et de répondre rapidement aux risques émergents ou aux non-conformités.
Surveillance IA Vision
Les processus de gouvernance spécifiques aux systèmes de vision par ordinateur, garantissant la qualité des données, les vérifications des biais et la transparence dans la prise de décision basée sur des images et des vidéos.
Évaluation des vulnérabilités
Identifier, analyser et prioriser les faiblesses de sécurité dans l'infrastructure et les applications d'IA afin de guider les efforts de remédiation.
Version Pinning
The practice of locking an AI system to a specific, tested version of a foundation model to prevent silent updates from changing system behavior.
W
Surveillance Surveillance
Contrôles d'exécution indépendants qui observent les décisions de l'IA et déclenchent des alertes ou des interventions lorsque des politiques ou des seuils sont enfreints.
Audit de Poids
Examiner les poids et les structures des modèles pour détecter des anomalies, des portes dérobées ou des biais pouvant indiquer une altération ou des comportements non souhaités.
Testage en boîte blanche
Évaluer les systèmes d'IA avec une pleine connaissance du fonctionnement interne (code, paramètres, architecture) pour vérifier l'exactitude, la sécurité et la conformité.
Politique de liste blanche/liste noire
Règle de gouvernance définissant les entrées, caractéristiques ou opérations autorisées (liste blanche) et interdites (liste noire) afin d'assurer la conformité et de prévenir tout abus.
Mise en liste blanche
Autoriser uniquement des sources de données, des bibliothèques ou des composants de modèle pré-approuvés dans les processus d'IA afin de réduire les risques liés à des éléments non vérifiés ou malveillants.
Orchestration des flux de travail
Automatisation et séquençage des tâches du cycle de vie de l'IA (ingestion de données, formation, validation, déploiement) pour appliquer les politiques de gouvernance et garantir la cohérence.
Segmentation des charges de travail
Séparer les environnements de calcul IA (par exemple, développement, test, production) et les domaines de données afin de limiter l'impact des pannes ou des violations de sécurité.
Analyse du pire des cas
Évaluer les échecs ou abus potentiels les plus extrêmes d'un système d'IA afin d'informer une atténuation des risques et une planification de contingence robustes.
Stockage WORM (Write-Once Read-Many)
Stockage immuable garantissant que les journaux, pistes d'audit et artefacts de modèles ne peuvent pas être modifiés une fois écrits, soutenant ainsi la non-répudiation et l'examen médico-légal.
Watermarking
The practice of embedding detectable, machine-readable provenance markers in AI-generated output, such as images, audio, video, and synthetic text, so downstream consumers and platforms can identify content as AI-generated.
X
X-Validation
Une technique de validation de modèle (souvent abrégée « X-Val ») qui partitionne les données en segments afin d'évaluer rigoureusement la généralisation du modèle et de détecter les surapprentissages.
XAI (IA Explicable)
Techniques et méthodes qui rendent le processus de décision d'un modèle d'IA transparent et compréhensible pour les humains, favorisant ainsi la responsabilité et la conformité.
Audit XAI
Un processus de révision qui évalue si les résultats de l'explicabilité de l'IA satisfont aux politiques internes et aux exigences réglementaires, garantissant une transparence suffisante.
Cadre XAI
Une approche structurée ou un ensemble de directives qu'organisations utilisent pour mettre en œuvre, mesurer et régir les pratiques d'explicabilité au sein de leurs systèmes d'IA.
Métriques XAI
Mesures quantitatives ou qualitatives (par exemple, scores d'importance des fonctionnalités, fidélité des explications) utilisées pour évaluer la qualité et la fiabilité des explications d'IA.
Oui
Règles YARA
Un ensemble de modèles de détection basés sur des signatures utilisés pour analyser les pipelines et les artefacts d'IA afin de détecter des codes malveillants connus ou des altérations.
Revue Annuelle de Conformité
Une évaluation annuelle des processus, des politiques et des systèmes de gouvernance de l'IA pour garantir une conformité continue aux réglementations et aux normes internes.
Z
Tolérance Zéro Défaut
Un principe de gouvernance visant l'absence d'erreurs ou de violations de politique dans les résultats de l'IA, soutenu par des cycles rigoureux de test, de surveillance et d'amélioration continue.
Vulnérabilité Zéro Jour
Une faille de sécurité précédemment inconnue dans le logiciel ou l'infrastructure d'IA qui peut être exploitée avant qu'un correctif ou une atténuation ne soit disponible.
Apprentissage sans supervision
Une capacité modèle pour gérer correctement les tâches ou classer les données sur lesquelles il n'a jamais été explicitement formé en utilisant des représentations de connaissances généralisées.
Contrôle d'accès par zone
Une approche de gouvernance réseau ou de données qui divise les ressources en zones avec des politiques distinctes, restreignant l'accès des systèmes d'IA en fonction de la sensibilité des données.
Rejoignez notre bulletin d'information
En vous inscrivant, vous acceptez la Politique de Confidentialité d'Enzai
Rejoignez notre bulletin d'information
En vous inscrivant, vous acceptez la Politique de Confidentialité d'Enzai
Rejoignez notre bulletin d'information
En vous inscrivant, vous acceptez la Politique de Confidentialité d'Enzai
Rejoignez notre bulletin d'information
En vous inscrivant, vous acceptez la Politique de Confidentialité d'Enzai
Gouvernance de l'IA
Gouvernance de l'IA
Infrastructure
Infrastructure
conçu pour la Confiance.
conçu pour la Confiance.
Donnez à votre organisation les moyens d'adopter, de gérer et de surveiller l'IA avec une confiance de niveau entreprise. Conçu pour les organisations réglementées opérant à grande échelle.
Connectez sans effort vos systèmes existants, vos politiques et vos flux de travail d'IA — le tout sur une plateforme unifiée.
Connectez sans effort vos systèmes existants, vos politiques et vos flux de travail d'IA — le tout sur une plateforme unifiée.