Blog
•
19 min de lecture
Chaque système d'IA déployé dans l'Union européenne ou l'affectant s'inscrit désormais dans un spectre de risques à quatre niveaux. Ce positionnement n'est pas un exercice théorique. Il détermine si une organisation n'est soumise à aucune charge réglementaire, à un ensemble restreint d'obligations de transparence, à un régime de conformité complet coûtant des centaines de milliers d'euros, ou à une interdiction pure et simple. C'est dans la sous-classification que réside le véritable coût : mesures d'exécution, amendes pouvant atteindre 35 millions d'euros ou 7 % du chiffre d'affaires mondial, et atteinte à la réputation qu'aucun plan de remédiation ne peut effacer rapidement [1].
Le cadre de classification des risques de l'EU AI Act est, en apparence, simple. En pratique, les frontières entre les niveaux sont moins nettes que ne le suggère le texte législatif. Des systèmes qui semblent s'inscrire parfaitement dans une catégorie peuvent, à y regarder de plus près, chevaucher deux niveaux. Ce guide propose un parcours structuré à travers cette complexité.
Les quatre niveaux de risque
Le règlement sur l'IA établit quatre niveaux de risque, chacun comportant un ensemble distinct d'obligations. Comprendre ce que chaque niveau exige est une condition préalable à une classification précise.
Risque inacceptable (prohibé)
L'article 5 du règlement sur l'IA identifie les pratiques d'IA considérées comme si fondamentalement menaçantes pour la sécurité, les moyens de subsistance et les droits qu'elles sont purement et simplement interdites. Celles-ci comprennent les systèmes de notation sociale gérés par les autorités publiques ou en leur nom, l'identification biométrique à distance en temps réel dans les espaces accessibles au public à des fins de maintien de l'ordre (sous réserve d'exceptions limitées), les systèmes d'IA qui exploitent les vulnérabilités de groupes spécifiques en raison de leur âge, de leur handicap ou de leur situation sociale, et les systèmes déployant des techniques subliminales au-delà de la conscience d'une personne afin de modifier matériellement son comportement d'une manière qui cause un préjudice [2].
Il n'existe aucune voie de conformité pour les systèmes interdits. La seule réponse légale est d'en cesser le déploiement.
Risque élevé
Les systèmes à haut risque constituent le centre de gravité réglementaire. Ils sont soumis aux obligations les plus détaillées : systèmes de gestion des risques, exigences de gouvernance des données, documentation technique, conservation des registres, dispositions relatives à la transparence, mécanismes de contrôle humain, et exigences de précision, de robustesse et de cybersécurité [3]. Deux voies mènent à une classification à haut risque, détaillées ci-dessous.
C'est à ce niveau que se concentre la majeure partie des efforts de conformité des entreprises, et que les erreurs de classification entraînent les coûts les plus élevés.
Risque limité
Les systèmes classés comme présentant un risque limité sont uniquement soumis à des obligations de transparence. L'exigence principale est l'obligation d'information : les utilisateurs doivent être informés qu'ils interagissent avec un système d'IA. Ce niveau englobe les agents conversationnels (chatbots), les systèmes de reconnaissance des émotions n'entrant pas dans la catégorie des pratiques interdites, les générateurs de deepfakes, ainsi que les systèmes d'IA qui génèrent ou manipulent des contenus textuels, audio ou d'images [4].
Le risque limité est le mécanisme du règlement pour gérer la tromperie sans imposer l'ensemble de l'appareil de conformité.
Risque minimal
La vaste majorité des systèmes d'IA relèvent de cette catégorie. Les filtres anti-spam, les jeux vidéo dotés d'IA, les algorithmes de gestion des stocks : ces systèmes ne sont soumis à aucune obligation spécifique en vertu du règlement, bien que des codes de conduite volontaires soient encouragés [5].
Le risque minimal est l'option par défaut. Un système ne monte dans le spectre que s'il répond à des critères définis pour l'un des niveaux supérieurs.
L'arbre de décision : classer étape par étape
La classification des risques au titre de l'EU AI Act requiert une analyse séquentielle. L'arbre de décision suivant reflète la logique des articles 5, 6 et 7, et fournit le même processus reproductible que les flux de travail de classification d'Enzai automatisent pour les équipes d'entreprises traitant des dizaines ou des centaines de systèmes.
Étape 1 : Le système relève-t-il des interdictions de l'article 5 ?
Examinez la finalité et le fonctionnement du système au regard de chaque pratique interdite. Si le système réalise de l'identification biométrique en temps réel dans l'espace public à des fins répressives, manipule des personnes par des techniques subliminales causant un préjudice, exploite des vulnérabilités spécifiques ou permet la notation sociale par des autorités publiques, il est interdit.
Si oui : le système présente un Risque inacceptable. Arrêtez-vous ici.
Si non : passez à l'étape 2.
Étape 2 : Le système est-il un composant de sécurité d'un produit couvert par la législation d'harmonisation de l'UE figurant à l'annexe I, ou le système est-il lui-même un tel produit ?
L'annexe I énumère les directives et règlements existants de l'UE relatifs à la sécurité des produits, notamment ceux qui couvrent les machines, les jouets, les dispositifs médicaux, l'aviation civile, les véhicules à moteur et les systèmes ferroviaires [6]. Si le système d'IA sert de composant de sécurité au sein de l'un de ces produits réglementés, ou si le système lui-même est le produit réglementé, il est qualifié de haut risque en vertu de l'article 6, paragraphe 1. De plus, ces systèmes requièrent une évaluation de la conformité par un tiers au titre de la législation sectorielle applicable.
Si oui : le système est à Risque élevé via l'article 6, paragraphe 1. Passez aux obligations post-classification.
Si non : passez à l'étape 3.
Étape 3 : Le système relève-t-il de l'une des catégories de cas d'usage énumérées à l'annexe III ?
L'annexe III énumère huit domaines d'application à haut risque. Si la destination du système correspond à l'une de ces catégories, il est provisoirement considéré à haut risque en vertu de l'article 6, paragraphe 2. C'est ici que l'analyse exige la plus grande précision, car les catégories de l'annexe III sont larges et dépendent des faits.
Si oui : passez à l'étape 4.
Si non : passez à l'étape 5.
Étape 4 : L'exception de l'article 6, paragraphe 3, s'applique-t-elle ?
L'article 6, paragraphe 3, a introduit une nuance importante dans le texte final. Même si un système relève de l'annexe III, il n'est pas considéré comme présentant un risque élevé s'il ne pose pas de risque significatif de préjudice pour la santé, la sécurité ou les droits fondamentaux. Plus précisément, un système est exempté s'il accomplit une tâche procédurale étroite, s'il améliore le résultat d'une activité humaine préalablement achevée, s'il détecte des schémas décisionnels sans remplacer ni influencer l'évaluation humaine, ou s'il effectue une tâche préparatoire à une évaluation pertinente pour les cas d'usage de l'annexe III [7].
Le fournisseur doit documenter les raisons pour lesquelles l'exception s'applique et notifier l'autorité nationale compétente avant de mettre le système sur le marché. Si l'autorité n'est pas d'accord, le système repasse sous le statut à haut risque.
Si l'article 6, paragraphe 3, s'applique : le système n'est pas à haut risque, mais les obligations de documentation et de notification subsistent. Classer comme risque limité ou minimal en fonction des critères de transparence.
Si l'article 6, paragraphe 3, ne s'applique pas : le système est à Risque élevé via l'article 6, paragraphe 2. Passez aux obligations post-classification.
Étape 5 : Le système nécessite-t-il des divulgations de transparence ?
Si le système interagit directement avec des personnes physiques (chatbots), génère ou manipule des contenus d'images, audio ou vidéo (deepfakes, IA générative), ou effectue de la reconnaissance d'émotions ou de la catégorisation biométrique en dehors des contextes interdits, il relève des obligations de transparence liées au risque limité [4].
Si oui : le système est à Risque limité.
Si non : le système est à Risque minimal. Aucune obligation spécifique ne s'applique.
La classification n'est fiable que dans la mesure de la rigueur appliquée à chaque étape. Pour les équipes travaillant sur plusieurs systèmes, la feuille de travail suivante peut être dupliquée et complétée pour chaque système d'IA de l'inventaire :
Étape | Question | Votre réponse | Niveau de risque en découlant | Responsable |
|---|---|---|---|---|
1 | Le système relève-t-il des interdictions de l'article 5 ? | Oui / Non | Si oui : Prohibé | |
2 | S'agit-il d'un composant de sécurité d'un produit de l'annexe I ? | Oui / Non | Si oui : Risque élevé (article 6(1)) | |
3 | S'inscrit-il dans une catégorie de cas d'usage de l'annexe III ? | Oui / Non / Catégorie : ___ | Si oui : Provisoirement à haut risque | |
4 | L'exception de l'article 6(3) s'applique-t-elle ? | Oui / Non / Justificatif : ___ | Si oui : Pas à haut risque | |
5 | Nécessite-t-il des divulgations de transparence ? | Oui / Non | Si oui : Risque limité | |
Final | Résultat de la classification | ___ | ___ |
Catégories de l'annexe III : exemples concrets en entreprise
L'annexe III est la passerelle vers la classification à haut risque pour la plupart des systèmes d'IA d'entreprise. Chacun des huit domaines mérite d'être examiné avec des exemples concrets, car le texte législatif utilise des termes généraux qu'il convient d'illustrer de manière pratique.
1. Identification et catégorisation biométriques
Cela couvre les systèmes d'identification biométrique à distance (hors temps réel à des fins de maintien de l'ordre, ce qui est interdit) et les systèmes de catégorisation biométrique qui attribuent des personnes physiques à des catégories basées sur des données biométriques. Un exemple en entreprise : un aéroport déployant la reconnaissance faciale pour la vérification automatisée de l'embarquement, ou un détaillant utilisant la catégorisation biométrique pour déduire les caractéristiques démographiques des acheteurs.
2. Gestion et exploitation des infrastructures critiques
Systèmes d'IA utilisés comme composants de sécurité dans la gestion et l'exploitation de la circulation routière, de l'approvisionnement en eau, en gaz, en chauffage et en électricité, ainsi que des infrastructures numériques. Les exemples incluent un système d'IA gérant l'équilibrage de la charge du réseau électrique, un algorithme de maintenance prédictive pour les installations de traitement de l'eau, ou un système d'optimisation des feux de signalisation déployé par une municipalité.
3. Éducation et formation professionnelle
Systèmes qui déterminent l'accès ou l'orientation au sein des établissements d'enseignement, ou qui évaluent les résultats de l'apprentissage. Une université utilisant un outil d'évaluation des admissions basé sur l'IA, un système de notation automatique des dissertations, ou une plateforme qui détermine l'orientation des étudiants dans des parcours académiques se qualifient tous.
4. Emploi, gestion des travailleurs et accès au travail indépendant
Systèmes d'IA utilisés pour le recrutement, la sélection, les décisions d'embauche, l'attribution des tâches, le suivi des performances ou les décisions de licenciement. Il s'agit de l'une des catégories les plus fréquemment activées dans les contextes d'entreprise. Un outil de tri des CV basé sur l'IA qui classe ou filtre les candidats, un algorithme de planification des effectifs qui répartit les équipes en fonction de la productivité attendue, ou un système d'évaluation des performances qui signale les employés en vue d'un licenciement potentiel entrent tous dans ce champ d'application.
5. Accès aux services privés essentiels et aux services publics, et bénéfice de ces services
Cela englobe les systèmes d'IA utilisés pour évaluer l'admissibilité aux prestations publiques, l'évaluation du crédit, l'évaluation des risques dans l'assurance-vie et l'assurance-maladie, et la hiérarchisation des interventions des services d'urgence. Un algorithme d'évaluation du crédit utilisé par une banque pour déterminer l'admissibilité à un prêt, un système d'IA qui trie les demandes de logement social, ou un modèle de tarification d'assurance qui fixe les primes en fonction des profils de risque individuels sont tous à haut risque dans cette catégorie.
6. Maintien de l'ordre
Systèmes d'IA utilisés par les autorités répressives pour l'évaluation des risques individuels, l'analyse polygraphique, l'évaluation de la fiabilité des preuves, la prédiction de la criminalité concernant des personnes physiques et le profilage dans le cadre d'enquêtes criminelles. Un outil de police prédictive qui identifie les personnes susceptibles de commettre des infractions, ou un système d'IA qui évalue la fiabilité des témoignages de témoins, sont couverts ici.
7. Migration, asile et contrôle des frontières
Systèmes utilisés pour évaluer les risques de sécurité posés par les personnes entrant dans l'UE, pour aider à l'examen des demandes d'asile, ou pour détecter, reconnaître ou identifier des personnes dans le contexte des migrations. Un outil d'évaluation des risques utilisé au contrôle des frontières pour signaler les voyageurs nécessitant un contrôle supplémentaire, ou un système d'IA qui analyse la cohérence des déclarations des demandeurs d'asile, se qualifient.
8. Administration de la justice et processus démocratiques
Systèmes d'IA destinés à aider les autorités judiciaires à rechercher et à interpréter les faits et le droit, ou systèmes utilisés pour influencer le résultat des élections. Un outil de recherche juridique qui suggère aux juges l'issue des affaires, ou un système utilisé pour cibler de manière ultra-précise la publicité politique sur la base du profilage des électeurs, relèvent de cette catégorie.
C'est la spécificité de la destination d'usage, et non la technologie sous-jacente, qui détermine la classification.
Cas limites et zones grises
Les limites des niveaux de risque du règlement sur l'IA sont mises à l'épreuve de manière particulièrement aiguë dans plusieurs scénarios récurrents que rencontrent régulièrement les organisations utilisant des plateformes comme Enzai pour la gouvernance de l'IA.
Détection des émotions : le contexte détermine tout
La reconnaissance des émotions sur le lieu de travail et dans les établissements d'enseignement entraîne des interdictions spécifiques ou une classification à haut risque. Mais la détection des émotions déployée dans un contexte de service client, comme un outil d'IA qui analyse le sentiment de l'appelant pour acheminer les tickets de support, ne relève pas de l'interdiction liée au lieu de travail. Elle peut toujours être qualifiée de risque limité en vertu des dispositions de transparence, ce qui nécessite une divulgation à l'appelant. Le facteur déterminant n'est pas la technologie, mais le contexte de déploiement et l'asymétrie de pouvoir entre les parties concernées [8].
Recommandations d'IA vs décisions d'IA
Un système qui recommande une décision à des fins de révision humaine se trouve dans une position différente de celle d'un système qui exécute cette décision de manière autonome. Un outil d'IA qui classe les candidats à un poste et présente une liste restreinte à un recruteur humain peut toujours être considéré à haut risque en vertu de l'annexe III (catégorie emploi), mais la nature du contrôle humain affecte les obligations spécifiques qui s'appliquent. Inversement, un système qui rejette automatiquement des demandes de prêt sans intervention humaine significative fait face à tout le poids des exigences applicables au haut risque. La question cruciale est de savoir si l'humain peut, de manière réaliste et systématique, passer outre le résultat de l'IA, ou si la recommandation du système fonctionne comme une décision de facto [9].
La voie d'auto-détermination de l'article 6, paragraphe 3
L'article 6, paragraphe 3, offre une issue à la classification à haut risque, mais elle est plus étroite que ce que beaucoup d'organisations supposent initialement. Un outil de tri de CV qui se contente de remettre en forme les candidatures selon une mise en page standardisée pourrait prétendre à l'exception, car il effectue une tâche préparatoire. Le même outil configuré pour classer les candidats ne le peut pas. Les organisations doivent résister à la tentation de qualifier la fonction de leur système sous son jour le plus favorable. Les autorités nationales conservent le pouvoir de reclassifier, et la charge de la documentation incombe au fournisseur. Les flux de travail de classification d'Enzai sont conçus pour mettre à l'épreuve tout recours à l'article 6, paragraphe 3, au regard des critères du règlement avant qu'une organisation ne s'engage sur une position.
Modèles d'IA à usage général dans les systèmes à haut risque
Lorsqu'un modèle d'IA à usage général est intégré dans un système à haut risque, les obligations incombent au déployeur qui configure le système pour le cas d'usage spécifique à haut risque, et pas uniquement au fournisseur du modèle. Une organisation qui ajuste un modèle de fondation pour l'évaluation du crédit hérite des obligations liées au haut risque, même si le modèle sous-jacent a été développé par un tiers [10].
Le positionnement d'un système sur le spectre des risques est rarement aussi évident qu'il y paraît de prime abord.
Le processus de classification : gouvernance et documentation
La classification des risques au titre de l'EU AI Act n'est pas une tâche réservée à un seul service. Elle requiert une contribution structurée de plusieurs disciplines et une piste documentaire capable de résister à l'examen des autorités de réglementation.
Qui doit être impliqué
Au minimum, le processus de classification devrait impliquer un conseiller juridique ayant une expertise réglementaire, l'équipe technique responsable de la conception et de la destination d'usage du système, un expert métier qui comprend le contexte opérationnel du déploiement, un responsable des risques ou de la conformité et, lorsque le système affecte les employés, des représentants du personnel ou de la direction des ressources humaines.
Un écueil fréquent consiste à déléguer la classification entièrement au service juridique ou entièrement à l'ingénierie. Les équipes juridiques peuvent manquer de la compréhension technique nécessaire pour évaluer si un système prend réellement des décisions autonomes ; les équipes d'ingénierie peuvent sous-estimer l'importance réglementaire du contexte opérationnel d'un système.
Comment documenter
La justification de la classification doit être enregistrée sous une forme qui peut être présentée à une autorité de contrôle nationale. La documentation doit inclure une description claire de la destination d'usage du système, les articles et annexes spécifiques pris en compte, le raisonnement ayant conduit au niveau de risque attribué, une analyse de l'article 6, paragraphe 3, le cas échéant, l'identification des personnes et des rôles impliqués dans l'évaluation, ainsi que la date de la classification et tout déclencheur de réévaluation prévu.
Gestion des désaccords
En cas de désaccord des parties prenantes internes sur la classification, la position la plus conservatrice doit prévaloir dans l'attente d'une analyse plus approfondie. Une organisation qui classe provisoirement un système à haut risque et le rétrograde ultérieurement s'expose à beaucoup moins de risques qu'une organisation qui opte pour une classification faible et se révèle par la suite non conforme. Les désaccords doivent être consignés dans la documentation, car ils démontrent la rigueur du processus et protègent l'organisation en cas d'enquête réglementaire.
La classification est un acte de gouvernance, non une formalité administrative.
Que se passe-t-il après la classification
Le niveau de risque attribué à un système détermine les obligations de conformité qui en découlent. L'écart entre les niveaux est considérable.
Systèmes interdits
L'obligation est absolue : ne pas développer, déployer ou mettre à disposition sur le marché de l'UE. Les systèmes existants doivent être démantelés. Il n'y a pas de période de transition pour les pratiques interdites [2].
Systèmes à haut risque
Les fournisseurs doivent mettre en œuvre un système de gestion des risques opérationnel tout au long du cycle de vie du système. Les pratiques de gouvernance des données doivent garantir que les ensembles de données d'entraînement, de validation et de test sont pertinents, représentatifs et exempts d'erreurs. Une documentation technique complète doit être rédigée avant la mise sur le marché du système. Le système doit être conçu de manière à permettre l'enregistrement automatique des événements. Les exigences de transparence imposent des instructions claires aux déployeurs. Les mesures de contrôle humain doivent permettre à des personnes physiques de comprendre et de surveiller le système, et de reprendre la main sur celui-ci. Les exigences en matière de précision, de robustesse et de cybersécurité doivent être respectées et maintenues [3].
Les déployeurs de systèmes à haut risque ont leurs propres obligations : réaliser des analyses d'impact sur les droits fondamentaux, veiller à ce que le contrôle humain soit opérationnellement efficace, surveiller le système conformément aux instructions du fournisseur et signaler les incidents graves.
Systèmes à risque limité
L'obligation principale est la transparence. Les utilisateurs doivent être informés qu'ils interagissent avec une IA. Les contenus générés ou manipulés par l'IA doivent être étiquetés comme tels. Les systèmes de reconnaissance des émotions doivent divulguer leur fonctionnement aux personnes concernées [4].
Systèmes à risque minimal
Aucune obligation contraignante ne s'applique. Les organisations sont encouragées à adopter des codes de conduite volontaires portant, entre autres sujets, sur la durabilité environnementale et la maîtrise de l'IA [5].
Les obligations associées à chaque niveau ne sont pas de simples aspirations. Ce sont des exigences exécutoires assorties de sanctions définies en cas de non-conformité.
Passer de la classification à la conformité
Déterminer le niveau de risque d'un système est la première étape d'un programme de conformité plus large, mais c'est l'étape dont tout le reste dépend. Une classification inexacte se répercute sur chaque décision ultérieure, depuis les ressources allouées à la documentation jusqu'à la voie d'évaluation de la conformité sélectionnée.
Les organisations qui gèrent des portefeuilles de systèmes d'IA à travers plusieurs juridictions et unités commerciales font face à ce défi à grande échelle. Le suivi des décisions de classification, la veille sur les mises à jour réglementaires susceptibles de modifier le niveau de risque d'un système et le maintien d'un registre vérifiable du raisonnement sous-jacent à chaque détermination nécessitent une infrastructure dédiée.
Pour les organisations cherchant à opérationnaliser la classification des risques de l'EU AI Act au sein de leur inventaire IA, Enzai fournit le cadre de gouvernance pour classer, documenter et surveiller les systèmes d'IA face à l'évolution des exigences réglementaires. Demandez une démonstration pour découvrir comment des flux de travail de classification structurés réduisent à la fois les risques de non-conformité et les efforts superflus.
Enzai est la plateforme leader en gouvernance de l'IA d'entreprise, spécialement conçue pour aider les organisations à passer d'une politique abstraite à un contrôle opérationnel. Notre plateforme de gestion des risques liés à l'IA fournit l'infrastructure spécialisée nécessaire pour gérer la gouvernance de l'IA agentielle, maintenir un inventaire IA complet et assurer la conformité à l'EU AI Act. En automatisant les processus complexes, Enzai permet aux entreprises de faire évoluer l'adoption de l'IA en toute confiance tout en maintenant l'alignement avec les normes mondiales telles que ISO 42001 et NIST.
Références
[1] Règlement (UE) 2024/1689, article 99 - Amendes.
[2] Règlement (UE) 2024/1689, article 5 - Pratiques d'intelligence artificielle interdites.
[3] Règlement (UE) 2024/1689, articles 8 à 15 - Exigences applicables aux systèmes d'IA à haut risque.
[4] Règlement (UE) 2024/1689, article 50 - Obligations de transparence applicables à certains systèmes d'IA.
[5] Règlement (UE) 2024/1689, article 95 - Codes de conduite pour les engagements volontaires pris par les fournisseurs de systèmes d'IA ne présentant pas de risque élevé.
[6] Règlement (UE) 2024/1689, annexe I - Législation d'harmonisation de l'Union.
[7] Règlement (UE) 2024/1689, article 6, paragraphe 3 - Règles de classification pour les systèmes d'IA à haut risque.
[8] Règlement (UE) 2024/1689, considérants 44 à 46 - Portée des interdictions relatives à la reconnaissance des émotions.
[9] Règlement (UE) 2024/1689, article 14 - Contrôle humain.
[10] Règlement (UE) 2024/1689, articles 51 à 56 - Obligations incombant aux fournisseurs de modèles d'IA à usage général.
Certifié ISO 27001 depuis 2023, audité chaque année par NQA
Traitement des données aligné sur le RGPD
Données clients hébergées sur AWS dans plusieurs régions
Utilisez votre propre modèle d’IA via une connexion privée
Identifiez l’IA utilisée par vos équipes, examinez-la avant sa mise en service, évaluez-la au regard des règles applicables et contrôlez ce que les agents peuvent faire. Conçu pour les organisations réglementées.