Tout système d'IA déployé dans l'Union européenne ou ayant des effets sur celle-ci s'inscrit désormais dans un spectre de risques à quatre niveaux. Ce classement n'est pas un exercice théorique. Il détermine si une organisation n'est soumise à aucune charge réglementaire, à un ensemble restreint d'obligations de transparence, à un régime complet d'évaluation de la conformité coûtant des centaines de milliers d'euros, ou à une interdiction pure et simple. C'est dans la sous-classification que réside le véritable coût : mesures d'exécution, amendes pouvant atteindre 35 millions d'euros ou 7 % du chiffre d'affaires mondial, et préjudice de réputation qu'aucun plan de remédiation ne peut effacer rapidement [1].

Le cadre de classification des risques de la législation de l'UE sur l'IA est, en apparence, simple. En pratique, les frontières entre les niveaux sont moins nettes que ne le suggère le texte législatif. Les systèmes qui semblent s'inscrire parfaitement dans une catégorie peuvent, après un examen plus approfondi, être à cheval sur deux d'entre elles. Ce guide propose une approche structurée pour naviguer dans cette complexité.

Les quatre niveaux de risque

Le règlement sur l'IA établit quatre niveaux de risque, chacun comportant un ensemble distinct d'obligations. Comprendre ce que chaque niveau exige est un préalable indispensable à une classification exacte.

Risque inacceptable (prohibé)

L'article 5 du règlement sur l'IA identifie les pratiques d'IA considérées comme si fondamentalement menaçantes pour la sécurité, les moyens de subsistance et les droits qu'elles sont purement et simplement interdites. Celles-ci comprennent les systèmes de notation sociale gérés par les autorités publiques ou pour leur compte, l'identification biométrique à distance en temps réel dans les espaces accessibles au public à des fins répressives (sous réserve d'exceptions limitées), les systèmes d'IA qui exploitent les vulnérabilités de groupes spécifiques en raison de leur âge, de leur handicap ou de leur situation sociale, et les systèmes déployant des techniques subliminales au-delà de la conscience d'une personne afin d'altérer de manière significative son comportement d'une manière qui cause un préjudice [2].

Il n'existe aucune voie de conformité pour les systèmes interdits. La seule réponse légale est de cesser leur déploiement.

Risque élevé

Les systèmes à haut risque constituent le centre de gravité réglementaire. Ils sont soumis aux obligations les plus détaillées : systèmes de gestion des risques, exigences en matière de gouvernance des données, documentation technique, conservation des registres, dispositions relatives à la transparence, mécanismes de contrôle humain, et exigences en matière d'exactitude, de robustesse et de cybersécurité [3]. Deux voies mènent à une classification à haut risque, détaillées ci-dessous.

C'est sur ce niveau que se concentre la majeure partie des efforts de conformité des entreprises, et c'est là que les erreurs de classification entraînent les coûts les plus élevés.

Risque limité

Les systèmes classés comme présentant un risque limité sont uniquement soumis à des obligations de transparence. L'exigence principale est l'information : les utilisateurs doivent être informés qu'ils interagissent avec un système d'IA. Ce niveau englobe les chatbots, les systèmes de reconnaissance des émotions qui ne relèvent pas de la catégorie interdite, les générateurs de deepfakes et les systèmes d'IA qui génèrent ou manipulent du texte, de l'audio ou des images [4].

Le risque limité est le mécanisme prévu par le règlement pour gérer la tromperie sans imposer l'ensemble de l'appareil de conformité.

Risque minimal

La grande majorité des systèmes d'IA entrent dans cette catégorie. Filtres anti-spam, jeux vidéo dotés d'IA, algorithmes de gestion des stocks : ces systèmes ne comportent aucune obligation spécifique en vertu du règlement, bien que des codes de conduite volontaires soient encouragés [5].

Le risque minimal est l'option par défaut. Un système ne monte dans le spectre que s'il répond à des critères définis pour l'un des niveaux supérieurs.

L'arbre de décision : classer étape par étape

La classification des risques au titre du règlement de l'UE sur l'IA nécessite une analyse séquentielle. L'arbre de décision suivant reflète la logique des articles 5, 6 et 7, et fournit le même processus reproductible que les flux de classification d'Enzai automatisent pour les équipes d'entreprise gérant des dizaines ou des centaines de systèmes.

Étape 1 : Le système relève-t-il des interdictions de l'article 5 ?

Examinez la finalité et le mécanisme du système au regard de chaque pratique interdite. Si le système réalise une identification biométrique en temps réel dans l'espace public à des fins répressives, manipule des personnes par des techniques subliminales causant un préjudice, exploite des vulnérabilités spécifiques ou permet une notation sociale par des autorités publiques, il est interdit.

Si oui : le système présente un Risque inacceptable. Arrêtez-vous ici.

Si non : passez à l'étape 2.

Étape 2 : Le système est-il un composant de sécurité d'un produit couvert par la législation d'harmonisation de l'UE figurant à l'annexe I, ou le système est-il lui-même un tel produit ?

L'annexe I énumère les directives et règlements existants de l'UE relatifs à la sécurité des produits, notamment ceux concernant les machines, les jouets, les dispositifs médicaux, l'aviation civile, les véhicules à moteur et les systèmes ferroviaires [6]. Si le système d'IA sert de composant de sécurité au sein de l'un de ces produits réglementés, ou si le système lui-même est le produit réglementé, il est qualifié de haut risque en vertu de l'article 6, paragraphe 1. De plus, ces systèmes requièrent une évaluation de la conformité par un tiers au titre de la législation sectorielle applicable.

Si oui : le système présente un Risque élevé en vertu de l'article 6, paragraphe 1. Passez aux obligations post-classification.

Si non : passez à l'étape 3.

Étape 3 : Le système relève-t-il de l'une des catégories de cas d'utilisation énumérées à l'annexe III ?

L'annexe III énumère huit domaines d'application à haut risque. Si l'usage prévu du système correspond à l'une de ces catégories, il est provisoirement classé comme étant à haut risque en vertu de l'article 6, paragraphe 2. C'est à cette étape que l'analyse exige la plus grande précision, car les catégories de l'annexe III sont larges et dépendent des faits.

Si oui : passez à l'étape 4.

Si non : passez à l'étape 5.

Étape 4 : L'exception de l'article 6, paragraphe 3, s'applique-t-elle ?

L'article 6, paragraphe 3, a introduit une nuance importante dans le texte final. Même si un système relève de l'annexe III, il n'est pas considéré comme étant à haut risque s'il ne présente pas de risque significatif de préjudice pour la santé, la sécurité ou les droits fondamentaux. Plus précisément, un système est exempté s'il effectue une tâche procédurale étroite, améliore le résultat d'une activité humaine préalablement réalisée, détecte des schémas décisionnels sans remplacer ni influencer l'évaluation humaine, ou effectue une tâche préparatoire à une évaluation pertinente pour les cas d'utilisation de l'annexe III [7].

Le fournisseur doit documenter les raisons pour lesquelles l'exception s'applique et notifier l'autorité nationale compétente avant de mettre le système sur le marché. Si l'autorité n'est pas d'accord, le système réintègre le statut de haut risque.

Si l'article 6, paragraphe 3, s'applique : le système n'est pas à haut risque, mais les obligations de documentation et de notification subsistent. Classer comme risque limité ou minimal en fonction des critères de transparence.

Si l'article 6, paragraphe 3, ne s'applique pas : le système présente un Risque élevé en vertu de l'article 6, paragraphe 2. Passez aux obligations post-classification.

Étape 5 : Le système nécessite-t-il des divulgations de transparence ?

Si le système interagit directement avec des personnes physiques (chatbots), génère ou manipule du contenu visuel, sonore ou vidéo (deepfakes, IA générative), ou effectue de la reconnaissance des émotions ou de la catégorisation biométrique en dehors des contextes interdits, il relève des obligations de transparence relatives au risque limité [4].

Si oui : le système présente un Risque limité.

Si non : le système présente un Risque minimal. Aucune obligation spécifique ne s'applique.

La fiabilité de la classification dépend de la rigueur appliquée à chaque étape. Pour les équipes travaillant sur plusieurs systèmes, la feuille de travail suivante peut être copiée et complétée pour chaque système d'IA de l'inventaire :

Catégories de l'annexe III : Exemples concrets pour l'entreprise

L'annexe III est la principale voie d'accès à la classification à haut risque pour la plupart des systèmes d'IA d'entreprise. Chacun des huit domaines mérite d'être examiné à l'aide d'exemples concrets, car le texte législatif utilise des termes généraux qui bénéficient d'une illustration pratique.

1. Identification et catégorisation biométriques

Cela couvre les systèmes d'identification biométrique à distance (hors temps réel à des fins répressives, ce qui est interdit) et les systèmes de catégorisation biométrique qui classent les personnes physiques sur la base de données biométriques. Exemple en entreprise : un aéroport déployant la reconnaissance faciale pour la vérification automatisée de l'embarquement, ou un distributeur utilisant la catégorisation biométrique pour déduire les attributs démographiques des acheteurs.

2. Gestion et exploitation des infrastructures critiques

Systèmes d'IA utilisés comme composants de sécurité dans la gestion et l'exploitation de la circulation routière, ainsi que de l'approvisionnement en eau, en gaz, en chauffage et en électricité, ainsi que des infrastructures numériques. Les exemples incluent un système d'IA gérant l'équilibrage de charge du réseau électrique, un algorithme de maintenance préventive pour les installations de traitement de l'eau, ou un système d'optimisation des feux de signalisation déployé par une municipalité.

3. Éducation et formation professionnelle

Systèmes qui déterminent l'accès ou l'affectation au sein des établissements d'enseignement, ou qui évaluent les résultats d'apprentissage. L'utilisation par une université d'un outil d'évaluation des admissions basé sur l'IA, d'un système automatisé de notation des devoirs ou d'une plateforme déterminant l'orientation des étudiants dans des filières académiques relève de cette catégorie.

4. Emploi, gestion des travailleurs et accès à l'emploi indépendant

Systèmes d'IA utilisés dans le recrutement, la sélection, les décisions d'embauche, l'attribution des tâches, le suivi des performances ou les décisions de licenciement. Il s'agit de l'une des catégories les plus fréquemment activées dans le contexte des entreprises. Un outil de tri de CV basé sur l'IA qui classe ou filtre les candidats, un algorithme de planification des effectifs qui attribue les équipes d'après la productivité prévue ou un système d'évaluation des performances qui signale des employés en vue d'un licenciement potentiel entrent tous dans ce champ d'application.

5. Accès aux services privés essentiels et aux services publics, et jouissance de ceux-ci

Cela englobe les systèmes d'IA utilisés pour évaluer l'éligibilité aux prestations publiques, l'évaluation de la solvabilité (credit scoring), l'évaluation des risques dans l'assurance-vie et l'assurance-maladie, ainsi que la priorisation des interventions des services d'urgence. Un algorithme d'évaluation du crédit utilisé par une banque pour accorder un prêt, un système d'IA qui trie les demandes de logement social ou un modèle de tarification d'assurance qui fixe les primes d'après des profils de risque individuels sont tous considérés comme présentant un risque élevé dans cette catégorie.

6. Activités répressives

Systèmes d'IA utilisés par les autorités répressives pour l'évaluation des risques individuels, l'analyse polygraphique, l'évaluation de la fiabilité des preuves, la prévision des infractions concernant les personnes physiques et le profilage dans le cadre d'enquêtes criminelles. Un outil de police prédictive qui identifie les personnes susceptibles de commettre des infractions, ou un système d'IA qui évalue la fiabilité des témoignages, sont couverts ici.

7. Migration, asile et contrôle aux frontières

Systèmes utilisés pour évaluer les risques de sécurité posés par les personnes entrant sur le territoire de l'UE, pour aider à l'examen des demandes d'asile ou pour détecter, reconnaître ou identifier des personnes dans le contexte des migrations. Un outil de profilage des risques utilisé au contrôle des frontières pour signaler des voyageurs en vue d'un contrôle approfondi, ou un système d'IA qui analyse la cohérence des déclarations des demandeurs d'asile, entrent dans cette catégorie.

8. Administration de la justice et processus démocratiques

Systèmes d'IA destinés à assister les autorités judiciaires dans la recherche et l'interprétation des faits et de la loi, ou systèmes utilisés pour influencer le résultat d'élections. Un outil de recherche juridique qui recommande des décisions aux juges, ou un système utilisé pour le ciblage publicitaire politique basé sur le profilage des électeurs, entrent dans cette catégorie.

C'est la spécificité de la finalité prévue, et non la technologie sous-jacente, qui détermine la classification.

Cas limites et zones grises

Les limites des niveaux de risque du règlement sur l'IA sont particulièrement mises à l'épreuve dans plusieurs scénarios récurrents que rencontrent régulièrement les organisations utilisant des plateformes comme Enzai pour la gouvernance de l'IA.

Détection des émotions : le contexte détermine tout

La reconnaissance des émotions sur le lieu de travail et dans les environnements éducatifs déclenche des interdictions spécifiques ou une classification à haut risque. En revanche, la détection des émotions déployée dans un contexte de service client, comme un outil d'IA qui analyse le sentiment d'un appelant pour orienter les tickets d'assistance, ne relève pas de l'interdiction liée au lieu de travail. Elle peut néanmoins être qualifiée de risque limité en vertu des dispositions relatives à la transparence, ce qui exige d'en informer l'appelant. Le facteur déterminant n'est pas la technologie, mais le contexte de déploiement et l'asymétrie de pouvoir entre les parties concernées [8].

Recommandations d'IA contre décisions d'IA

Un système qui recommande une décision soumise à validation humaine se trouve dans une situation différente de celle d'un système qui exécute cette décision de manière autonome. Un outil d'IA qui classe les candidats et présente une liste restreinte à un recruteur humain peut toujours être considéré comme présentant un risque élevé au titre de l'annexe III (catégorie emploi), mais la nature du contrôle humain influe sur les obligations spécifiques qui s'appliquent. À l'inverse, un système qui rejette automatiquement des demandes de prêt sans intervention humaine significative supporte tout le poids des obligations liées au haut risque. La question critique est de savoir si l'humain peut, de manière réaliste et courante, passer outre le résultat fourni par l'IA, ou si la recommandation du système fonctionne comme une décision de fait [9].

L'exception de l'article 6(3) : une voie d'auto-évaluation

L'article 6, paragraphe 3, offre une voie pour échapper à la classification à haut risque, mais elle est plus étroite que ce que beaucoup d'organisations imaginent initialement. Un outil de tri de CV qui se contente de reformater les candidatures selon une mise en page standardisée pourrait bénéficier de l'exception, car il effectue une tâche préparatoire. Le même outil configuré pour classer les candidats n'en bénéficie pas. Les organisations doivent résister à la tentation de qualifier la fonction de leur système sous le jour le plus favorable. Les autorités nationales conservent le pouvoir de reclasser les systèmes, et la charge de la documentation incombe au fournisseur. Les flux de classification d'Enzai sont conçus pour évaluer rigoureusement la validité des demandes d'exemption au titre de l'article 6, paragraphe 3, par rapport aux critères du règlement avant qu'une organisation ne s'engage.

Modèles d'IA à usage général dans les systèmes à haut risque

Lorsqu'un modèle d'IA à usage général est intégré dans un système à haut risque, les obligations incombent au déployeur qui configure le système pour ce cas d'utilisation spécifique à haut risque, et pas uniquement au fournisseur du modèle. Une organisation qui ajuste un modèle de fondation pour l'évaluation du crédit hérite des obligations liées au haut risque, même si le modèle sous-jacent a été développé par un tiers [10].

La position d'un système dans le spectre des risques est rarement aussi évidente qu'il n'y paraît au premier abord.

Le processus de classification : gouvernance et documentation

La classification des risques au titre du règlement de l'UE sur l'IA n'est pas une tâche réservée à une seule fonction. Elle requiert une contribution structurée de plusieurs disciplines et une traçabilité documentaire capable de résister aux contrôles réglementaires.

Qui doit être impliqué

Au minimum, le processus de classification doit associer un conseiller juridique disposant d'une expertise réglementaire, l'équipe technique responsable de la conception et de la finalité prévue du système, un expert métier qui comprend le contexte opérationnel du déploiement, un responsable des risques ou de la conformité et, lorsque le système affecte les employés, des représentants du personnel ou la direction des ressources humaines.

Un écueil courant consiste à déléguer entièrement la classification au service juridique ou à l'ingénierie. Les équipes juridiques peuvent manquer de la compréhension technique nécessaire pour évaluer si un système prend réellement des décisions autonomes ; les équipes d'ingénierie peuvent sous-estimer la portée réglementaire du contexte opérationnel d'un système.

Comment documenter

La justification de la classification doit être consignée sous une forme permettant d'être présentée à une autorité de contrôle nationale. La documentation doit inclure une description claire de la finalité prévue du système, les articles et annexes spécifiques pris en compte, le raisonnement ayant conduit au niveau attribué, une analyse de l'article 6, paragraphe 3, le cas échéant, l'identification des personnes et des rôles impliqués dans l'évaluation, ainsi que la date de la classification et les déclencheurs de révision prévus.

Gestion des désaccords

En cas de désaccord des parties prenantes internes sur la classification, la position la plus prudente doit prévaloir dans l'attente d'une analyse plus approfondie. Une organisation qui classe provisoirement un système comme étant à haut risque pour le déclasser ultérieurement s'expose à bien moins de risques qu'une organisation qui opte pour une classification basse et se trouve ultérieurement en situation de non-conformité. Les désaccords doivent être consignés dans la documentation, car ils démontrent la rigueur du processus et protègent l'organisation en cas d'enquête réglementaire.

La classification est un acte de gouvernance, non une simple formalité administrative.

Ce qui se passe après la classification

Le niveau de risque attribué à un système détermine les obligations de conformité qui en découlent. L'écart entre les niveaux est considérable.

Systèmes interdits

L'obligation est absolue : ne pas développer, déployer ou mettre à disposition sur le marché de l'UE. Les systèmes existants doivent être mis hors service. Il n'y a pas de période de transition pour les pratiques interdites [2].

Systèmes à haut risque

Les fournisseurs doivent mettre en œuvre un système de gestion des risques qui fonctionne tout au long du cycle de vie du système. Les pratiques de gouvernance des données doivent garantir que les ensembles de données d'entraînement, de validation et de test sont pertinents, représentatifs et exempts d'erreurs. Une documentation technique complète doit être rédigée avant la mise sur le marché du système. Le système doit être conçu pour permettre un enregistrement automatique des événements. Les exigences de transparence imposent des instructions claires pour les déployeurs. Les mesures de contrôle humain doivent permettre à des personnes physiques de comprendre, de surveiller et de corriger le fonctionnement du système. Les exigences en matière d'exactitude, de robustesse et de cybersécurité doivent être respectées et maintenues [3].

Les déployeurs de systèmes à haut risque ont leurs propres obligations : mener des analyses d'impact sur les droits fondamentaux, veiller à l'efficacité opérationnelle du contrôle humain, surveiller le système conformément aux instructions du fournisseur et signaler les incidents graves.

Systèmes à risque limité

L'obligation principale est la transparence. Les utilisateurs doivent être informés qu'ils interagissent avec une IA. Les contenus générés ou manipulés par l'IA doivent être étiquetés comme tels. Les systèmes de reconnaissance des émotions doivent divulguer leur fonctionnement aux personnes concernées [4].

Systèmes à risque minimal

Aucune obligation contraignante ne s'applique. Les organisations sont encouragées à adopter des codes de conduite volontaires portant, entre autres sujets, sur la durabilité environnementale et l'éducation à l'IA [5].

Les obligations à chaque niveau ne sont pas de simples recommandations. Ce sont des exigences exécutoires assorties de sanctions définies en cas de non-conformité.

Passer de la classification à la conformité

La détermination du niveau de risque d'un système est la première étape d'un programme de conformité plus vaste, mais c'est l'étape dont tout le reste dépend. Une classification erronée se répercute sur chaque décision ultérieure, depuis les ressources allouées à la documentation jusqu'à la voie d'évaluation de la conformité choisie.

Les organisations qui gèrent des portefeuilles de systèmes d'IA dans plusieurs juridictions et unités commerciales font face à ce défi à grande échelle. Le suivi des décisions de classification, la veille sur les mises à jour réglementaires susceptibles de modifier le niveau d'un système et le maintien d'un registre vérifiable des justifications de chaque décision nécessitent une infrastructure dédiée.

Pour les organisations qui souhaitent opérationnaliser la classification des risques liée au règlement sur l'IA de l'UE pour l'ensemble de leur parc applicatif d'IA, Enzai fournit le cadre de gouvernance pour classer, documenter et surveiller les systèmes d'IA face à l'évolution des exigences réglementaires. Demandez une démo pour découvrir comment nos processus de classification structurés réduisent à la fois le risque de non-conformité et les efforts superflus.

Enzai est la plateforme leader de gouvernance de l'IA d'entreprise, spécialement conçue pour aider les organisations à passer d'une politique abstraite à un contrôle opérationnel. Notre plateforme de gestion des risques d'IA fournit l'infrastructure spécialisée nécessaire pour gérer la gouvernance de l'IA agentive, maintenir un inventaire de l'IA complet, et garantir la conformité au règlement européen sur l'IA. En automatisant les flux de travail complexes, Enzai permet aux entreprises de faire progresser l'adoption de l'IA en toute confiance tout en restant alignées sur les normes mondiales telles que ISO 42001 et NIST.

Références

[1] Règlement (UE) 2024/1689, Article 99 - Amendes.

[2] Règlement (UE) 2024/1689, Article 5 - Pratiques en matière d'intelligence artificielle interdites.

[3] Règlement (UE) 2024/1689, Articles 8 à 15 - Exigences applicables aux systèmes d'IA à haut risque.

[4] Règlement (UE) 2024/1689, Article 50 - Obligations de transparence pour les systèmes d'IA à risque limité.

[5] Règlement (UE) 2024/1689, Article 95 - Codes de conduite pour les engagements volontaires des fournisseurs de systèmes d'IA ne présentant pas un risque élevé.

[6] Règlement (UE) 2024/1689, Annexe I - Législations d'harmonisation de l'Union.

[7] Règlement (UE) 2024/1689, Article 6(3) - Règles de classification pour les systèmes d'IA à haut risque.

[8] Règlement (UE) 2024/1689, Considérants 44 à 46 - Portée des interdictions de reconnaissance des émotions.

[9] Règlement (UE) 2024/1689, Article 14 - Contrôle humain.

[10] Règlement (UE) 2024/1689, Articles 51 à 56 - Obligations applicables aux fournisseurs de modèles d'IA à usage général.