Classification des risques selon l’AI Act de l’UE : comment déterminer le niveau de risque de votre système d’IA

Chaque système d'IA déployé au sein de l'Union européenne, ou ayant des effets sur celle-ci, s'inscrit désormais dans un spectre de risques à quatre niveaux. Ce positionnement n'est pas un exercice théorique. Il détermine si une organisation n'est soumise à aucune contrainte réglementaire, à un ensemble restreint d'obligations de transparence, à un régime de conformité global s'élevant à des centaines de milliers d'euros, ou à une interdiction pure et simple. Une erreur de classification, dans un sens comme dans l'autre, entraîne des conséquences matérielles majeures : une surclassification engendre une déperdition de ressources dans une infrastructure de conformité qui n'a jamais été requise ; une sousclassification expose l'organisation à des mesures d'exécution, à des amendes pouvant atteindre 35 millions d'euros ou 7 % du chiffre d'affaires mondial, ainsi qu'à une atteinte à la réputation qu'aucun plan de remédiation ne saurait rapidement effacer [1].

Le cadre de classification des risques de la loi européenne sur l'IA est, en apparence, simple. En pratique, les frontières entre les différents niveaux sont moins nettes que ne le suggère le texte législatif. Des systèmes qui semblent s'inscrire parfaitement dans une catégorie peuvent, après un examen plus approfondi, se situer à cheval sur deux niveaux. Ce guide propose un parcours structuré pour surmonter cette complexité.

Les Quatre Niveaux de Risque

La loi sur l'IA établit quatre niveaux de risque, chacun comportant un ensemble distinct d'obligations. Comprendre les exigences de chaque niveau est une condition préalable à une classification rigoureuse.

Risque Inacceptable (Interdit)

L'article 5 de la loi sur l'IA identifie les pratiques d'IA jugées si fondamentalement menaçantes pour la sécurité, les moyens de subsistance et les droits qu'elles sont purement et simplement interdites. Celles-ci comprennent les systèmes de notation sociale gérés par les autorités publiques ou pour leur compte, l'identification biométrique à distance en temps réel dans les espaces accessibles au public à des fins répressives (sous réserve d'exceptions étroites), les systèmes d'IA qui exploitent les vulnérabilités de groupes spécifiques en raison de leur âge, de leur handicap ou de leur situation sociale, ainsi que les systèmes déployant des techniques subliminales au-delà de la conscience d'une personne afin de modifier substantiellement son comportement d'une manière qui cause un préjudice [2].

Il n'existe aucune voie de conformité pour les systèmes interdits. La seule réponse légale consiste à cesser leur déploiement.

Risque Élevé

Les systèmes à haut risque constituent le centre de gravité de la réglementation. Ils sont soumis aux obligations les plus détaillées : systèmes de gestion des risques, exigences de gouvernance des données, documentation technique, conservation des registres, dispositions relatives à la transparence, mécanismes de contrôle humain et exigences de précision, de robustesse et de cybersécurité [3]. Deux voies mènent à une classification à haut risque, détaillées ci-dessous.

C'est à ce niveau que se concentre la majeure partie des efforts de conformité des entreprises, et que les erreurs de classification s'avèrent les plus coûteuses.

Risque Limité

Les systèmes classés comme présentant un risque limité sont uniquement soumis à des obligations de transparence. L'exigence principale est l'obligation d'information : les utilisateurs doivent être informés qu'ils interagissent avec un système d'IA. Ce niveau englobe les agents conversationnels, les systèmes de reconnaissance des émotions ne relevant pas de la catégorie interdite, les générateurs de deepfakes et les systèmes d'IA qui génèrent ou manipulent du contenu textuel, audio ou d'image [4].

Le risque limité est le mécanisme prévu par la loi pour encadrer la déception potentielle sans pour autant imposer l'ensemble de l'appareil de conformité réglementaire.

Risque Minimal

La grande majorité des systèmes d'IA entrent dans cette catégorie. Filtres anti-spam, jeux vidéo dotés d'IA, algorithmes de gestion des stocks : ces systèmes ne comportent aucune obligation spécifique en vertu de la loi, bien que des codes de conduite volontaires soient encouragés [5].

Le risque minimal constitue la catégorie par défaut. Un système ne monte dans l'échelle des risques que s'il répond à des critères précis définissant l'un des niveaux supérieurs.

L'Arbre de Décision : Classifier Étape par Étape

La classification des risques au titre de la loi européenne sur l'IA exige une analyse séquentielle. L'arbre de décision suivant reflète la logique des articles 5, 6 et 7, et fournit le même processus reproductible que les workflows de classification d'Enzai automatisent pour les équipes opérationnelles gérant des dizaines ou des centaines de systèmes.

Étape 1 : Le système relève-t-il des interdictions de l'article 5 ?

Examinez la finalité et le mécanisme du système au regard de chaque pratique interdite. Si le système réalise de l'identification biométrique en temps réel dans l'espace public à des fins répressives, manipule des personnes par des techniques subliminales causant un préjudice, exploite des vulnérabilités spécifiques ou permet une notation sociale par des autorités publiques, il est刑事ement interdit.

Si oui : le système présente un Risque Inacceptable. Arrêtez-vous ici.

Si non : passez à l'étape 2.

Étape 2 : Le système constitue-t-il un composant de sécurité d'un produit couvert par la législation d'harmonisation de l'UE figurant à l'annexe I, ou le système lui-même est-il un tel produit ?

L'annexe I énumère les directives et règlements existants de l'UE relatifs à la sécurité des produits, notamment ceux concernant les machines, les jouets, les dispositifs médicaux, l'aviation civile, les véhicules à moteur et les systèmes ferroviaires [6]. Si le système d'IA fait office de composant de sécurité au sein de l'un de ces produits réglementés, ou si le système lui-même est le produit réglementé, il est qualifié de haut risque en vertu de l'article 6(1). De manière cruciale, ces systèmes requièrent également une évaluation de la conformité par un tiers au titre de la législation sectorielle applicable.

Si oui : le système présente un Risque Élevé en vertu de l'article 6(1). Passez aux obligations post-classification.

Si non : passez à l'étape 3.

Étape 3 : Le système relève-t-il de l'une des catégories de cas d'usage énumérées à l'annexe III ?

L'annexe III énumère huit domaines d'application à haut risque. Si la destination finale du système correspond à l'une de ces catégories, il est provisoirement considéré à haut risque en vertu de l'article 6(2). C'est ici que l'analyse exige la plus grande précision, car les catégories de l'annexe III sont larges et dépendent fortement des faits.

Si oui : passez à l'étape 4.

Si non : passez à l'étape 5.

Étape 4 : L'exception de l'article 6(3) s'applique-t-elle ?

L'article 6(3) a introduit une nuance significative dans le texte final. Même si un système relève de l'annexe III, il n'est pas considéré à haut risque s'il ne présente pas de risque significatif de préjudice pour la santé, la sécurité ou les droits fondamentaux. Plus précisément, un système est exempté s'il accomplit une tâche procédurale étroite, améliore le résultat d'une activité humaine préalablement réalisée, détecte des schémas décisionnels sans remplacer ni influencer l'évaluation humaine, ou effectue une tâche préparatoire à une évaluation pertinente au titre des cas d'usage de l'annexe III [7].

Le fournisseur doit documenter les raisons pour lesquelles l'exception s'applique et en informer l'autorité nationale compétente avant de mettre le système sur le marché. Si l'autorité conteste cette position, le système retourne à son statut de haut risque.

Si l'article 6(3) s'applique : le système n'est pas à haut risque, mais les obligations de documentation et de notification demeurent. Classer en risque limité ou minimal en fonction des critères de transparence.

Si l'article 6(3) ne s'applique pas : le système présente un Risque Élevé en vertu de l'article 6(2). Passez aux obligations post-classification.

Étape 5 : Le système requiert-il des divulgations de transparence ?

Si le système interagit directement avec des personnes physiques (agents conversationnels), génère ou manipule des contenus d'images, audio ou vidéo (deepfakes, IA générative), ou effectue de la reconnaissance des émotions ou de la catégorisation biométrique en dehors des contextes interdits, il relève des obligations de transparence liées au risque limité [4].

Si oui : le système présente un Risque Limité.

Si non : le système présente un Risque Minimal. Aucune obligation spécifique ne s'applique.

La classification n'est fiable qu'à la hauteur de la rigueur appliquée à chaque étape. Pour les équipes travaillant sur plusieurs systèmes, la feuille de travail suivante peut être dupliquée et complétée pour chaque système d'IA de l'inventaire :

Catégories de l'Annexe III : Exemples Concrets pour l'Entreprise

L'annexe III est la porte d'entrée de la classification à haut risque pour la plupart des systèmes d'IA d'entreprise. Chacun des huit domaines mérite un examen assorti d'exemples concrets, car le texte législatif utilise une formulation large qui gagne à être illustrée de façon pratique.

1. Identification et Catégorisation Biométriques

Cette catégorie couvre les systèmes d'identification biométrique à distance (à l'exclusion de l'identification en temps réel à des fins répressives, qui est interdite) et les systèmes de catégorisation biométrique qui classent des personnes physiques en fonction de données biométriques. Exemple d'entreprise : un aéroport déployant la reconnaissance faciale pour la vérification automatisée de l'embarquement, ou un détaillant utilisant la catégorisation biométrique pour déduire les caractéristiques démographiques des acheteurs.

2. Gestion et Exploitation des Infrastructures Critiques

Systèmes d'IA utilisés comme composants de sécurité dans la gestion et l'exploitation de la circulation routière, de l'eau, du gaz, du chauffage, de l'approvisionnement en électricité ainsi que des infrastructures numériques. Les exemples incluent un système d'IA gérant l'équilibrage de charge du réseau électrique, un algorithme de maintenance prédictionnelle pour les installations de traitement des eaux, ou un système d'optimisation des feux de circulation déployé par une autorité municipale.

3. Éducation et Formation Professionnelle

Systèmes qui déterminent l'accès ou l'orientation au sein des établissements d'enseignement, ou qui évaluent les résultats de l'apprentissage. Cela concerne une université utilisant un outil automatisé de notation des dossiers d'admission, un système de correction automatique des dissertations, ou une plateforme qui détermine l'affectation des étudiants dans les filières académiques.

4. Emploi, Gestion des Travailleurs et Accès à l'Emploi Non Salarié

Systèmes d'IA utilisés pour le recrutement, la sélection, les décisions d'embauche, l'attribution des tâches, le suivi des performances ou les décisions de licenciement. Il s'agit de l'une des catégories les plus fréquemment activées dans le contexte de l'entreprise. Un outil d'analyse de CV basé sur l'IA qui classe ou filtre les candidats, un algorithme de planification des effectifs qui répartit les équipes en fonction de la productivité prévisionnelle, ou un système d'évaluation des performances qui signale les employés en vue d'un licenciement potentiel entrent tous dans ce champ d'application.

5. Accès aux Services Privés Essentiels et aux Services Publics, et Jouissance de Ceux-ci

Cela englobe les systèmes d'IA utilisés pour évaluer l'éligibilité aux prestations publiques, aux analyses de solvabilité (credit scoring), pour l'évaluation des risques dans l'assurance-vie et santé, ainsi que la priorisation des interventions des services d'urgence. Un algorithme de scoring de crédit utilisé par une banque pour évaluer l'éligibilité à un prêt, un système d'IA qui trie les demandes de logement social, ou un modèle de tarification d'assurance qui fixe les primes en fonction des profils de risque individuels sont tous à haut risque sous cette catégorie.

6. Activités Répressives

Systèmes d'IA utilisés par les autorités répressives pour l'évaluation des risques individuels, l'analyse polygraphique, l'évaluation de la fiabilité des preuves, la prédiction d'infractions concernant des personnes physiques et le profilage dans le cadre d'enquêtes criminelles. Un outil de police prédictive identifiant les personnes susceptibles de commettre des infractions, ou un système d'IA qui évalue la fiabilité du témoignage d'un témoin, sont couverts ici.

7. Migration, Asile et Contrôle des Frontières

Systèmes utilisés pour évaluer les risques en matière de sécurité posés par les personnes entrant sur le territoire de l'UE, pour aider à l'examen des demandes d'asile ou pour détecter, reconnaître ou identifier des personnes dans le cadre des migrations. Un outil de traitement des risques utilisé au contrôle des frontières pour signaler les voyageurs nécessitant des contrôles supplémentaires, ou un système d'IA qui analyse la cohérence des déclarations des demandeurs d'asile, relèvent de cette catégorie.

8. Administration de la Justice et Processus Démocratiques

Systèmes d'IA destinés à assister les autorités judiciaires dans la recherche et l'interprétation des faits et du droit, ou systèmes utilisés pour influencer le résultat des élections. Un outil de recherche juridique recommandant des solutions jurisprudentielles aux juges, ou un système destiné à cibler des publicités politiques de manière ultra-personnalisée sur la base du profilage des électeurs, s'inscrivent dans cette catégorie.

C'est la spécificité de la destination finale, et non la technologie sous-jacente, qui détermine la classification.

Cas Limites et Zones d'Ombre

Les frontières des niveaux de risque de la loi sur l'IA sont particulièrement mises à l'épreuve dans plusieurs scénarios récurrents, fréquemment rencontrés par les organisations qui s'appuient sur des plateformes telles qu'Enzai pour leur gouvernance de l'IA.

Détection des Émotions : Le Contexte Détermine Tout

La reconnaissance des émotions sur le lieu de travail et dans les environnements éducatifs déclenche des interdictions spécifiques ou une classification à haut risque. En revanche, la détection des émotions déployée dans un contexte de service client, comme un outil d'IA qui analyse l'état d'esprit d'un appelant pour orienter les tickets de support, n'entre pas dans le cadre de l'interdiction liée au lieu de travail. Elle peut néanmoins être qualifiée de risque limité au titre des dispositions relatives à la transparence, ce qui exige d'en informer l'appelant. Le facteur déterminant n'est pas la technologie elle-même, mais le contexte d'utilisation et l'asymétrie de pouvoir entre les parties prenantes [8].

Recommandations de l'IA versus Décisions de l'IA

Un système qui recommande une décision soumise à examen humain se situe dans une position différente de celle d'un système qui exécute de manière autonome cette même décision. Un outil d'IA qui classe les candidats à un poste et présente une liste restreinte à un recruteur humain peut toujours être considéré à haut risque en vertu de l'annexe III (catégorie relative à l'emploi), mais la nature du contrôle humain influe sur les obligations spécifiques qui s'appliquent. À l'inverse, un système qui rejette automatiquement les demandes de prêt sans intervention humaine significative supporte tout le poids des exigences applicables aux systèmes à haut risque. La question critique est de savoir si l'humain peut de manière réaliste et de façon systématique passer outre le résultat fourni par l'IA, ou si la recommandation du système fait office de décision de fait [9].

La Voie de l'Auto-Évaluation de l'Article 6(3)

L'article 6(3) offre une échappatoire à la classification à haut risque, mais ce goulot d'étranglement est plus étroit que de nombreuses organisations ne le pensent initialement. Un outil de tri de dossiers de candidature qui se contente de reformater des CV selon un modèle standardisé pourrait prétendre à l'exception, dans la mesure où il effectue une tâche préparatoire. Le même outil configuré pour classer les candidats n'y prétend pas. Les organisations doivent résister à la tentation de présenter le fonctionnement de leur système sous son jour le plus favorable. Les autorités nationales conservent le pouvoir de reclassifier, et la charge de la preuve documentaire incombe au fournisseur. Les workflows de classification d'Enzai sont conçus pour tester l'adéquation des réclamations basées sur l'article 6(3) au regard des critères du règlement avant qu'une organisation ne s'engage formellement.

Modèles d'IA à Usage Général au sein de Systèmes à Haut Risque

Lorsqu'un modèle d'IA à usage général est intégré dans un système à haut risque, les obligations incombent à l'entité qui déploie le système et le configure pour ce cas d'usage spécifique, et non au seul fournisseur du modèle. Une organisation qui affine un modèle de fondation pour l'évaluation de solvabilité hérite ainsi de toutes les obligations liées au haut risque, même si le modèle sous-jacent a été développé par un tiers [10].

Le niveau de risque d'un système est rarement aussi évident qu'il n'y paraît de prime abord.

Le Processus de Classification : Gouvernance et Documentation

La classification des risques au titre de la loi européenne sur l'IA n'est pas la tâche d'un seul service. Elle requiert une contribution structurée de plusieurs disciplines et un processus de documentation rigoureux, capable de résister aux contrôles réglementaires.

Qui Doit Être Impliqué

Au minimum, le processus de classification doit impliquer des conseillers juridiques experts en réglementation, l'équipe technique responsable de la conception et de la finalité d'utilisation du système, un expert métier comprenant le contexte opérationnel du déploiement, un responsable des risques ou de la conformité et, lorsque le système impacte les salariés, les représentants des travailleurs ou la direction des ressources humaines.

Un écueil fréquent consiste à déléguer entièrement la classification au service juridique ou exclusivement à l'ingénierie. Les équipes juridiques peuvent manquer de compétences techniques pour évaluer si un système prend réellement des décisions autonomes ; les équipes d'ingénierie peuvent quant à elles sous-estimer la portée réglementaire du contexte opérationnel d'un système.

Comment Documenter

La justification de la classification doit être consignée sous une forme exploitable par une autorité de contrôle nationale. Cette documentation doit comprendre une description claire de la finalité d'utilisation du système, les articles et annexes spécifiques étudiés, le raisonnement ayant conduit à l'attribution du niveau de risque, une analyse approfondie de l'article 6(3) le cas échéant, l'identité et les rôles des personnes ayant participé à l'évaluation, ainsi que la date de classification et tout événement déclencheur prévu pour une nouvelle révision.

Gérer les Divergences d'Opinion

En cas de désaccord interne sur la classification, la position la plus conservatrice doit prévaloir dans l'attente d'une analyse plus poussée. Une organisation qui classe temporairement un système comme étant à haut risque pour ensuite lever cette classification s'expose à un risque bien moindre qu'une organisation qui opte pour une classification faible et se retrouve ultérieurement en situation de non-conformité. Ces divergences d'appréciation doivent figurer dans la documentation, car elles démontrent la rigueur de la démarche et protègent l'organisation en cas d'enquête réglementaire.

La classification est un acte de gouvernance, et non une formalité administrative.

Conséquences de la Classification

Le niveau de risque attribué à un système détermine les obligations de conformité qui s'ensuivent. L'écart entre les niveaux est considérable.

Systèmes Interdits

L'obligation est absolue : ne pas développer, déployer, ni commercialiser sur le marché de l'UE. Les systèmes existants doivent être mis hors service. Il n'existe pas de période de transition pour les pratiques interdites [2].

Systèmes à Haut Risque

Les fournisseurs doivent mettre en œuvre un système de gestion des risques opérationnel tout au long du cycle de vie du système d'IA. Les pratiques de gouvernance des données doivent garantir que les ensembles de données d'entraînement, de validation et de test sont pertinents, représentatifs et exempts d'erreurs. Une documentation technique complète doit être rédigée avant la mise sur le marché. Le système doit être conçu pour permettre un enregistrement automatique des événements (logs). Les exigences de transparence imposent des instructions claires aux utilisateurs déployant ces systèmes. Les mesures de contrôle humain doivent permettre aux personnes physiques de comprendre, surveiller et corriger le comportement du système. Les critères d'exactitude, de robustesse et de cybersécurité doivent être respectés et suivis dans le temps [3].

Les entités déployant ces systèmes à haut risque supportent leurs propres obligations : réaliser des analyses d'impact sur les droits fondamentaux, s'assurer de l'effectivité opérationnelle du contrôle humain, surveiller le système d'après les consignes du fournisseur et signaler les incidents graves.

Systèmes à Risque Limité

L'obligation principale réside dans la transparence. Les utilisateurs doivent savoir qu'ils interagissent avec une IA. Les contenus générés ou manipulés par IA doivent être étiquetés comme tels. Les systèmes de reconnaissance des émotions doivent informer de leur fonctionnement les personnes concernées [4].

Systèmes à Risque Minimal

Aucune obligation contraignante ne s'applique. Les organisations sont invitées à adopter des codes de conduite de manière volontaire, traitant entre autres d'éco-responsabilité et de sensibilisation à l'IA [5].

Les obligations de chaque niveau de risque ne sont pas des recommandations. Ce sont des exigences juridiques exécutoires, assorties de sanctions définies en cas de manquements.

Passer de la Classification à la Conformité

Déterminer le niveau de risque d'un système est le premier jalon d'un programme de conformité à long terme, mais c'est l'acte fondamental dont tout le reste dépend. Une classification inexacte fausse chaque décision ultérieure, depuis l'allocation des ressources pour la documentation jusqu'à la sélection de la procédure d'évaluation de la conformité.

Les entreprises gérant des portefeuilles de systèmes d'IA à l'échelle de plusieurs juridictions et entités font face à ce défi de manière massive. Suivre les décisions de classification, assurer une veille sur les évolutions réglementaires susceptibles de modifier le niveau d'un système et conserver un historique auditable de la justification de chaque décision requièrent une infrastructure dédiée.

Pour les organisations désireuses d'opérationnaliser la classification des risques selon la loi européenne sur l'IA au sein de leur catalogue, Enzai propose le cadre de gouvernance pour classifier, documenter et surveiller les systèmes d'IA face à l'évolution des réglementations. Demandez une démonstration pour découvrir comment des processus de classification structurés réduisent à la fois les risques opérationnels et les ressources perdues.

Enzai est la plateforme de référence pour la gouvernance de l'IA en entreprise, conçue sur mesure pour aider les organisations à passer de politiques abstraites à un contrôle opérationnel. Notre plateforme de gestion des risques d'IA offre l'infrastructure spécialisée nécessaire pour administrer la gouvernance de l'IA d'agent, maintenir un inventaire de l'IA cloud complet et garantir la conformité avec l'AI Act de l'UE. En automatisant les flux de travail complexes, Enzai permet aux entreprises d'accélérer l'adoption de l'IA en toute sécurité, tout en restant en phase avec les normes internationales telles que ISO 42001 et NIST.

Références

[1] Règlement (UE) 2024/1689, Article 99 - Amendes.

[2] Règlement (UE) 2024/1689, Article 5 - Pratiques d'intelligence artificielle interdites.

[3] Règlement (UE) 2024/1689, Articles 8 à 15 - Exigences applicables aux systèmes d'IA à haut risque.

[4] Règlement (UE) 2024/1689, Article 50 - Obligations de transparence pour l'utilisation de certains systèmes d'IA.

[5] Règlement (UE) 2024/1689, Article 95 - Codes de conduite pour l'adoption volontaire d'engagements par les fournisseurs de systèmes d'IA ne présentant pas de risques élevés.

[6] Règlement (UE) 2024/1689, Annexe I - Législation d'harmonisation de l'Union.

[7] Règlement (UE) 2024/1689, Article 6, paragraphe 3 - Règles de classification pour les systèmes d'IA à haut risque.

[8] Règlement (UE) 2024/1689, Considérants 44 à 46 - Champ d’application des interdictions relatives à la reconnaissance des émotions.

[9] Règlement (UE) 2024/1689, Article 14 - Contrôle humain.

[10] Règlement (UE) 2024/1689, Articles 51 à 56 - Obligations pour les fournisseurs de modèles d'IA à usage général.