Blog
•
7 min de lecture
En avril 2021, la Commission européenne a dévoilé sa proposition phare, très attendue, de règlement sur l’intelligence artificielle. Couramment désignée sous le nom de législation sur l’intelligence artificielle (Artificial Intelligence Act, ou « AI Act »), elle constitue la première tentative d’envergure au monde visant à encadrer les systèmes d’IA de manière horizontale. L’AI Act vise à traiter les risques préjudiciables liés à l’IA et à ses usages spécifiques, tout en favorisant une innovation responsable dans ce domaine. S’il est adopté, ce texte redéfinira durablement la manière dont les entreprises développent, déploient, maintiennent et utilisent les technologies d’intelligence artificielle.
Principales caractéristiques de l’AI Act
Définition du « système d’intelligence artificielle » (système d’IA) :
La Commission a proposé une définition large du système d’IA, qui s’étend aux technologies logicielles faisant appel à l’une ou l’autre d’un ensemble d’approches et de techniques d’IA définies de manière large : l’« apprentissage automatique », les systèmes « fondés sur la logique et les connaissances » et les « approches statistiques ».
Approche fondée sur les risques :
Le règlement adoptera une approche pyramidale fondée sur les risques : les exigences et obligations des acteurs du marché seront modulées en fonction du niveau de risque que présentent leurs systèmes d’IA. Les quatre catégories de risque sont détaillées ci-dessous.
1. Risque inacceptable. Au sommet de cette pyramide se trouve une catégorie de cas d’usage de l’IA considérés comme présentant un risque inacceptable pour les utilisateurs et la société dans son ensemble, et qui sont donc purement et simplement interdits. La liste des systèmes interdits comprend notamment les technologies d’IA recourant à la manipulation subliminale, à l’identification biométrique en temps réel, à la notation sociale par les autorités publiques ou à l’exploitation de groupes sociaux vulnérables.
2. Risque élevé. Bien qu’autorisés, de nombreux systèmes d’IA à haut risque, susceptibles de porter atteinte à la sécurité des personnes ou à leurs droits fondamentaux, seraient soumis à des exigences renforcées. Cette catégorie comprend notamment les systèmes utilisés dans les infrastructures, l’éducation, l’emploi et les activités répressives, ainsi que ceux qui constituent un composant de sécurité d’un produit déjà soumis à la législation européenne en matière de santé et de sécurité. Les règles spécifiques applicables aux systèmes à haut risque exigent notamment que les organisations :
• mettent en place des systèmes de gestion des risques afin de garantir qu’une évaluation des risques adéquate soit réalisée pour chaque système ;
• établissent une documentation technique complète pour leurs systèmes ;
• soumettent leurs applications à une évaluation de la conformité avant leur déploiement ;
• maintiennent des procédures de gouvernance et de gestion des données de haute qualité ; et
• veillent à ce que le système respecte des normes élevées de robustesse, de cybersécurité et d’exactitude.
3. Risque limité. Les applications qui ne sont ni expressément interdites ni qualifiées de systèmes à haut risque échappent en grande partie à la réglementation. Les systèmes à risque limité sont soumis à des obligations de transparence moins contraignantes, qui imposent simplement d’informer les utilisateurs qu’ils interagissent avec un outil d’IA.
4. Risque minimal. Si aucune exigence spécifique ne s’applique aux applications qui n’entrent dans aucune autre catégorie et présentent donc un risque minimal, il est recommandé aux entreprises d’adopter une approche fondée sur l’éthique pour tous leurs systèmes d’IA, quel que soit le niveau de risque. L’article 69 de l’AI Act fait d’ailleurs office de « disposition-balai » : il encourage les fournisseurs et les utilisateurs de systèmes d’IA à moindre risque à respecter volontairement, de manière proportionnée, les mêmes normes que les systèmes à haut risque.
Responsabilité en matière de conformité et conséquences des manquements :
Les obligations applicables à chaque acteur du marché varient selon le rôle qu’il joue dans le cycle de vie de l’IA. L’AI Act distingue les « fournisseurs », les « utilisateurs », les « importateurs » et les « distributeurs », et impose à chacun des obligations différentes. Les sanctions prévues par le projet actuel de l’EU AI Act sont élevées : les amendes pour les manquements les plus graves pourraient atteindre 6 % du chiffre d’affaires annuel.
État des lieux
Depuis sa publication, le texte a fait l’objet de nombreux commentaires de la part des autres organes législatifs de l’Union européenne et de tiers intéressés. Certains des principaux points en suspens sont examinés ci-dessous.
Définir le « système d’intelligence artificielle » :
Déterminer ce qui constitue un « système d’IA » est essentiel pour la répartition des responsabilités au titre de l’AI Act. La portée très large de l’article 3, paragraphe 1, qui tente de définir cette notion, a suscité de vives controverses parmi les acteurs du secteur. Un amendement de compromis proposé par la présidence tchèque du Conseil de l’UE vise à lever les ambiguïtés créées par cette définition extensive. Cette définition plus restreinte exclut les systèmes logiciels traditionnels du champ d’application du règlement en introduisant deux conditions supplémentaires : (1) les systèmes sont développés au moyen de techniques d’apprentissage automatique et d’approches fondées sur les connaissances ; et (2) les applications visées sont des « systèmes génératifs » qui influencent les environnements avec lesquels ils interagissent.
Répartition des responsabilités entre « fournisseurs » et « utilisateurs » d’IA :
L’AI Act fait peser l’essentiel des obligations de conformité sur les fournisseurs (c’est-à-dire ceux qui développent un système d’IA donné) plutôt que sur les utilisateurs. Les organisations professionnelles font valoir que cette répartition descendante des responsabilités pourrait poser problème lorsque des services d’IA sont utilisés en aval à des fins imprévisibles et qu’il est difficile d’identifier précisément le fournisseur.
IA à usage général :
La qualification d’une application en tant que système d’IA à usage général dépend de sa capacité à accomplir plusieurs tâches dans des contextes variés. En mai de cette année, les décideurs européens ont annoncé leur intention d’étendre les exigences de l’EU AI Act à l’ensemble de l’IA à usage général, y compris pour des utilisations à faible risque. Cette annonce a suscité la controverse, ses opposants estimant qu’elle constitue une rupture fondamentale avec l’approche fondée sur les risques au cœur de la proposition et qu’elle risque d’étouffer l’innovation. En septembre de cette année, le Conseil a proposé un compromis : soumettre l’IA à usage général à une procédure complète d’évaluation des risques, ce qui exclurait les systèmes d’IA à usage général à faible risque des exigences plus strictes de l’AI Act. Cette proposition a été globalement bien accueillie.
Principes de base obligatoires :
Des membres du Parlement européen (eurodéputés) ont déposé une recommandation visant à instaurer des principes de base obligatoires d’équité, de transparence et de responsabilité pour tous les systèmes d’IA (quel que soit leur niveau de risque). Une décision définitive est attendue.
Normes :
Parallèlement au processus législatif, la Commission a demandé aux organismes européens de normalisation, le CEN et le CENELEC, d’élaborer des normes techniques permettant d’évaluer la conformité à l’AI Act. Bien que ces normes soient d’application volontaire, les organisations qui démontrent que leurs systèmes y satisfont bénéficieront d’une présomption de conformité à l’AI Act.
Le défi
L’AI Act poursuit encore son parcours dans le processus législatif complexe de l’UE. Pourtant, de nombreuses organisations ont déjà commencé à s’y préparer. À mesure que le secteur mûrit, les mesures proactives, comme la mise en place de systèmes de gestion des risques ou la réalisation d’examens techniques approfondis, présentent des avantages évidents pour les organisations, indépendamment de toute obligation réglementaire.
Le processus comporte encore de nombreux défis. Comprendre le rôle qu’un acteur du marché joue dans l’écosystème, maîtriser la complexité de la détermination des niveaux de risque, puis établir quelles obligations de l’AI Act s’appliquent et s’y conformer représente sans aucun doute une charge pour les acteurs de ce secteur. La plateforme Enzai a été conçue dans cette optique : elle aide les organisations à s’orienter rapidement et efficacement dans ce domaine, afin qu’elles puissent se concentrer sur le développement de technologies d’IA pérennes.
Enzai est la plateforme de référence en matière de gouvernance de l’IA pour les entreprises, conçue pour aider les organisations à passer de politiques abstraites à une supervision opérationnelle. Notre plateforme de gestion des risques liés à l’IA fournit l’infrastructure spécialisée nécessaire pour assurer la gouvernance de l’IA agentique, tenir un inventaire IA complet et garantir la conformité à l’EU AI Act. En automatisant les flux de travail complexes, Enzai permet aux entreprises de déployer l’IA à grande échelle en toute confiance, tout en restant alignées sur des normes internationales comme ISO 42001 et le NIST.
Certifié ISO 27001 depuis 2023, audité chaque année par NQA
Traitement des données aligné sur le RGPD
Données clients hébergées sur AWS dans plusieurs régions
Utilisez votre propre modèle d’IA via une connexion privée
Identifiez l’IA utilisée par vos équipes, examinez-la avant sa mise en service, évaluez-la au regard des règles applicables et contrôlez ce que les agents peuvent faire. Conçu pour les organisations réglementées.



