Introduction

L'intelligence artificielle ("IA") promet de transformer les industries et d'améliorer les produits et services d'une infinité de manières. Cependant, elle soulève également des questions nouvelles et complexes liées à l'éthique, à la transparence, aux biais et à la confidentialité. Par conséquent, les gouvernements du monde entier élaborent de nouvelles lois et réglementations afin de garantir que l'IA soit digne de confiance et alignée sur les valeurs sociétales.

En Europe, les décideurs politiques ont joué un rôle de premier plan dans le façonnement de la gouvernance de l'IA. Les nouvelles règles proposées par l'Union européenne visent à minimiser les risques liés à l'IA tout en permettant l'innovation. À mesure que ces initiatives prennent forme, les délégués à la protection des données ont la responsabilité cruciale de sensibiliser les équipes et de garantir la conformité de l'organisation. Cet article propose un aperçu des développements clés de la réglementation européenne sur l'IA ainsi que des conseils de préparation pour les délégués à la protection des données.

‍

Le rôle du délégué à la protection des données dans le monde de l'IA

De nombreuses organisations se tournent désormais fréquemment vers leur délégué à la protection des données pour obtenir des conseils dans ce domaine, et il est impératif de monter rapidement en compétences.

Le cadre réglementaire en évolution de l'UE en matière d'IA   

En avril 2021, la Commission européenne a publié sa première proposition globale d'exigences juridiques pour les systèmes d'IA dans le cadre d'un projet de règlement sur l'intelligence artificielle (le « RIA de l'UE »). Cette proposition novatrice classe l'IA par niveaux de risque et introduit des règles obligatoires pour les applications à haut risque, telles que celles utilisées dans les infrastructures critiques, l'emploi, le maintien de l'ordre, et bien plus encore.

Les exigences relatives aux systèmes à haut risque couvrent des domaines tels que la gestion des risques, la qualité des données, la documentation, la transparence, la surveillance humaine et la robustesse. Le règlement pourrait entrer en vigueur dès la fin de l'année 2023 ou au premier trimestre 2024, après approbation législative. Vous pouvez en apprendre davantage à ce sujet en consultant en détail l'un de nos précédents articles de blog, accessible ici.

Au-delà du règlement sur l'IA, l'UE élabore également des initiatives complémentaires pour enrichir le paysage réglementaire :

• Une directive sur la responsabilité en matière d'IA, accompagnée d'une mise à jour de la législation existante sur la responsabilité du fait des produits (nous avons également préparé un article de blog à ce sujet ! Voir ici).

• Le règlement sur les données (Data Act), qui entrera en vigueur début 2025, imposera de nouvelles exigences d'accès et de partage des données susceptibles d'influencer les données d'entraînement de l'IA.

• Et bien sûr, les obligations du RGPD (avec lesquelles vous êtes sans doute tous familiers) continueront de s'appliquer, avec un intérêt renouvelé pour les dispositions relatives à la prise de décision automatisée.

Nous voyons également apparaître de nombreuses normes importantes dans ce domaine. Le CEN-CENELEC a formé un comité technique conjoint pour travailler sur des normes harmonisées pour l'IA, et nous prévoyons que celles-ci joueront à l'avenir un rôle essentiel pour démontrer la conformité au règlement européen sur l'IA.

Implications pour les délégués à la protection des données

En tant que délégué à la protection des données, il est essentiel de surveiller les réglementations émergentes et de comprendre comment votre organisation devra adapter ses politiques, processus et systèmes d'IA pour s'y conformer. Voici quelques bonnes pratiques :

• Commencez à établir un inventaire des cas et modalités d'utilisation de l'IA au sein de votre organisation (c'est là que Enzai peut vous aider !).

• Envisagez d'adopter des cadres méthodologiques concernant la conception et le déploiement de l'IA, et veillez à ce que les équipes techniques en soient informées et les appliquent – des cadres bien conçus couvriront les exigences légales.

• Examinez attentivement l'utilisation prévue des données, la prise de décision automatisée et les autres domaines concernés par les nouvelles réglementations. Mettez à jour les analyses d'impact relatives à la protection des données si nécessaire.

• Travaillez de manière transversale avec l'ingénierie, les produits, le service juridique et la direction pour mettre en œuvre les changements requis et garantir une stratégie de gouvernance de l'IA conforme.

• Surveillez la conformité de ces systèmes dans le temps, car les choses peuvent évoluer très rapidement dans ce domaine.

• Suivez les calendriers d'application et les mesures prises par les autorités nationales de l'UE à mesure que les réglementations entrent en vigueur.

• Évaluez et sélectionnez des systèmes, services et prestataires d'IA qui respectent des principes éthiques rigoureux et les normes juridiques applicables.

• Promouvez une utilisation responsable des données, des algorithmes équitables et explicables, ainsi que les autres piliers d'une IA de confiance au sein de votre organisation.

C'est une période passionnante pour exercer la fonction de délégué à la protection des données, et les nouvelles opportunités ainsi que les défis présentés par l'IA sont infinis pour toutes les entreprises, quel que soit leur secteur d'activité. Rester au fait des évolutions permettra de garantir à la fois la conformité et un avantage concurrentiel.

‍

Pour en savoir plus, découvrez les solutions de Enzai pour la gouvernance de l'IA, la gestion des risques liés aux modèles, les réglementations sur l'IA, l'IA générative et le règlement de l'UE sur l'IA.

Enzai est la plateforme leader de gouvernance de l'IA pour les entreprises, spécialement conçue pour aider les organisations à passer de politiques abstraites à une supervision opérationnelle. Notre plateforme de gestion des risques liés à l'IA fournit l'infrastructure spécialisée requise pour gérer la gouvernance de l'IA agentique, maintenir un inventaire complet de l'IA et garantir la conformité au règlement de l'UE sur l'IA. En automatisant les flux de travail complexes, Enzai permet aux entreprises de faire évoluer l'adoption de l'IA en toute confiance tout en restant alignées sur les normes mondiales telles que ISO 42001 et NIST.