Quelques conseils pratiques pour aider les responsables de la protection des données à débuter dans le monde de l'IA.
•
•
5 minutes de lecture
Sujets
Introduction
L’intelligence artificielle ("IA") promet de transformer les secteurs et d’améliorer les produits et services de multiples façons. Cependant, elle soulève également de nouvelles questions complexes autour de l’éthique, de la transparence, des biais et de la confidentialité. En conséquence, les gouvernements du monde entier élaborent de nouvelles lois et réglementations afin de garantir que l’IA soit digne de confiance et alignée sur les valeurs sociales.
En Europe, les décideurs publics ont joué un rôle de premier plan dans l’élaboration de la gouvernance de l’IA. Les nouvelles règles proposées par l’Union européenne visent à minimiser les risques liés à l’IA tout en favorisant l’innovation. À mesure que ces initiatives prennent forme, les délégués à la protection des données ont une responsabilité importante : sensibiliser les équipes et garantir la conformité organisationnelle. Cet article présente un aperçu des principales évolutions de la réglementation européenne sur l’IA et des recommandations destinées aux délégués à la protection des données pour s’y préparer.
Le rôle du délégué à la protection des données dans l’univers de l’IA
De nombreuses organisations se tournent désormais fréquemment vers leur délégué à la protection des données pour obtenir des conseils sur ce sujet, et le besoin de monter rapidement en compétences est fort.
Le cadre réglementaire européen en constante évolution pour l’IA
En avril 2021, la Commission européenne a publié son premier ensemble complet d’exigences juridiques applicables aux systèmes d’IA dans le cadre d’un projet de loi sur l’intelligence artificielle (l’“EU AIA”). Cette proposition novatrice classe l’IA par niveaux de risque et introduit des règles obligatoires pour les applications à haut risque, telles que celles utilisées dans les infrastructures critiques, l’emploi, l’application de la loi, et bien d’autres domaines.
Les exigences applicables aux systèmes à haut risque couvrent des domaines tels que la gestion des risques, la qualité des données, la documentation, la transparence, la supervision humaine et la robustesse. Le règlement pourrait entrer en vigueur dès la fin de 2023 / T1 2024, sous réserve de son adoption législative. Vous pouvez en lire davantage dans le détail dans l’un de nos articles précédents, accessible ici.
Au-delà de l’AI Act, l’UE développe également des initiatives complémentaires pour enrichir le paysage réglementaire :
Une directive sur la responsabilité en matière d’IA, ainsi qu’une mise à jour de la législation existante sur la responsabilité du fait des produits (nous avons également préparé un article à ce sujet ! Voir ici).
Le Data Act, qui entrera en vigueur au début de 2025, imposera de nouvelles exigences en matière d’accès aux données et de partage des données, susceptibles d’influencer les données d’entraînement des systèmes d’IA.
Et bien sûr, les obligations du RGPD (dont je suis sûr que vous êtes tous familiers) continueront de s’appliquer, avec un accent renouvelé sur les dispositions relatives à la prise de décision automatisée.
Nous observons également l’émergence de nombreuses normes importantes dans ce domaine. CEN-CENELEC a formé un comité technique mixte afin de travailler sur des normes harmonisées pour l’IA, et nous nous attendons à ce qu’elles jouent à l’avenir un rôle essentiel dans la démonstration de la conformité à l’EU AI Act.
Implications pour les délégués à la protection des données
En tant que délégué à la protection des données, il est essentiel de suivre les réglementations émergentes et de comprendre comment votre organisation pourrait devoir adapter ses politiques, processus et systèmes liés à l’IA pour rester conforme. Voici quelques bonnes pratiques :
Commencez à dresser un inventaire des cas d’usage et des modalités d’utilisation de l’IA dans l’ensemble de votre organisation (c’est là qu’Enzai peut vous aider !).
Cherchez à adopter des cadres de référence pour la conception et le déploiement de l’IA, et veillez à ce que les équipes techniques en soient informées et les utilisent - des cadres bien conçus couvriront les exigences juridiques.
Examinez de près l’utilisation prévue des données, la prise de décision automatisée et les autres domaines concernés par les nouvelles réglementations. Mettez à jour les analyses d’impact relatives à la protection des données, le cas échéant.
Travaillez de manière transversale avec les équipes d’ingénierie, produit, juridique et la direction afin de mettre en œuvre les changements requis et de garantir une stratégie de gouvernance de l’IA conforme.
Surveillez dans le temps la conformité de ces systèmes, car les choses peuvent évoluer très rapidement dans ce domaine.
Suivez les échéances d’application et les mesures prises par les autorités nationales de l’UE à mesure que les réglementations entrent en vigueur.
Évaluez et sélectionnez des systèmes, services et fournisseurs d’IA qui adhèrent à de solides principes éthiques et aux normes juridiques applicables.
Faites la promotion d’une utilisation responsable des données, d’algorithmes équitables et explicables, ainsi que des autres piliers d’une IA digne de confiance au sein de votre organisation.
C’est une période passionnante pour être délégué à la protection des données, et les nouvelles opportunités et les nouveaux défis que l’IA présente sont sans limites pour toutes les entreprises, tous secteurs confondus. Se tenir informé des évolutions contribuera à garantir à la fois la conformité et un avantage concurrentiel.
Pour en savoir plus, découvrez les solutions d’Enzai pour la gouvernance de l’IA, la gestion des risques liés aux modèles, les réglementations sur l’IA, l’IA générative et l’EU AI Act.
Enzai est la principale plateforme de gouvernance de l’IA en entreprise, conçue spécialement pour aider les organisations à passer d’une politique abstraite à une supervision opérationnelle. Notre plateforme de gestion des risques liés à l’IA fournit l’infrastructure spécialisée nécessaire pour gérer la gouvernance de l’IA agentique, maintenir un inventaire complet de l’IA et garantir la conformité à l’EU AI Act. En automatisant des flux de travail complexes, Enzai permet aux entreprises de déployer l’IA à grande échelle en toute confiance, tout en restant alignées sur des normes mondiales telles que ISO 42001 et NIST.
Donnez à votre organisation les moyens d'adopter, de gérer et de surveiller l'IA avec une confiance de niveau entreprise. Conçu pour les organisations réglementées opérant à grande échelle.