Notre réponse au cadre d'IA « pro-innovation » du Royaume-Uni

Ravis de partager notre réponse au récent document de politique générale du Bureau pour l'intelligence artificielle du gouvernement britannique intitulé « Établir une approche pro-innovation de la réglementation de l'IA ». Nous tenons à remercier le Bureau pour l'intelligence artificielle pour le travail accompli à ce jour sur ce sujet d'une importance cruciale, et nous sommes ravis de prendre part aux discussions à venir. Découvrez comment Enzai peut vous aider à vous adapter à l'évolution des réglementations sur l'IA.

PAR E-MAIL : evidence@officeforai.gov.uk

Réponse au document de politique générale intitulé « Établir une approche pro-innovation de la réglementation de l'IA » daté du 20 juillet 2022 (le « Document de politique générale »)

En guise d'introduction, Enzai est une jeune entreprise récemment constituée à Belfast, en Irlande du Nord. Fondée en août 2021 par Ryan Donnelly (avocat de premier plan spécialisé en droit des affaires et de la réglementation) et Jack Carlisle (ingénieur logiciel chevronné), notre mission consiste à veiller à ce que les puissantes technologies d’intelligence artificielle (« IA ») soient utilisées à l'avenir au profit de la société dans son ensemble.

Nous nous concentrons tout particulièrement sur la protection contre les risques importants liés à l'IA. Grâce à notre plateforme logicielle, nos clients sont en mesure d'évaluer leurs systèmes d'IA par rapport aux meilleures pratiques de développement de l'IA, de comprendre la posture globale de gouvernance de l'IA au sein de leur organisation et d'imposer les contrôles et contre-pouvoirs de gouvernance nécessaires à leurs systèmes pour garantir leur succès. Ce faisant, nous permettons à nos clients de concevoir des systèmes plus sûrs et plus robustes, profitant non seulement aux organisations individuelles utilisant ces technologies, mais aussi à la société dans son ensemble.

Nous croyons fermement au pouvoir de la réglementation en tant que force d'émancipation, capable de stimuler l'innovation dans le domaine de l'IA. Des technologies aussi puissantes requièrent des garde-fous judicieux afin de garantir que les développements futurs profitent aux entreprises et à la société. Cela représente une opportunité formidable pour le Royaume-Uni. Compte tenu du profil juridique de notre fondateur, nous sommes pleinement conscients de la réputation mondiale du Royaume-Uni pour ses régimes réglementaires et son État de droit. Nous sommes convaincus que le Royaume-Uni est idéalement positionné pour attirer des talents et des investissements substantiels dans le domaine de l'IA grâce à un cadre réglementaire intelligent. Afin de maximiser cette opportunité, tout cadre réglementaire devrait tenir compte des principes suivants. Il doit être : (1) ciblé, de sorte que la réglementation ait un impact maximal avec un minimum d'intervention ; (2) axé sur le contexte, en tenant compte des circonstances uniques de la technologie et du ou des domaines dans lesquels elle est appliquée ; et (3) clair, afin que les acteurs du marché puissent avoir une certitude quant à ce qui est attendu d'eux.

À cette fin, nous saluons les propositions présentées dans ce Document de politique générale comme une étape importante vers l'établissement du Royaume-Uni en tant que juridiction d'IA pro-innovation. Nous avons le plaisir de présenter nos réponses aux différentes questions soulevées dans le Document de politique générale ci-dessous.

Quels sont les défis les plus importants de notre approche actuelle de la réglementation de l'IA ? Avez-vous des avis sur les lacunes, les chevauchements ou les contradictions les plus importants ?

De manière générale, l'approche fondée sur le risque définie dans le Document de politique générale constitue un point de départ judicieux pour cette proposition – nous insisterons sur la nécessité de veiller à ce que toute intervention réglementaire soit conforme aux principes énoncés ci-dessus.

Nous prenons note de la volonté du gouvernement de réglementer l'utilisation de l'IA plutôt que l'IA elle-même. Nous estimons que se concentrer uniquement sur les impacts en aval de l'utilisation de l'IA est trop simpliste. Le cadre réglementaire doit être holistique, en tenant compte de tous les aspects du cycle de vie de l'IA, afin de garantir que les systèmes soient sûrs et robustes. L'absence de garde-fous judicieux sur d'autres aspects du cycle de vie du développement (tels que les tâches en amont de traitement et de préparation des ensembles de données, et les tâches intermédiaires de modélisation, d'entraînement, de test et d'évaluation) laisse une place importante à l'ambiguïté et à la confusion. Imposer des attentes raisonnables aux acteurs du marché tout au long du cycle de vie du développement, pour les systèmes ayant un potentiel d'impact à haut risque, constituerait un ajout bienvenu à cette approche. Cela pourrait prendre la forme d'une exigence de documentation technique et de la création d'un système de gestion des risques pour ces types d'IA ; la plateforme logicielle que nous développons permettrait de grandement simplifier la charge administrative que ces exigences pourraient sembler imposer aux acteurs du marché.

L'approche proposée dans le Document de politique générale concernant la définition de l'IA est intéressante et le concept d'une interprétation basée sur des « caractéristiques fondamentales » s'avère attrayant. Toutefois, nous pensons que cela pourrait aller plus loin - il serait envisageable d'établir une liste exhaustive des technologies pouvant être clairement considérées comme de l'IA afin de faciliter l'interprétation. L'analyse des caractéristiques fondamentales pourrait alors être appliquée aux cas limites, et toute nouvelle IA pourrait être ajoutée à la liste des technologies d'IA une fois inventée. Cela étant dit, nous reconnaissons que cela imposerait une charge administrative aux organismes de réglementation. Par conséquent, nous serions ravis de poursuivre les discussions autour du potentiel de cette proposition spécifique.

Nous avons été heureux de constater qu'il est reconnu qu'actuellement, cet espace a évolué de manière organique et désordonnée (à un rythme rapide), ce qui rend la navigation extrêmement difficile pour les acteurs du marché. De nombreux organismes gouvernementaux publient différents cadres, feuilles de route et lignes directrices, et il est devenu difficile de s'y retrouver. Nous y voyons un défi majeur et souhaiterions une simplification substantielle des organismes et des décideurs politiques du Royaume-Uni en matière d'IA, avec une source unique d'information pour guider les acteurs du marché et à laquelle ils peuvent se référer. Cette suggestion ne vise pas à contredire l'approche sectorielle préconisée dans le Document de politique générale. Cette approche par source unique d'information devrait plutôt orienter les participants vers des cadres et des organismes de réglementation spécifiques à chaque secteur, selon les besoins.

‍

Approuvez-vous l'approche axée sur le contexte, mise en œuvre par les régulateurs établis du Royaume-Uni, présentée dans ce document ? Quels sont, selon vous, les avantages de cette approche ? Quels en sont les inconvénients ?

L'approche de la réglementation de l'IA axée sur le contexte est judicieuse en principe. Afin de garantir l'efficacité réelle de cette approche, nous soulignerons que le contexte englobe tout – il comprend tous les aspects de la technologie elle-même, ainsi que le contexte sectoriel spécifique dans lequel elle est utilisée. D'après notre expérience auprès des acteurs du marché, les différents secteurs d'activité (santé, finance, automobile, etc.) adoptent des approches différentes pour concevoir et mettre en œuvre ces technologies. De plus, l'approche axée sur le contexte doit être ciblée (pour garantir un impact maximal avec un minimum d'intervention) et claire (pour que les acteurs du marché puissent facilement comprendre leurs obligations). Pour réaliser pleinement son potentiel, l'approche axée sur le contexte devra être complétée par des politiques et des directives supplémentaires.

Approuvez-vous l'établissement d'un ensemble de principes intersectoriels pour guider notre approche globale ? Les principes intersectoriels proposés couvrent-ils les problèmes et les risques communs posés par les technologies d'IA ? Qu'est-ce qui manque, le cas échéant ?

Des principes soigneusement élaborés constituent un socle solide pour un écosystème d'IA hautement fonctionnel. Cependant, d'après notre expérience, les principes seuls suffisent rarement. Ils ont tendance à être des concepts nébuleux qu'il est difficile de traduire en actions concrètes au quotidien. Par exemple, la plupart s'accorderont à dire que les systèmes d'IA doivent être équitables et sûrs, mais des avis très divergents apparaîtront sur ce que signifie réellement « équitable » et « sûr » dans un scénario pratique donné. Les acteurs du marché bénéficieraient grandement d'un ensemble d'obligations clair et bien défini, pouvant être appliqué de manière cohérente et certaine. Par conséquent, les principes doivent être soutenus par des exigences plus concrètes afin de garantir leur adoption efficace dans la pratique.

Il y a un équilibre à trouver concernant le niveau de spécificité approprié entre les principes et ces exigences concrètes. Établir un ensemble détaillé d'exigences réglementant l'IA qui s'appliquent à tous les secteurs pourrait conduire à une réglementation rigide et inadaptée dans certaines situations. Reconnaissant cette limite, nous soutenons l'approche axée sur le contexte. Cependant, à l'inverse, laisser trop de détails à définir au niveau sectoriel expose la proposition au risque d'une application incohérente, ce qui affaiblirait la confiance dans le régime et nuirait à la réputation de l'État de droit du Royaume-Uni en matière d'IA. Cette approche n'est donc pas idéale non plus.

Il est important de souligner que cette dernière approche a d'importantes répercussions pratiques. Malgré les nuances entre les secteurs d'activité, il n'existe pas de frontières claires d'un point de vue sectoriel – en fait, il y a souvent un chevauchement substantiel entre l'utilisation de ces technologies dans différentes industries. Chaque régulateur sectoriel devrait adopter sa propre interprétation des principes fondamentaux, ce qui deviendrait rapidement fragmenté, incohérent et difficile à appréhender. Une approche qui reconnaît cette complexité et cherche à apporter une clarté supplémentaire à un niveau holistique pour assurer la cohérence serait un ajout bienvenu à la proposition.

Avez-vous des avis préliminaires sur la meilleure façon de mettre en œuvre notre approche ? Selon vous, quelles sont les principales considérations pratiques ? De quoi le système réglementaire aura-t-il besoin pour concrétiser notre approche ? Comment pouvons-nous rationaliser et coordonner au mieux les directives sur l'IA émanant des régulateurs ?

La démarche suggérée consistant à placer la proposition sur une base non législative est compréhensible. Étant donné la nouveauté de ce domaine, un processus d'évolution est nécessaire pour tous les cadres, et une base non législative permettrait la boucle de rétroaction rapide requise par une évolution accélérée. L'inconvénient d'une base non législative est que la proposition ne suscitera pas le même niveau d'engagement et de participation du marché qu'une initiative législative. Il est possible que des directives non législatives, qui ne comportent aucune contrainte en cas de non-conformité, soient largement ignorées par le marché. Le paysage des principes et des cadres éthiques volontaires pour l'IA est déjà très diversifié et saturé - avec des ressources limitées et de nombreuses demandes concurrentes, nous supposons que les acteurs du marché se concentreraient plutôt sur la conformité avec d'autres régimes mondiaux (tels que l'IA Act de l'UE ou des cadres spécifiques déjà établis dans leur secteur d'activité respectif).

L'avantage de démarrer sur une base législative est que la proposition serait prise plus au sérieux et susciterait un engagement plus fort. La boucle de rétroaction nécessaire pour garantir que la proposition évolue rapidement et efficacement pourrait être obtenue grâce à des initiatives de bac à sable (sandboxing). La décision de recourir ou non à une base législative est en fin de compte politique, mais si tel était le cas, nous soutiendrions une telle démarche. Nous estimons qu'il est possible d'établir le Royaume-Uni en tant que leader pro-innovation dans le domaine d'une IA sûre et robuste. Un acte du Parlement traitant de bon nombre des questions soulevées dans le Document de politique générale, et auxquelles nous répondons ici, contribuerait grandement à atteindre cet objectif.

Anticipez-vous des défis pour les entreprises opérant dans plusieurs juridictions ? Avez-vous des avis préliminaires sur la manière dont notre approche pourrait soutenir le commerce transfrontalier et la coopération internationale de la manière la plus efficace ?

Le Document de politique générale indique à juste titre qu'à l'ère du numérique, il convient d'accorder l'attention requise à la manière dont les initiatives réglementaires dans ce domaine interagiront avec les autres cadres nationaux et internationaux. Comme cela a été souligné, de nombreuses autres juridictions mettent actuellement en œuvre leurs propres réglementations et politiques en matière d'IA.

Les acteurs du marché à travers le monde bénéficieraient généralement d'une approche harmonisée de la réglementation de l'IA entre les juridictions, et nous attendons de tout régime ici au Royaume-Uni qu'il vienne compléter ces normes mondiales émergentes, au bénéfice des citoyens britanniques. Toute considération plus large concernant le commerce transfrontalier et la coopération internationale serait probablement mieux traitée en dehors des questions examinées dans ce Document de politique générale.

‍

Avez-vous connaissance de sources de données robustes pour soutenir le suivi de l'efficacité de notre approche, tant au niveau d'un régulateur individuel qu'au niveau du système ?

Oui – la plateforme logicielle que nous développons permettra aux régulateurs de suivre l'efficacité de leur approche tant au niveau global du système qu'au niveau de chaque régulateur individuel. Nous collaborons déjà avec des partenaires de conception clés qui utilisent notre plateforme pour mettre en œuvre des principes détaillés d'IA, mesurer la conformité à ces principes au sein de leur organisation et établir des barrières de gouvernance efficaces afin de garantir que leurs systèmes soient aussi robustes et sûrs que possible. Nous serions ravis d'échanger davantage avec le Bureau pour l'intelligence artificielle afin de partager nos enseignements dans ce domaine.

‍

Enzai est la plateforme leader de l'enterprise AI governance, conçue spécifiquement pour aider les organisations à passer d'une politique abstraite à une supervision opérationnelle. Notre AI risk management platform fournit l'infrastructure spécialisée requise pour gérer l'agentic AI governance, maintenir un AI inventory complet et garantir l'EU AI Act compliance. En automatisant les flux de travail complexes, Enzai permet aux entreprises de déployer l'IA à grande échelle en toute confiance, tout en restant alignées sur les normes mondiales telles que ISO 42001 et le NIST.