Ravis de partager notre réponse au récent document d'orientation de l'Office for Artificial Intelligence du gouvernement britannique intitulé « Établir une approche pro-innovation pour réglementer l'IA ». Nous tenons à remercier l'Office for Artificial Intelligence pour son travail accompli à ce jour sur ce sujet d'une importance capitale, et nous sommes ravis de faire partie des discussions à venir. Découvrez comment Enzai peut vous aider à naviguer dans un paysage en constante évolution de réglementations sur l'IA.

PAR E-MAIL : evidence@officeforai.gov.uk

Réponse au document d'orientation intitulé « Établir une approche pro-innovation pour réglementer l'IA » daté du 20 juillet 2022 (le « Document d'orientation »)

En guise d'introduction, Enzai est une jeune entreprise technologique constituée à Belfast, en Irlande du Nord. Fondée en août 2021 par Ryan Donnelly (un avocat d'affaires et de la réglementation de premier plan) et Jack Carlisle (un ingénieur logiciel chevronné), notre mission consiste à veiller à ce que les puissantes technologies d'intelligence artificielle (« IA ») soient utilisées à l'avenir au bénéfice de l'ensemble de la société.

Nous nous attachons particulièrement à nous prémunir contre les risques importants inhérents à l'IA. Grâce à notre plateforme logicielle, nos clients sont en mesure d'évaluer leurs systèmes d'IA par rapport aux standards d'excellence en matière de développement de l'IA, de comprendre la position globale de gouvernance de l'IA au sein de leur organisation et d'imposer les contrôles et contre-pouvoirs nécessaires à la réussite de leurs systèmes. Ce faisant, nous permettons à nos clients de concevoir des systèmes plus sûrs et plus robustes, profitant non seulement aux organisations individuelles qui exploitent ces technologies, mais aussi à la société dans son ensemble.

Nous croyons fermement au pouvoir de la réglementation en tant que force d'émulation, capable de stimuler l'innovation dans le domaine de l'IA. Des technologies d'une telle puissance requièrent des garde-fous judicieux afin de garantir que les futurs développements profitent aux entreprises et à la société. Cela représente une opportunité formidable pour le Royaume-Uni. Compte tenu du profil juridique de notre fondateur, nous sommes pleinement conscients de la réputation mondiale du Royaume-Uni pour ses cadres réglementaires et son État de droit. Nous croyons fermement que le Royaume-Uni est idéalement positionné pour attirer des talents et des investissements substantiels dans le domaine de l'IA grâce à un cadre réglementaire intelligent. Afin de maximiser cette opportunité, tout cadre réglementaire devrait tenir compte des principes suivants. Il doit être : (1) ciblé, de sorte que la réglementation ait le plus grand impact avec le moins d'interventions possible ; (2) axé sur le contexte, en tenant compte des circonstances uniques de la technologie et du ou des domaines dans lesquels elle est appliquée ; et (3) clair, afin que les acteurs du marché puissent avoir une certitude quant à ce que l'on attend d'eux.

À cet effet, nous saluons les propositions formulées dans ce Document d'orientation comme une étape importante vers l'établissement du Royaume-Uni en tant que juridiction de l'IA favorable à l'innovation. Nous sommes heureux de présenter ci-dessous nos réponses aux questions individuelles soulevées dans le Document d'orientation.

Quels sont les défis les plus importants de notre approche actuelle en matière de régulation de l'IA ? Avez-vous des avis sur les lacunes, les chevauchements ou les contradictions les plus critiques ?

À titre de commentaire général, l'approche fondée sur le risque exposée dans le Document d'orientation constitue un point de départ judicieux pour cette proposition – nous insisterions sur la nécessité de veiller à ce que toute intervention réglementaire soit conforme aux principes énoncés ci-dessus.

Nous prenons note de la volonté du gouvernement de réglementer l'utilisation de l'IA, plutôt que l'IA elle-même. Nous estimons que se concentrer uniquement sur les impacts en aval de l'IA concernant son utilisation est trop simpliste. Le cadre réglementaire devrait être holistique, en tenant compte de tous les aspects du cycle de vie de l'IA, afin de s'assurer que les systèmes sont sûrs et robustes. L'absence de garde-fous judicieux sur d'autres aspects du cycle de vie du développement (tels que les tâches en amont de sélection et de préparation des ensembles de données, et les tâches intermédiaires de modélisation, d'entraînement, de test et d'évaluation) laisse une place importante à l'ambiguïté et à la confusion. L'imposition d'attentes raisonnables aux acteurs du marché tout au long du cycle de vie du développement, pour les systèmes ayant un potentiel d'impact à haut risque, serait un ajout bienvenu à l'approche. Cela pourrait prendre la forme d'une exigence de documentation technique et de la création d'un système de gestion des risques pour ces formes d'IA ; la plateforme logicielle que nous développons permettrait d'alléger grandement la charge administrative que ces exigences pourraient sembler imposer aux acteurs du marché.

L'approche proposée dans le Document d'orientation concernant la définition de l'IA est intéressante, et le concept d'une interprétation basée sur des « caractéristiques fondamentales » est séduisant. Toutefois, nous pensons qu'il serait possible d'aller plus loin : on pourrait dresser une liste exhaustive des technologies qui pourraient être clairement considérées comme de l'IA afin de faciliter l'interprétation. L'analyse des caractéristiques fondamentales s'appliquerait alors aux cas limites, et toute nouvelle IA pourrait être ajoutée à la liste des technologies d'IA une fois inventée. Cela étant dit, nous reconnaissons que cela imposerait une charge administrative aux organismes de réglementation. Par conséquent, nous accueillerions favorablement de nouvelles discussions autour du potentiel de cette proposition particulière.

Nous avons été heureux de constater qu'il est reconnu qu'à l'heure actuelle, ce secteur a évolué de manière organique et désordonnée (à un rythme rapide), ce qui le rend extrêmement difficile à appréhender pour les acteurs du marché. De nombreux organismes gouvernementaux publient des cadres, des feuilles de route et des directives différents, et il est devenu difficile de s'y retrouver. Nous y voyons un défi majeur et souhaiterions une simplification substantielle des organismes et des décideurs politiques britanniques en matière d'IA, avec une source unique d'information à laquelle les acteurs du marché pourraient s'adresser et se référer. Cette suggestion ne se veut pas en contradiction avec l'approche sectorielle préconisée dans le Document d'orientation. Au contraire, cette approche par source unique d'information devrait guider les participants vers les cadres et les organismes de réglementation sectoriels, le cas échéant.

‍

Êtes-vous d'accord avec l'approche axée sur le contexte, mise en œuvre par l'intermédiaire des régulateurs établis du Royaume-Uni et exposée dans ce document ? Quels sont, selon vous, les avantages de cette approche ? Quels en sont les inconvénients ?

L'approche axée sur le contexte pour réguler l'IA est judicieuse sur le principe. Afin de garantir l'efficacité réelle de cette approche, nous soulignerons que le contexte englobe tout : il comprend tous les aspects de la technologie elle-même, ainsi que le contexte sectoriel spécifique dans lequel elle est utilisée. D'après notre expérience auprès des acteurs du marché, les différents secteurs d'activité (santé, finance, automobile, etc.) adoptent des approches différentes pour concevoir et mettre en œuvre ces technologies. De plus, l'approche axée sur le contexte doit être ciblée (pour garantir un impact maximal avec un minimum d'interventions) et claire (pour que les acteurs du marché puissent facilement comprendre leurs obligations). Afin de réaliser pleinement son potentiel, l'approche axée sur le contexte devra être complétée par des politiques et des orientations supplémentaires.

Êtes-vous d'accord sur le fait que nous devrions établir un ensemble de principes transsectoriels pour guider notre approche globale ? Les principes transsectoriels proposés couvrent-ils les enjeux et les risques communs posés par les technologies d'IA ? Qu'est-ce qui manque, le cas échéant ?

Des principes soigneusement élaborés constituent un socle solide pour un écosystème d'IA hautement performant. Cependant, d'après notre expérience, les principes seuls suffisent rarement. Ils ont tendance à être des concepts nébuleux qu'il est difficile de traduire en actions concrètes dans le monde réel. Par exemple, la plupart conviendraient que les systèmes d'IA doivent être équitables et sûrs, mais des divergences d'opinion majeures apparaîtraient quant à la signification concrète d'un système équitable et sûr dans un scénario pratique donné. Les acteurs du marché bénéficieraient grandement d'un ensemble d'obligations clair et bien défini, applicable de manière cohérente et prévisible. Par conséquent, les principes doivent être soutenus par des exigences plus concrètes pour s'assurer qu'ils puissent être adoptés efficacement dans la pratique.

Un équilibre doit être trouvé quant au niveau de spécificité approprié qui doit légitimement s'établir entre les principes et ces exigences concrètes. L'établissement d'un ensemble détaillé d'exigences réglementant l'IA qui s'appliqueraient à tous les secteurs pourrait conduire à une réglementation rigide et inadaptée à certaines situations. Reconnaissant cette limite, nous soutenons l'approche axée sur le contexte. Cependant, à l'inverse, laisser trop de détails à définir au niveau sectoriel expose la proposition au risque d'une application incohérente, ce qui minerait la confiance dans le régime et nuirait à la réputation du Royaume-Uni en matière d'État de droit concernant l'IA. Par conséquent, cette approche n'est pas idéale non plus.

Il est important de souligner que cette dernière approche a des implications pratiques majeures. Malgré les nuances entre les secteurs d'activité, il n'existe pas de lignes de démarcation nettes sur une base sectorielle – en réalité, il y a souvent un chevauchement substantiel entre l'utilisation de ces technologies dans différentes industries. Chaque régulateur sectoriel devrait adopter sa propre interprétation des principes fondamentaux, et cela deviendrait rapidement fragmenté, incohérent et difficile à appréhender. Une approche qui reconnaît cette complexité et cherche à apporter une clarté supplémentaire à un niveau holistique pour assurer la cohérence serait un ajout bienvenu à la proposition.

Avez-vous des avis préliminaires sur la meilleure façon de mettre en œuvre notre approche ? Selon vous, quelles sont les principales considérations pratiques ? De quoi le système réglementaire aura-t-il besoin pour concrétiser notre approche ? Comment pouvons-nous rationaliser et coordonner au mieux les orientations des régulateurs sur l'IA ?

L'approche suggérée consistant à placer la proposition sur une base non législative est compréhensible. Étant donné la nouveauté de ce secteur, un processus d'évolution est nécessaire pour tous les cadres, et une base non législative permettrait la boucle de rétroaction rapide requise par une évolution rapide. L'inconvénient d'une base non législative est que la proposition ne suscitera pas le même niveau d'engagement et de participation du marché qu'une initiative législative. Il est possible que des orientations non législatives, dépourvues de sanctions en cas de non-conformité, soient largement ignorées par le marché. Le paysage des principes et cadres d'éthique de l'IA volontaires est déjà très diversifié et saturé – avec des ressources limitées et de nombreuses demandes concurrentes, nous soupçonnons les acteurs du marché de se concentrer plutôt sur la conformité avec d'autres régimes mondiaux (tels que la loi européenne sur l'IA ou des cadres spécifiques déjà établis dans leur secteur d'activité respectif).

L'avantage de commencer sur une base législative est que la proposition serait prise plus au sérieux et bénéficierait d'un engagement plus fort. La boucle de rétroaction nécessaire pour garantir que la proposition évolue rapidement et efficacement pourrait être obtenue grâce à des initiatives de bac à sable réglementaire. La décision de donner ou non une portée législative à cette proposition est en fin de compte politique, mais si tel était le cas, nous soutiendrions une telle démarche. Nous estimons qu'il existe un espace pour faire du Royaume-Uni un leader pro-innovation en matière d'IA sûre et robuste. Une loi du Parlement abordant un grand nombre des questions soulevées dans le Document d'orientation, et auxquelles nous répondons ici, contribuerait grandement à atteindre cet objectif.

Anticipez-vous des difficultés pour les entreprises opérant dans plusieurs juridictions ? Avez-vous des avis préliminaires sur la manière dont notre approche pourrait soutenir le commerce transfrontalier et la coopération internationale de la manière la plus efficace ?

Le Document d'orientation indique à juste titre qu'à l'ère du numérique, il convient d'accorder toute l'attention requise à la manière dont les initiatives réglementaires dans ce domaine interagiront avec d'autres cadres nationaux et internationaux. Comme nous l'avons souligné, de nombreuses autres juridictions mettent actuellement en œuvre leurs propres réglementations et politiques en matière d'IA.

Les acteurs du marché du monde entier bénéficieraient généralement d'une approche harmonisée de la régulation de l'IA à travers les différentes juridictions, et nous attendons de tout régime mis en place ici au Royaume-Uni qu'il vienne compléter ces normes mondiales émergentes, dans l'intérêt des citoyens du Royaume-Uni. Toute considération plus large concernant le commerce transfrontalier et la coopération internationale est probablement plus à sa place en dehors des questions examinées dans ce Document d'orientation.

‍

Avez-vous connaissance de sources de données fiables pour soutenir le suivi de l'efficacité de notre approche, tant au niveau d'un régulateur individuel qu'au niveau du système dans son ensemble ?

Oui – la plateforme logicielle que nous développons permettra aux régulateurs de suivre l'efficacité de leur approche, tant au niveau global du système qu'au niveau de chaque régulateur individuel. Nous collaborons déjà avec des partenaires de conception clés qui utilisent notre plateforme pour mettre en œuvre des principes d'IA détaillés, mesurer la conformité à ces principes au sein de leur organisation et établir des barrières de gouvernance efficaces pour s'assurer que leurs systèmes soient aussi robustes et sûrs que possible. Nous serions ravis d'échanger plus amplement avec l'Office for Artificial Intelligence pour partager nos enseignements dans ce domaine.

‍

Enzai est la plateforme leader de gouvernance de l'IA d'entreprise, spécialement conçue pour aider les organisations à passer d'une politique abstraite à une supervision opérationnelle. Notre plateforme de gestion des risques liés à l'IA fournit l'infrastructure spécialisée requise pour gérer la gouvernance de l'IA agentique, maintenir un inventaire de l'IA complet et assurer la conformité à la loi de l'UE sur l'IA. En automatisant les flux de travail complexes, Enzai permet aux entreprises de faire évoluer l'adoption de l'IA en toute confiance tout en restant alignées sur les normes mondiales telles que l'ISO 42001 et le NIST.