Nous sommes ravis de partager notre réponse au récent document politique de l'Office de l'intelligence artificielle du gouvernement britannique intitulé « Établir une approche pro-innovation pour la régulation de l'IA ». Nous tenons à remercier l'Office de l'intelligence artificielle pour leur travail sur ce sujet extrêmement important à ce jour, et nous sommes enchantés de faire partie des discussions à l'avenir. Découvrez comment Enzai peut vous aider à naviguer dans les régulations sur l'IA en évolution.

PAR COURRIEL: evidence@officeforai.gov.uk

Réponse au document politique intitulé « Établir une approche pro-innovation pour la régulation de l'IA » daté du 20 juillet 2022 (le « Document Politique »)

En guise d'introduction, Enzai est une nouvelle startup incorporée à Belfast, Irlande du Nord. Fondée par Ryan Donnelly (un avocat d'affaires et de la réglementation de premier plan) et Jack Carlisle (un ingénieur logiciel expérimenté) en août 2021, nous avons pour mission de veiller à ce que les technologies d'intelligence artificielle (« IA ») puissantes soient utilisées pour le bénéfice de la société dans son ensemble à l'avenir.

Nous nous concentrons particulièrement sur la protection contre les risques substantiels associés à l'IA. Grâce à notre plateforme logicielle, nos clients peuvent comparer leurs systèmes IA aux meilleures pratiques de développement de l'IA, comprendre la position de gouvernance globale de l'IA dans leur organisation, et imposer les vérifications de gouvernance nécessaires à leurs systèmes pour garantir leur succès. En agissant ainsi, nous permettons à nos clients de construire des systèmes plus sûrs et plus robustes, qui profitent non seulement aux organisations les utilisant, mais à la société dans son ensemble.

Nous croyons fermement au pouvoir de la réglementation comme force d'activation, avec le potentiel de stimuler l'innovation dans le domaine de l'IA. Des technologies aussi puissantes nécessitent des garde-fous sensés pour garantir que les développements futurs profitent aux entreprises et à la société. Cela représente une formidable opportunité pour le Royaume-Uni. Compte tenu des antécédents juridiques de notre fondateur, nous sommes bien conscients de la réputation mondiale du Royaume-Uni pour ses régimes réglementaires et l'état de droit. Nous croyons fermement que le Royaume-Uni est idéalement placé pour attirer des talents et des investissements substantiels dans le domaine de l'IA grâce à un cadre réglementaire intelligent. Pour maximiser cette opportunité, tout cadre réglementaire devrait tenir compte des principes suivants : (1) ciblé, pour que la réglementation ait le plus grand impact avec le moins d'intervention possible; (2) dirigé par le contexte, en tenant compte des circonstances uniques de la technologie et des domaines auxquels elle est appliquée; et (3) clair, pour que les participants au marché puissent avoir la certitude de ce qui est attendu d'eux.

À cet égard, nous accueillons favorablement les propositions avancées dans ce Document Politique comme une étape importante vers l'établissement du Royaume-Uni en tant que juridiction IA pro-innovation. Nous sommes heureux de présenter nos réponses aux questions individuelles soulevées dans le Document Politique ci-dessous.

Quels sont les défis les plus importants avec notre approche actuelle de la régulation de l'IA ? Avez-vous des avis sur les lacunes, chevauchements ou contradictions les plus importants ?

En guise de commentaire général, l'approche basée sur les risques définie dans le Document Politique est un point de départ sensé pour cette proposition – nous soulignerions la nécessité de veiller à ce que toute intervention réglementaire soit en conformité avec les principes décrits ci-dessus.

Nous avons remarqué le désir du gouvernement de réglementer l'utilisation de l'IA, plutôt que l'IA elle-même. Nous pensons que se concentrer uniquement sur les impacts en aval de l'IA autour de son utilisation est trop simpliste. Le cadre réglementaire devrait être holistique, tenant compte de tous les aspects du cycle de vie de l'IA, pour garantir que les systèmes sont sûrs et robustes. L'absence de garde-fous sensés sur d'autres aspects du cycle de développement (comme les tâches de curation et de préparation des ensembles de données à l'amont, et les tâches de modélisation, de formation, de test et d'évaluation à mi-chemin) laisse une marge substantielle pour l'ambiguïté et la confusion. Imposer des attentes raisonnables aux participants du marché tout au long du cycle de développement, pour les systèmes ayant un potentiel d'impact à haut risque, serait un ajout bienvenu à l'approche. Cela pourrait prendre la forme de l'exigence d'un niveau de documentation technique et de la création d'un système de gestion des risques pour ces formes d'IA, et la plateforme logicielle que nous construisons contribuerait grandement à alléger toute charge administrative que ces exigences pourraient faire peser sur les participants du marché.

L'approche avancée dans le Document Politique autour de la définition de l'IA est intéressante et le concept d'une interprétation basée sur les « caractéristiques essentielles » est attrayant. Cependant, nous pensons que cela pourrait aller plus loin - il serait possible d'établir une liste exhaustive de technologies qui pourraient être clairement considérées comme de l'IA pour faciliter l'interprétation. L'analyse des caractéristiques essentielles pourrait alors être appliquée aux cas particuliers, et toute nouvelle IA pourrait être ajoutée à la liste des technologies IA une fois inventée. Cela dit, nous reconnaissons que cela imposerait une charge administrative aux organismes de régulation. Par conséquent, nous serions favorables à des discussions plus approfondies sur le potentiel de cette proposition particulière.

Nous avons été ravis de lire la reconnaissance que, à ce stade, cet espace a évolué de manière organique et désordonnée (à un rythme rapide) et que cela rend extrêmement difficile la navigation pour les participants du marché. De nombreux organismes gouvernementaux publient différents cadres, feuilles de route et lignes directrices et il est devenu difficile de suivre le rythme. Nous voyons cela comme un défi important, et nous aimerions voir une simplification substantielle des organismes et décideurs de l'IA du Royaume-Uni, avec une source unique de vérité pour que les participants du marché puissent interagir avec et s'y référer. Cette suggestion n'est pas destinée à contredire l'approche sectorielle préconisée dans le Document Politique. Bien au contraire, cette approche de source unique de vérité devrait guider les participants à travers les cadres sectoriels et les organismes de réglementation spécifiques nécessaires.

Êtes-vous d'accord avec l'approche dirigée par le contexte effectuée par les régulateurs établis au Royaume-Uni telle que définie dans ce document ? Quels sont, d'après vous, les bénéfices de cette approche ? Quels en sont les inconvénients ?

L'approche contextuelle pour la régulation de l'IA est en principe raisonnable. Pour garantir que l'approche est réellement efficace, nous insisterions sur le fait que le contexte est exhaustif – il comprend tous les aspects de la technologie elle-même, ainsi que le contexte spécifique du domaine dans lequel elle est utilisée. D'après notre expérience d'engagement avec les participants du marché, différents secteurs de l'industrie (santé, finance, automobile, etc.) adoptent des approches différentes pour construire et mettre en œuvre les technologies. De plus, l'approche contextuelle doit être ciblée (pour garantir l'impact maximum avec le moins d'intervention) et claire (pour que les participants du marché puissent facilement comprendre leurs obligations). Pour réaliser son plein potentiel, l'approche contextuelle devra être complétée par des politiques et des orientations supplémentaires.

Êtes-vous d'accord que nous devrions établir un ensemble de principes intersectoriels pour guider notre approche générale ? Les principes intersectoriels proposés couvrent-ils les questions communes et les risques posés par les technologies IA ? Qu'est-ce qui manque, le cas échéant ?

Des principes soigneusement construits représentent un fondement solide pour un écosystème IA hautement fonctionnel. Cependant, d'après notre expérience, les principes seuls n'atteignent rarement leur objectif. Ils ont tendance à être des concepts nébuleux qui sont difficiles à traduire en idées pratiques et réalisables. Par exemple, la plupart seraient d'accord pour dire que les systèmes IA devraient être équitables et sûrs, mais un éventail beaucoup plus large d'opinions émergerait sur ce que signifie « équitable » et « sûr » dans tout scénario pratique donné. Les participants du marché bénéficieraient grandement d'un ensemble bien défini et clair d'obligations pouvant être appliquées de manière cohérente avec certitude. Par conséquent, les principes doivent être soutenus par des exigences plus concrètes pour garantir qu'ils peuvent être effectivement adoptés dans la pratique.

Il existe un équilibre à trouver quant au niveau pertinent de spécificité qui devrait légitimement se situer entre les principes et ces exigences concrètes. Établir un ensemble détaillé d'exigences régulant l'IA qui s'applique à tous les secteurs pourrait conduire à une réglementation rigide qui ne serait pas adaptée aux circonstances dans certaines situations. Reconnaissant cette limitation, nous soutenons l'approche dirigée par le contexte. Cependant, à l'inverse, laisser trop de détails être définis au niveau sectoriel expose la proposition au risque d'une application incohérente qui minerait la confiance dans le régime et nuirait à la réputation du Royaume-Uni pour l'état de droit en matière d'IA. Par conséquent, cette approche n'est pas idéale non plus.

Il est important de signaler que cette dernière approche a des implications pratiques significatives. Malgré les nuances entre les secteurs industriels, il n'existe pas de lignes de démarcation claires sur une base sectorielle - en fait, il existe souvent des chevauchements importants entre l'utilisation de ces technologies dans différentes industries. Chaque régulateur sectoriel devrait prendre sa propre interprétation des principes de base et cela deviendrait rapidement fragmenté, incohérent et difficile à naviguer. Une approche qui reconnaît cette complexité et cherche à ajouter une clarté supplémentaire au niveau holistique pour garantir la cohérence serait un ajout bienvenu à la proposition.

Avez-vous des avis préliminaires sur la meilleure façon de mettre en œuvre notre approche ? À votre avis, quelles sont les principales considérations pratiques ? Qu'est-ce que le système de régulation devra accomplir sur notre approche ? Comment pouvons-nous mieux rationaliser et coordonner les directives sur l'IA des régulateurs ?

L'approche suggérée de mettre la proposition sur une base non statutaire est compréhensible. Étant donné que cet espace est nouveau, il y a un processus d'évolution requis pour tous les cadres et une base non statutaire permettrait la boucle de rétroaction rapide que l'évolution rapide exige. L'inconvénient d'une base non statutaire est que la proposition ne gagnera pas le même niveau d'engagement et de participation du marché qu'une initiative statutaire aurait reçu. Il y a un risque que les directives non statutaires, qui ne contiennent aucune « contrainte » pour le non-respect, seraient largement ignorées par le marché. Le paysage des principes et cadres éthiques volontaires pour l'IA est déjà très divers et bruyant - avec des ressources limitées et de nombreuses demandes concurrentes, nous soupçonnons que les participants au marché se concentreraient sur l'assurance de la conformité avec d'autres régimes mondiaux à la place (comme l'Acte IA de l'UE ou des cadres spécifiques qui sont déjà établis dans leur secteur industriel pertinent).

L'avantage de commencer sur une base statutaire est que la proposition serait prise plus sérieusement et recevrait un engagement plus fort. La boucle de rétroaction nécessaire pour garantir que la proposition évolue rapidement et efficacement pourrait être obtenue grâce à des initiatives de bac à sable. C'est en fin de compte une décision politique de savoir si cela doit reposer sur une base statutaire, cependant, si tel était le cas, nous soutiendrions une telle démarche. De notre point de vue, il y a de la place pour établir le Royaume-Uni en tant que leader pro-innovation dans l'IA sûre et robuste. Une loi du Parlement abordant bon nombre des questions soulevées dans le Document Politique, et auxquelles on a répondu ici, contribuerait dans une certaine mesure à atteindre cet objectif.

Anticipez-vous des défis pour les entreprises opérant sur plusieurs juridictions ? Avez-vous des avis préliminaires sur la façon dont notre approche pourrait aider à soutenir le commerce transfrontalier et la coopération internationale de la manière la plus efficace ?

Le Document Politique indique correctement que, à cette ère numérique, il faut accorder l'attention nécessaire à la façon dont toute initiative de régulation dans cet espace interagirait avec les cadres autres, tant nationaux qu'internationaux. Comme mentionné, de nombreuses autres juridictions mettent désormais en œuvre leurs propres régulations et politiques IA.

Les participants au marché à travers le monde bénéficieraient généralement d'une approche harmonisée de la régulation de l'IA entre les juridictions, et nous nous attendrions à ce que tout régime ici au Royaume-Uni complète ces normes mondiales émergentes au bénéfice des citoyens au Royaume-Uni. Toute considération plus large autour du commerce transfrontalier et de la coopération internationale est probablement mieux traitée en dehors des questions examinées dans ce Document Politique.

Connaissez-vous des sources de données robustes pour soutenir le suivi de l'efficacité de notre approche, tant au niveau de chaque régulateur que du système global ?

Oui – la plateforme logicielle que nous construisons permettra aux régulateurs de suivre l'efficacité de leur approche tant au niveau du système global que du régulateur individuel. Nous travaillons déjà avec certains partenaires de conception clés qui utilisent notre plateforme pour mettre en œuvre des principes détaillés de l'IA, mesurer la conformité à ces principes au sein de leur organisation et établir des portes de gouvernance efficaces pour garantir que leurs systèmes sont aussi robustes et sûrs que possible. Nous serions heureux de nous engager davantage avec l'Office de l'intelligence artificielle pour partager nos enseignements ici.

Vous pouvez en apprendre davantage sur les approches de régulation de l'IA en US et Europe sur le blog d'Enzai.