Heureux de partager notre réponse au récent document d’orientation de l’Office for Artificial Intelligence du gouvernement britannique, intitulé « Établir une approche favorable à l’innovation pour réglementer l’IA ». Nous souhaitons remercier l’Office for Artificial Intelligence pour le travail accompli à ce jour sur cet enjeu d’une importance capitale, et nous sommes ravis de prendre part au débat à l’avenir. Découvrez comment Enzai peut vous aider à naviguer dans l’évolution des réglementations relatives à l’IA.

PAR COURRIEL : evidence@officeforai.gov.uk

Réponse au document d’orientation intitulé « Établir une approche favorable à l’innovation pour réglementer l’IA » en date du 20 juillet 2022 (le « Document d’orientation »)

À titre d’introduction, Enzai est une jeune entreprise en démarrage constituée à Belfast, en Irlande du Nord. Fondée par Ryan Donnelly (avocat de premier plan spécialisé en droit des affaires et en réglementation) et Jack Carlisle (ingénieur logiciel expérimenté) en août 2021, notre mission est de veiller à ce que les puissantes technologies d’intelligence artificielle (« IA ») soient utilisées à l’avenir dans l’intérêt de la société dans son ensemble.

Nous mettons particulièrement l’accent sur la protection contre les risques importants liés à l’IA. Grâce à notre plateforme logicielle, nos clients sont en mesure de comparer leurs systèmes d’IA aux meilleures pratiques de développement de l’IA, de comprendre la position globale de gouvernance de l’IA au sein de leur organisation et d’imposer à leurs systèmes les contrôles et contrepoids de gouvernance nécessaires pour garantir leur réussite. Ce faisant, nous permettons à nos clients de développer des systèmes plus sûrs et plus robustes, qui profitent non seulement aux organisations individuelles utilisant ces technologies, mais aussi à la société dans son ensemble.

Nous sommes fermement convaincus du pouvoir de la réglementation en tant que force d’accompagnement, avec le potentiel de faire progresser l’innovation dans l’espace de l’IA. Des technologies d’une telle puissance ont besoin de garde-fous raisonnables pour garantir que les développements futurs bénéficient aux entreprises et à la société. Cela représente une formidable opportunité pour le Royaume-Uni. Compte tenu du parcours juridique de notre fondateur, nous sommes pleinement conscients de la réputation mondiale du Royaume-Uni en matière de régimes réglementaires et d’état de droit. Nous sommes fermement convaincus que le Royaume-Uni est particulièrement bien placé pour attirer d’importants talents et investissements dans le domaine de l’IA grâce à un cadre réglementaire intelligent. Afin de maximiser cette opportunité, tout cadre réglementaire devrait tenir compte des principes suivants. Il devrait être : (1) ciblé, de sorte que la réglementation ait le plus fort impact avec le moins d’intervention possible ; (2) fondé sur le contexte, en tenant compte des circonstances propres à la technologie et au(x) domaine(s) dans lequel ou lesquels elle est appliquée ; et (3) clair, afin que les acteurs du marché puissent avoir une certitude quant à ce qui est attendu d’eux.

À cette fin, nous accueillons favorablement les propositions formulées dans ce Document d’orientation comme une étape importante vers l’établissement du Royaume-Uni en tant que juridiction de l’IA favorable à l’innovation. Nous sommes heureux de présenter ci-dessous nos réponses aux différentes questions soulevées dans le Document d’orientation.

Quels sont les défis les plus importants posés par notre approche actuelle de la réglementation de l’IA ? Avez-vous un avis sur les lacunes, chevauchements ou contradictions les plus importants ?

De manière générale, l’approche fondée sur les risques exposée dans le Document d’orientation constitue un point de départ raisonnable pour cette proposition – nous soulignerions la nécessité de veiller à ce que toute intervention réglementaire soit conforme aux principes énoncés ci-dessus.

Nous prenons note de la volonté du gouvernement de réglementer l’usage de l’IA plutôt que l’IA elle-même. À notre avis, se concentrer uniquement sur les impacts en aval de l’IA liés à son utilisation est trop simpliste. Le cadre réglementaire devrait être holistique et prendre en compte tous les aspects du cycle de vie de l’IA, afin de garantir que les systèmes soient sûrs et robustes. L’absence de garde-fous raisonnables sur d’autres aspects du cycle de développement (tels que les tâches en amont de curation et de préparation des jeux de données, et les tâches intermédiaires de modélisation, d’entraînement, de test et d’évaluation) laisse une place considérable à l’ambiguïté et à la confusion. Imposer des attentes raisonnables aux acteurs du marché tout au long du cycle de développement, pour les systèmes présentant un potentiel d’impact à haut risque, constituerait un ajout bienvenu à l’approche. Cela pourrait prendre la forme d’une exigence de niveau de documentation technique et de la création d’un système de gestion des risques pour ces formes d’IA, et la plateforme logicielle que nous développons contribuerait grandement à alléger toute charge administrative que ces exigences pourraient être perçues comme imposant aux acteurs du marché.

L’approche proposée dans le Document d’orientation concernant la définition de l’IA est intéressante, et le concept d’une interprétation fondée sur les « caractéristiques fondamentales » est séduisant. Toutefois, nous pensons que cela pourrait aller plus loin - il serait possible d’établir une liste exhaustive de technologies pouvant être clairement considérées comme de l’IA afin de faciliter l’interprétation. L’analyse des caractéristiques fondamentales pourrait ensuite être appliquée aux cas limites, et toute nouvelle IA pourrait être ajoutée à la liste des technologies d’IA une fois inventée. Cela étant dit, nous reconnaissons que cela imposerait une charge administrative aux organismes de régulation. En conséquence, nous accueillerions favorablement de nouvelles discussions sur le potentiel de cette proposition particulière.

Nous avons été heureux de lire la reconnaissance du fait qu’à ce stade, ce secteur a évolué de manière organique et quelque peu désordonnée (à un rythme rapide), ce qui rend sa navigation extrêmement difficile pour les acteurs du marché. De nombreux organismes publics publient des cadres, feuilles de route et lignes directrices différents, et il devient difficile de s’y retrouver. Nous considérons cela comme un défi majeur, et souhaiterions voir une simplification substantielle des organismes et décideurs publics du Royaume-Uni compétents en matière d’IA, avec une source unique de vérité avec laquelle les acteurs du marché pourraient interagir et à laquelle ils pourraient se référer. Cette suggestion ne vise pas à contredire l’approche sectorielle préconisée dans le Document d’orientation. Au contraire, cette approche fondée sur une source unique de vérité devrait orienter les participants vers les cadres sectoriels et les organismes de régulation compétents, selon les besoins.

‍

Êtes-vous d’accord avec l’approche fondée sur le contexte, mise en œuvre par l’intermédiaire des régulateurs établis du Royaume-Uni et présentée dans ce document ? Quels en voyez-vous les avantages ? Quels en sont les inconvénients ?

L’approche fondée sur le contexte pour réglementer l’IA est raisonnable en principe. Afin de garantir que cette approche soit réellement efficace, nous soulignerions que le contexte est englobant – il comprend tous les aspects de la technologie elle-même, ainsi que le contexte spécifique du domaine dans lequel elle est utilisée. D’après notre expérience auprès des acteurs du marché, différents secteurs industriels (santé, finance, automobile, etc.) adoptent effectivement des approches différentes pour construire et mettre en œuvre ces technologies. En outre, l’approche fondée sur le contexte doit être ciblée (afin de garantir un impact maximal avec un minimum d’intervention) et claire (afin que les acteurs du marché puissent facilement comprendre leurs obligations). Pour déployer tout son potentiel, cette approche devra être complétée par des politiques et des orientations supplémentaires.

Êtes-vous d’accord pour que nous établissions un ensemble de principes transsectoriels afin d’orienter notre approche globale ? Les principes transsectoriels proposés couvrent-ils les enjeux et risques communs posés par les technologies de l’IA ? Qu’est-ce qui manque, le cas échéant ?

Des principes soigneusement élaborés constituent un socle solide pour un écosystème d’IA performant. Toutefois, dans notre expérience, les principes seuls vont rarement assez loin. Ils tendent à être des concepts flous difficiles à traduire en éléments concrets et exploitables dans le monde réel. Par exemple, la plupart des personnes conviendraient que les systèmes d’IA devraient être équitables et sûrs, mais une divergence d’opinions bien plus large apparaîtrait sur la signification réelle, dans un scénario pratique donné, de ce que recouvrent l’équité et la sécurité. Les acteurs du marché tireraient un immense bénéfice d’un ensemble d’obligations bien défini et clair, pouvant être appliqué de manière cohérente et certaine. Par conséquent, les principes doivent être soutenus par des exigences plus concrètes afin de garantir qu’ils puissent être effectivement adoptés dans la pratique.

Il convient de trouver un équilibre quant au niveau approprié de précision entre les principes et ces exigences concrètes. Établir un ensemble détaillé d’exigences réglementant l’IA, applicable à tous les secteurs, pourrait conduire à un texte réglementaire rigide qui ne serait pas adapté à certaines situations. Reconnaissant cette limite, nous soutenons l’approche fondée sur le contexte. Toutefois, à l’inverse, laisser trop de détails être définis au niveau sectoriel expose la proposition au risque d’une application incohérente, ce qui minerait la confiance dans le régime et nuirait à la réputation du Royaume-Uni en matière d’état de droit s’agissant de l’IA. Cette approche n’est donc pas idéale non plus.

Il est important de souligner que cette dernière approche a d’importantes implications pratiques. Malgré les nuances entre les secteurs industriels, il n’existe pas de lignes de partage claires au niveau sectoriel – en réalité, il existe souvent un chevauchement important entre l’utilisation de ces technologies dans différents secteurs. Chaque régulateur sectoriel devrait adopter sa propre interprétation des principes fondamentaux, et la situation deviendrait rapidement fragmentée, incohérente et difficile à appréhender. Une approche qui reconnaît cette complexité et cherche à apporter davantage de clarté à un niveau holistique afin d’assurer la cohérence serait un complément bienvenu à la proposition.

Avez-vous déjà des réflexions sur la meilleure manière de mettre en œuvre notre approche ? Selon vous, quelles sont les principales considérations pratiques ? Que devra apporter le système réglementaire pour concrétiser notre approche ? Comment pouvons-nous au mieux rationaliser et coordonner les orientations sur l’IA émanant des régulateurs ?

L’approche suggérée, consistant à inscrire la proposition dans un cadre non législatif, est compréhensible. Étant donné le caractère très récent de ce domaine, tous les cadres nécessitent un processus d’évolution, et un cadre non législatif permettrait la boucle de rétroaction rapide qu’exige une évolution accélérée. L’inconvénient d’un cadre non législatif est que la proposition ne bénéficiera pas du même niveau d’adhésion et de participation du marché qu’une initiative législative. Il existe un risque que des orientations non législatives, dépourvues de véritable pouvoir coercitif en cas de non-conformité, soient largement ignorées par le marché. Le paysage des principes et cadres volontaires d’éthique de l’IA est déjà très diversifié et très bruité - avec des ressources limitées et de nombreuses priorités concurrentes, nous pensons que les acteurs du marché se concentreraient plutôt sur la conformité à d’autres régimes mondiaux (tels que l’EU AI Act ou des cadres spécifiques déjà établis dans leur secteur d’activité concerné).

L’avantage d’un cadre législatif initial est que la proposition serait prise plus au sérieux et susciterait un engagement plus fort. La boucle de rétroaction nécessaire pour garantir une évolution rapide et efficace de la proposition pourrait être obtenue par des initiatives de bac à sable réglementaire. Il s’agit, en définitive, d’une décision politique de savoir si cela doit ou non relever d’un cadre législatif ; toutefois, si tel était le cas, nous soutiendrions une telle démarche. À notre avis, il existe une marge pour faire du Royaume-Uni un leader de l’IA sûre et robuste, favorable à l’innovation. Une loi du Parlement traitant de nombreuses questions soulevées dans le Document d’orientation, et auxquelles il est répondu ici, contribuerait dans une certaine mesure à atteindre cet objectif.

Prévoyez-vous des difficultés pour les entreprises opérant dans plusieurs juridictions ? Avez-vous déjà des avis sur la manière dont notre approche pourrait le mieux soutenir le commerce transfrontalier et la coopération internationale ?

Le Document d’orientation indique à juste titre que, à l’ère numérique, il convient d’accorder une attention particulière à la manière dont toute initiative réglementaire dans ce domaine interagirait avec les autres cadres nationaux et internationaux, tant nationaux qu’internationaux. Comme indiqué, de nombreuses autres juridictions mettent désormais en œuvre leurs propres réglementations et politiques en matière d’IA.

Les acteurs du marché dans le monde entier bénéficieraient généralement d’une approche harmonisée de la réglementation de l’IA entre les juridictions, et nous nous attendrions à ce que tout régime mis en place ici, au Royaume-Uni, complète ces normes mondiales émergentes dans l’intérêt des citoyens du Royaume-Uni. Toute réflexion plus large sur le commerce transfrontalier et la coopération internationale serait probablement mieux traitée en dehors des questions examinées dans ce Document d’orientation.

‍

Avez-vous connaissance de sources de données robustes permettant de suivre l’efficacité de notre approche, tant au niveau de chaque régulateur qu’au niveau du système dans son ensemble ?

Oui – la plateforme logicielle que nous développons permettra aux régulateurs de suivre l’efficacité de leur approche, à la fois au niveau global du système et au niveau de chaque régulateur. Nous travaillons déjà avec certains partenaires de conception clés qui utilisent notre plateforme pour mettre en œuvre des principes détaillés en matière d’IA, mesurer la conformité à ces principes dans l’ensemble de leur organisation et établir des points de contrôle de gouvernance efficaces afin de garantir que leurs systèmes soient aussi robustes et sûrs que possible. Nous serions ravis d’échanger davantage avec l’Office for Artificial Intelligence afin de partager ici nos enseignements.

‍

Enzai est la plateforme de référence pour la gouvernance de l’IA en entreprise, conçue sur mesure pour aider les organisations à passer d’une politique abstraite à une supervision opérationnelle. Notre plateforme de gestion des risques liés à l’IA fournit l’infrastructure spécialisée nécessaire pour gérer la gouvernance de l’IA agentique, tenir un inventaire complet de l’IA et garantir la conformité au EU AI Act. En automatisant des flux de travail complexes, Enzai permet aux entreprises de déployer l’IA à grande échelle en toute confiance, tout en restant alignées sur des normes mondiales telles que ISO 42001 et NIST.