Nous sommes ravis de partager notre réponse au récent document de politique publique du Bureau de l’intelligence artificielle du gouvernement britannique, intitulé « Establishing a pro-innovation approach to regulating AI ». Nous tenons à remercier l’Office for Artificial Intelligence pour le travail accompli à ce jour sur ce sujet d’une importance capitale, et nous sommes ravis de prendre part aux échanges à venir. Découvrez comment Enzai peut vous aider à naviguer dans l’évolution de la réglementation de l’IA.

PAR COURRIEL : evidence@officeforai.gov.uk

Réponse au document de politique publique intitulé « Establishing a pro-innovation approach to regulating AI » en date du 20 juillet 2022 (le « document de politique publique »)

À titre d’introduction, Enzai est une nouvelle start-up constituée à Belfast, en Irlande du Nord. Fondée par Ryan Donnelly (un avocat d’affaires et en réglementation de premier plan) et Jack Carlisle (un ingénieur logiciel expérimenté) en août 2021, notre mission consiste à veiller à ce que les puissantes technologies d’intelligence artificielle (« IA ») soient, à l’avenir, utilisées au bénéfice de la société dans son ensemble.

Nous nous attachons tout particulièrement à protéger contre les risques substantiels liés à l’IA. Grâce à notre plateforme logicielle, nos clients peuvent évaluer leurs systèmes d’IA par rapport à la référence absolue des pratiques de développement de l’IA, comprendre la position globale de gouvernance de l’IA au sein de leur organisation et imposer les contrôles et contrepoids de gouvernance nécessaires à leurs systèmes afin d’assurer leur réussite. Ce faisant, nous permettons à nos clients de construire des systèmes plus sûrs et plus robustes, qui profitent non seulement aux organisations individuelles utilisant ces technologies, mais à la société dans son ensemble.

Nous sommes fermement convaincus que la réglementation est un levier habilitant, susceptible d’accélérer l’innovation dans le domaine de l’IA. Des technologies d’une telle puissance ont besoin de garde-fous raisonnables pour garantir que les développements futurs bénéficient aux entreprises et à la société. Cela représente une formidable opportunité pour le Royaume-Uni. Compte tenu du parcours juridique de notre fondateur, nous sommes pleinement conscients de la réputation mondiale du Royaume-Uni en matière de régimes réglementaires et d’État de droit. Nous sommes convaincus que le Royaume-Uni est idéalement placé pour attirer d’importants talents et investissements dans le domaine de l’IA grâce à un cadre réglementaire intelligent. Afin de maximiser cette opportunité, tout cadre réglementaire devrait tenir compte des principes suivants. Il devrait être : (1) ciblé, afin que la réglementation produise le plus grand impact avec le moins d’intervention possible ; (2) fondé sur le contexte, en tenant compte des circonstances particulières de la technologie et du ou des domaines dans lesquels elle est appliquée ; et (3) clair, afin que les acteurs du marché puissent disposer d’une certitude quant à ce qui est attendu d’eux.

À cette fin, nous saluons les propositions avancées dans ce document de politique publique, qui constituent une étape importante vers l’établissement du Royaume-Uni comme juridiction de l’IA favorable à l’innovation. Nous sommes heureux de présenter ci-dessous nos réponses aux différentes questions soulevées dans le document de politique publique.

Quels sont les défis les plus importants posés par notre approche actuelle de la réglementation de l’IA ? Avez-vous un avis sur les lacunes, chevauchements ou contradictions les plus importants ?

De manière générale, l’approche fondée sur les risques exposée dans le document de politique publique constitue un point de départ judicieux pour cette proposition — nous insistons sur la nécessité de veiller à ce que toute intervention réglementaire soit conforme aux principes exposés ci-dessus.

Nous prenons note de la volonté du gouvernement de réglementer l’utilisation de l’IA, plutôt que l’IA elle-même. À notre sens, se concentrer uniquement sur les impacts en aval de l’IA liés à son utilisation est trop simpliste. Le cadre réglementaire devrait être global, en tenant compte de tous les aspects du cycle de vie de l’IA, afin de garantir que les systèmes soient sûrs et robustes. L’absence de garde-fous raisonnables sur d’autres aspects du cycle de développement (tels que les tâches en amont de curation et de préparation des jeux de données, ainsi que les tâches intermédiaires de modélisation, d’entraînement, de test et d’évaluation) laisse une marge importante d’ambiguïté et de confusion. Imposer des attentes raisonnables aux acteurs du marché tout au long du cycle de développement, pour les systèmes présentant un fort potentiel d’impact à risque élevé, constituerait un ajout bienvenu à l’approche. Cela pourrait prendre la forme d’une exigence de documentation technique et de la création d’un système de gestion des risques pour ces formes d’IA, et la plateforme logicielle que nous développons contribuerait grandement à alléger tout fardeau administratif que ces exigences pourraient être perçues comme imposant aux acteurs du marché.

L’approche proposée dans le document de politique publique concernant la définition de l’IA est intéressante et le concept d’une interprétation fondée sur des « caractéristiques fondamentales » est séduisant. Toutefois, nous estimons que cette approche pourrait aller plus loin - il serait possible d’établir une liste exhaustive de technologies pouvant être clairement considérées comme de l’IA afin d’en faciliter l’interprétation. L’analyse des caractéristiques fondamentales pourrait ensuite être appliquée aux cas limites, et toute nouvelle IA pourrait être ajoutée à la liste des technologies d’IA une fois inventée. Cela dit, nous reconnaissons qu’une telle approche ferait peser un fardeau administratif sur les autorités de régulation. Par conséquent, nous serions favorables à des discussions plus approfondies sur le potentiel de cette proposition particulière.

Nous avons été heureux de constater la reconnaissance du fait que, à ce jour, ce domaine a évolué de manière organique et quelque peu chaotique (à un rythme rapide), ce qui rend la navigation extrêmement difficile pour les acteurs du marché. De nombreux organismes gouvernementaux publient des cadres, feuilles de route et lignes directrices différents, et il est devenu difficile d’en assurer le suivi. Nous considérons qu’il s’agit d’un défi majeur, et souhaiterions voir une simplification substantielle des organismes et décideurs britanniques en matière d’IA, avec une source unique de référence avec laquelle les acteurs du marché puissent interagir et qu’ils puissent consulter. Cette suggestion n’a pas pour objet de contredire l’approche sectorielle préconisée dans le document de politique publique. Au contraire, cette source unique de référence devrait orienter les participants vers les cadres et autorités de régulation sectoriels selon les besoins.

‍

Êtes-vous d’accord avec l’approche fondée sur le contexte mise en œuvre par les régulateurs établis du Royaume-Uni telle qu’exposée dans ce document ? Quels en voyez-vous les avantages ? Quels en sont les inconvénients ?

L’approche fondée sur le contexte pour réglementer l’IA est, en principe, judicieuse. Afin de garantir son efficacité réelle, nous insistons sur le fait que le contexte doit être global — il englobe tous les aspects de la technologie elle-même, ainsi que le contexte spécifique du domaine dans lequel elle est utilisée. D’après notre expérience auprès des acteurs du marché, les différents secteurs d’activité (santé, finance, automobile, etc.) adoptent effectivement des approches différentes pour développer et déployer ces technologies. En outre, l’approche fondée sur le contexte doit être ciblée (afin d’assurer un impact maximal avec un minimum d’intervention) et claire (afin que les acteurs du marché puissent aisément comprendre leurs obligations). Afin de déployer tout son potentiel, l’approche fondée sur le contexte devra être complétée par des politiques et orientations supplémentaires.

Partagez-vous l’avis selon lequel nous devrions établir un ensemble de principes transversaux pour orienter notre approche globale ? Les principes transversaux proposés couvrent-ils les problèmes et risques communs posés par les technologies d’IA ? Qu’est-ce qui manque, le cas échéant ?

Des principes soigneusement élaborés constituent un socle solide pour un écosystème de l’IA performant. Toutefois, selon notre expérience, les principes, à eux seuls, ne vont que rarement assez loin. Ils tendent à être des concepts nébuleux, difficiles à traduire en actions concrètes dans le monde réel. À titre d’exemple, la plupart s’accorderont à dire que les systèmes d’IA devraient être équitables et sûrs, mais une divergence de vue bien plus large apparaîtra lorsqu’il s’agira de déterminer ce que « équitable » et « sûr » signifient réellement dans un scénario pratique donné. Les acteurs du marché bénéficieraient considérablement d’un ensemble d’obligations bien définies et claires, pouvant être appliquées de manière cohérente et avec certitude. Par conséquent, les principes doivent être accompagnés d’exigences plus concrètes afin de garantir qu’ils puissent être efficacement adoptés dans la pratique.

Il existe un équilibre à trouver quant au niveau de précision qui doit légitimement se situer entre les principes et ces exigences concrètes. L’établissement d’un ensemble détaillé d’exigences réglementant l’IA applicables à tous les secteurs pourrait conduire à une réglementation rigide, inadaptée à certaines situations. Reconnaissant cette limite, nous soutenons l’approche fondée sur le contexte. Cependant, à l’inverse, laisser trop de détails à définir au niveau sectoriel expose la proposition au risque d’une application incohérente, ce qui minerait la confiance dans le régime et porterait atteinte à la réputation du Royaume-Uni en matière d’État de droit s’agissant de l’IA. Par conséquent, cette approche n’est pas idéale non plus.

Il importe de souligner que cette dernière approche a d’importantes implications pratiques. Malgré les nuances entre les secteurs d’activité, il n’existe pas de lignes de partage nettes sur une base sectorielle — en réalité, il existe souvent un chevauchement substantiel entre l’utilisation de ces technologies dans différentes industries. Chaque régulateur sectoriel devrait interpréter lui-même les principes fondamentaux, et cela deviendrait rapidement fragmenté, incohérent et difficile à appréhender. Une approche qui reconnaît cette complexité et cherche à apporter davantage de clarté à un niveau global afin d’assurer la cohérence constituerait un ajout bienvenu à la proposition.

Avez-vous déjà des premières réflexions sur la meilleure manière de mettre en œuvre notre approche ? Selon vous, quelles sont les principales considérations pratiques ? De quoi le système réglementaire aura-t-il besoin pour mettre en œuvre notre approche ? Comment pouvons-nous au mieux rationaliser et coordonner les orientations sur l’IA émanant des régulateurs ?

L’approche proposée consistant à inscrire la proposition sur une base non législative est compréhensible. Compte tenu de la nouveauté du domaine, tous les cadres nécessitent un processus d’évolution, et une base non législative permettrait la boucle de rétroaction rapide qu’exige une évolution accélérée. L’inconvénient d’une base non législative est que la proposition ne bénéficiera pas du même niveau d’adhésion et de participation du marché qu’une initiative législative. Il est possible que des orientations non législatives, dépourvues de tout effet dissuasif en cas de non-conformité, soient largement ignorées par le marché. Le paysage des principes et cadres volontaires d’éthique de l’IA est déjà très diversifié et bruyant — avec des ressources limitées et de nombreuses priorités concurrentes, nous soupçonnons que les acteurs du marché se concentreraient plutôt sur la mise en conformité avec d’autres régimes mondiaux (tels que l’AI Act de l’UE ou des cadres spécifiques déjà établis dans leur secteur d’activité pertinent).

L’avantage de commencer sur une base législative est que la proposition serait prise plus au sérieux et susciterait une adhésion plus forte. La boucle de rétroaction nécessaire pour garantir une évolution rapide et efficace de la proposition pourrait être obtenue au moyen d’initiatives de bac à sable réglementaire. Il s’agit en définitive d’une décision politique de savoir si cela doit ou non reposer sur une base législative ; toutefois, si tel devait être le cas, nous soutiendrions une telle démarche. Selon nous, il existe une marge pour faire du Royaume-Uni un leader favorable à l’innovation dans le domaine d’une IA sûre et robuste. Une loi du Parlement traitant de nombreux sujets soulevés dans le document de politique publique, et auxquels il est répondu ici, contribuerait dans une certaine mesure à atteindre cet objectif.

Anticipez-vous des défis pour les entreprises opérant dans plusieurs juridictions ? Avez-vous déjà des premières réflexions sur la manière dont notre approche pourrait contribuer le plus efficacement possible à soutenir le commerce transfrontalier et la coopération internationale ?

Le document de politique publique indique à juste titre que, à l’ère numérique actuelle, il convient d’accorder toute l’attention nécessaire à la manière dont toute initiative réglementaire dans ce domaine interagirait avec les cadres nationaux et internationaux existants. Comme indiqué, de nombreuses autres juridictions mettent désormais en œuvre leurs propres réglementations et politiques en matière d’IA.

Les acteurs du marché partout dans le monde bénéficieraient généralement d’une approche harmonisée de la réglementation de l’IA entre les juridictions, et nous nous attendrions à ce que tout régime mis en place ici au Royaume-Uni complète ces normes mondiales émergentes au bénéfice des citoyens du Royaume-Uni. Les considérations plus larges relatives au commerce transfrontalier et à la coopération internationale sont probablement mieux traitées en dehors des questions examinées dans ce document de politique publique.

‍

Avez-vous connaissance de sources de données robustes permettant de suivre l’efficacité de notre approche, tant au niveau de chaque régulateur qu’au niveau du système ?

Oui — la plateforme logicielle que nous développons permettra aux régulateurs de suivre l’efficacité de leur approche tant au niveau global du système qu’au niveau de chaque régulateur individuel. Nous travaillons déjà avec certains partenaires clés de conception qui utilisent notre plateforme pour mettre en œuvre des principes détaillés d’IA, mesurer la conformité à ces principes à l’échelle de leur organisation et mettre en place des points de contrôle de gouvernance efficaces afin de garantir que leurs systèmes soient aussi robustes et sûrs que possible. Nous serions heureux d’échanger davantage avec l’Office for Artificial Intelligence afin de partager ici nos enseignements.

‍

Vous pouvez en apprendre davantage sur les approches américaines et européennes de la réglementation de l’IA sur le blog d’Enzai.

‍