En même temps que le Vice-président américain JD Vance faisait son discours au Sommet de l'Action AI au Grand Palais, je participais à l'OCDE à une journée de tables rondes sur la sécurité, la gouvernance et l'éthique de l'IA. C'était la même ville, séparée seulement par quelques rues, mais elle semblait être un monde à part. Au Grand Palais, le concept de réglementation de l'IA était une piñata politique alors que l'innovation et le dynamisme américains étaient au centre de la scène. Tandis qu'à l'OCDE, la nécessité de réguler l'IA était considérée comme n'ayant jamais été aussi pressante.

Ce sommet était différent de tout autre sommet sur l'IA auquel j'ai participé. L'atmosphère était différente et divisée, et je pense que cela reflète largement l'esprit du moment en Occident. Nous vivons actuellement à travers un grand changement dans l'opinion publique à l'échelle mondiale - les débats autour de l'immigration, du commerce international et du rôle de l'État créent (ou exacerbent, selon votre point de vue) des divisions profondes au sein des démocraties occidentales.

Réaction réglementaire

Cette rupture était très clairement visible à Paris, où des responsables gouvernementaux et des experts de l'industrie se sont réunis pour discuter des derniers développements de l'IA. En contraste frappant avec le premier sommet du Royaume-Uni intitulé le Sommet sur la Sécurité AI, la thématique à Paris était l'innovation rapide et la peur d'être laissé pour compte. Le ton est clair – il est temps de 'brancher, bébé, brancher'1 et l'idée de réguler les technologies de pointe est clairement dans le collimateur. Est-ce juste de l'opportunisme à son meilleur, ou est-ce quelque chose d'un peu plus dangereux ?

Je comprends non seulement le sentiment derrière une grande partie de cette réaction réglementaire, mais je le partage. Cela peut sembler étrange et contre-productif venant du fondateur d'une startup de gouvernance de l'IA, mais je le crois vraiment. Je suis extrêmement enthousiaste quant au potentiel des technologies de l'IA pour transformer nos vies pour le mieux. Nous avons besoin d'une innovation incessante pour y parvenir et un cadre de règles mal conçues ne nous y mènera pas. Des règles absurdes, qui introduisent des charges inutiles et souvent irréalistes sur les participants du marché, n'aident personne et représentent une menace légitime pour le progrès et l'innovation.

Mais considérez un moment un univers alternatif, où l'adjectif mal conçues dans le paragraphe ci-dessus fait tout le poids. Et si nous concevions des règles utiles à la place ? L'adage « de bonnes lois sont bonnes et de mauvaises lois sont mauvaises » n'a jamais été aussi vrai qu'à l'ère numérique. Si les règlements sur l'IA étaient rédigés d'une manière spécifique au contexte, qui tient compte des attributs uniques des technologies et du contexte sociétal dans lequel elles sont déployées, cela ne serait-il pas un avantage net pour la société ? Une bonne réglementation permet de s'assurer que les acteurs malveillants sont contrôlés et punis pour des violations, et que les organisations cherchant à faire avancer la société de manière positive peuvent le faire dans le cadre d'un solide cadre aux normes élevées. Avec le bon cadre en place, l'innovation peut prospérer avec tous les participants jouant le même jeu selon les mêmes règles.

Les règles ne sont pas toutes mauvaises

Pas encore convaincu par ce nouveau cadrage ? Alors considérez certains de ces principes hors contexte. Le jeu de rugby est ce qu'il est précisément en raison des règles sous lesquelles les deux équipes opposées jouent le jeu. Nous pouvons et nous devrions débattre des mérites de certaines de ces règles (je pense que la règle selon laquelle le ballon est tenu au-dessus de la ligne est trop sévère pour les équipes attaquantes et tue le suspense), mais personne ne demande à supprimer complètement les règles du jeu. Les récentes règles concernant la protection de la tête d'un joueur lors du plaquage ont été difficiles à mettre en œuvre, mais sont essentielles pour le bien-être des joueurs et la survie à long terme du jeu. En fait, ces nouvelles règles permettent non seulement au jeu de survivre, mais de prospérer.

L'ère des médias sociaux offre une leçon édifiante du coût de l'inaction réglementaire. Pendant plus d'une décennie, les plateformes ont été autorisées à croître jusqu'à des milliards d'utilisateurs avec pratiquement aucune surveillance de leurs pratiques de données, algorithmes de contenu ou impact sur la santé mentale des jeunes. C'était une approche axée sur l'innovation, où le mantra était littéralement de 'bouger vite et tout casser'. Les résultats de cette approche sont devenus douloureusement clairs : violations de la vie privée sans précédent comme Cambridge Analytica, institutions démocratiques sous tension et préjudice documenté pour la santé mentale des adolescents. Au moment où les régulateurs ont commencé à agir, ces problèmes étaient profondément enracinés et beaucoup plus difficiles à résoudre.

Appliquer cette analyse à la réglementation de l'IA

Et nous pouvons voir comment ce schéma pourrait se reproduire avec l'IA. Lorsque nous privilégions la vitesse aux systèmes de responsabilité, nous risquons de saper les fondations mêmes qui rendent le progrès possible. Une des critiques les plus cohérentes contre la régulation de l'IA est l'argument selon lequel elle impose des fardeaux réglementaires supplémentaires et complexes sur des épaules qui ne peuvent en porter le poids. Encore une fois, cela ressemble à une critique décente au premier abord, mais dans le cas de l'AI Act de l'UE, ce n'est tout simplement pas vrai. Intégrer des choses comme un système de gestion des risques (Article 9) (« RMS ») et un système de gestion de la qualité (Article 17) (« QMS ») pour les technologies de l'IA qui sont clairement très risquées n'est pas trop demander. En fait, les entreprises de haute qualité le feront de toute façon parce que c'est dans leurs intérêts commerciaux de le faire - cela aide à construire une confiance avec les clients. Et si vous pensez que l'AI Act de l'UE pénalise injustement les petites entreprises, portez une attention particulière à la formulation intelligente des PME dans l'article 99(6) concernant les pénalités. Surtout – de la même manière que l'IA peut aider à transformer la médecine, le droit et la finance, elle peut également aider à la conformité réglementaire. La plateforme de gouvernance par l'IA de Enzai permet aux organisations d'implémenter des programmes de conformité complets à l'IA de manière efficace, à grande échelle.

La directive sur la responsabilité de l'IA est une victime particulièrement regrettable du sommet de l'IA de cette année. En guise de rapide rappel, la directive de responsabilité a été conçue pour s'assurer que si un demandeur a subi un préjudice à cause d'un système d'IA, il n'aurait pas à prouver de manière approfondie le lien de causalité entre le système d'IA et le préjudice causé. La directive offrait également une forte présomption réfutable en faveur de tout défendeur capable de démontrer son QMS et RMS. Cependant, en fin de compte, bien que cela puisse sembler être une avancée pro-innovation, c'est en réalité tout à fait le contraire. Le résultat est une incertitude juridique qui ne favorise pas la cause de la dérégulation, elle exacerbe les failles dans celle-ci.

Un regard vers l'avenir

Le lendemain du Sommet de l'Action AI, Anthropic a organisé son premier Sommet des Constructeurs d'IA à Paris. Il était rassurant d'entendre le PDG d'Anthropic, Dario Amodei, parler de la « occasion manquée » du sommet, et de recentrer la discussion sur la sécurité, la transparence et garantir que chacun partage dans la croissance économique des IA très puissantes. L'avenir de l'IA ne va pas être décidé par ceux qui crient le plus fort dans des palais grandioses. Il sera construit par ceux qui sont prêts à faire le travail calme et méthodique pour déterminer comment faire fonctionner ces outils puissants de manière fiable et responsable.

‍

1 Le Président français Emmanuel Macron a inventé cette phrase lors d'un discours au Sommet de l'Action AI

‍