Au moment même où le vice-président américain JD Vance prononçait son allocution lors du Sommet pour l’action sur l’IA au Grand Palais, j’étais à l’OCDE pour une journée de tables rondes consacrées à la sécurité, à la gouvernance et à l’éthique de l’IA. C’était la même ville, séparée seulement par quelques rues, mais on aurait dit un autre monde. Au Grand Palais, l’idée de réglementer l’IA était une cible politique, tandis que l’innovation et le dynamisme américains occupaient le devant de la scène. À l’OCDE, en revanche, la nécessité de réglementer l’IA paraissait plus pressante que jamais.

Cela ne ressemblait à aucun autre sommet sur l’IA auquel j’aie assisté. L’atmosphère était différente et divisée, et je pense que cela reflète en grande partie l’esprit du temps occidental actuel. Nous traversons en ce moment une transformation massive de l’opinion publique dans le monde entier — les débats autour de l’immigration, du commerce international et du rôle de l’État créent (ou exacerbent, selon le point de vue) de profondes fractures sociales à travers les démocraties occidentales.

Retour de bâton réglementaire

Cette fracture était très clairement visible à Paris, où des responsables gouvernementaux et des experts du secteur se sont réunis pour discuter des derniers développements de l’IA. À l’inverse du premier sommet britannique intitulé AI Safety Summit, le thème à Paris était l’innovation rapide et la crainte d’être distancé. Le ton est clair : il est temps de « plug, baby, plug »1 et l’idée de réglementer les technologies de pointe est désormais directement dans le viseur. S’agit-il simplement d’opportunisme à son apogée, ou d’une réalité plus dangereuse ?

Je comprends non seulement le sentiment qui sous-tend une grande partie de ce retour de bâton réglementaire, mais je le partage. Cela peut sembler étrange et contre-productif venant du fondateur d’une start-up spécialisée dans la gouvernance de l’IA, mais j’y crois sincèrement. Je suis profondément enthousiasmé par le potentiel des technologies d’IA pour transformer durablement et positivement notre manière de vivre. Pour y parvenir, nous avons besoin d’une innovation sans relâche, et un cadre de règles mal conçues n’y suffira pas. Des règles absurdes, qui imposent aux acteurs du marché des contraintes inutiles et souvent irréalistes, n’aident personne et constituent bel et bien une menace pour le progrès et l’innovation.

Mais imaginons un instant un univers alternatif, car l’adjectif mal conçues, dans le paragraphe ci-dessus, porte ici tout le poids de l’argument. Et si, à la place, nous concevions quelques règles utiles ? Le proverbe « de bonnes lois sont bonnes et de mauvaises lois sont mauvaises » n’a jamais été aussi vrai qu’à l’ère numérique. Si les réglementations sur l’IA étaient rédigées dans une perspective contextuelle, tenant compte des attributs uniques des technologies et du contexte sociétal dans lequel elles sont déployées, ne constitueraient-elles pas un gain net pour la société ? Une bonne réglementation permet de s’assurer que les mauvais acteurs sont maîtrisés et sanctionnés en cas d’infraction, et que les organisations qui cherchent à faire progresser la société positivement peuvent le faire dans un cadre solide et exigeant. Avec le bon cadre en place, l’innovation peut s’épanouir, tous les acteurs évoluant dans le même jeu selon les mêmes règles.

Les règles ne sont pas toutes mauvaises

Pas encore convaincu par ce nouveau cadrage ? Alors considérez certains de ces principes hors contexte. Le rugby est ce qu’il est précisément en raison des règles selon lesquelles les deux équipes adverses jouent. Nous pouvons et nous devons débattre des mérites de certaines de ces règles (je pense que la règle du ballon maintenu au-dessus de la ligne est trop sévère pour les équipes offensives, et tue le suspense), mais personne ne demande l’abolition pure et simple des règles du jeu. Les règles récentes visant à protéger la tête du joueur lors des plaquages ont été difficiles à mettre en œuvre, mais elles sont essentielles à la fois pour le bien-être des joueurs et pour la survie à long terme du jeu. En réalité, ces nouvelles règles permettent au jeu non seulement de survivre, mais aussi de prospérer.

L’ère des réseaux sociaux offre une leçon salutaire sur le coût de l’inaction réglementaire. Pendant plus d’une décennie, les plateformes ont pu passer à l’échelle jusqu’à atteindre des milliards d’utilisateurs sans pratiquement aucun contrôle sur leurs pratiques en matière de données, leurs algorithmes de contenu ou leur impact sur la santé mentale des jeunes. C’était une approche fondée avant tout sur l’innovation, dont le mantra était littéralement « avancer vite et casser les choses ». Les résultats de cette approche sont devenus douloureusement évidents : des atteintes à la vie privée sans précédent comme Cambridge Analytica, des institutions démocratiques sous pression et des préjudices avérés pour la santé mentale des adolescents. Au moment où les régulateurs ont commencé à agir, ces problèmes étaient profondément enracinés et bien plus difficiles à résoudre.

Appliquer cette analyse à la réglementation de l’IA

Et l’on peut voir comment ce schéma pourrait se reproduire avec l’IA. Lorsque nous privilégions la vitesse au détriment des mécanismes de responsabilisation, nous risquons d’éroder les fondations mêmes qui rendent le progrès possible. L’une des critiques les plus récurrentes à l’encontre de la réglementation de l’IA est qu’elle impose des charges réglementaires supplémentaires et complexes à des épaules qui ne peuvent en supporter le poids. Encore une fois, cela paraît être une critique recevable à première vue, mais dans le cas de l’AI Act de l’UE, ce n’est tout simplement pas vrai. Mettre en place un système de gestion des risques (article 9) (« RMS ») et un système de gestion de la qualité (article 17) (« QMS ») pour des technologies d’IA qui sont manifestement très risquées n’a rien d’excessif. En réalité, les entreprises sérieuses le feront de toute façon, car c’est dans leur intérêt commercial — cela contribue à renforcer la confiance des clients. Et si vous pensez que l’AI Act de l’UE pénalise injustement les petites entreprises, prêtez une attention particulière à la formulation astucieuse destinée aux PME à l’article 99(6) sur les sanctions. Surtout, de la même manière que l’IA peut aider à transformer la médecine, le droit et la finance, elle peut aussi contribuer à la conformité réglementaire. La plateforme de gouvernance de l’IA d’Enzai permet aux organisations de déployer efficacement des programmes complets de conformité à l’IA, à grande échelle.

La directive sur la responsabilité en matière d’IA est une victime particulièrement regrettable du Sommet sur l’IA de cette année. Pour rappel, la directive sur la responsabilité avait pour objectif de garantir que, si un demandeur subissait un préjudice du fait d’un système d’IA, il n’aurait pas à prouver en détail le lien de causalité entre le système d’IA et le préjudice subi. La directive prévoyait également une forte présomption réfragable en faveur de tout défendeur capable d’apporter la preuve de son QMS et de son RMS. Toutefois, en définitive, même si cela peut sembler être une mesure favorable à l’innovation, c’est en réalité exactement l’inverse. Il en résulte une incertitude juridique qui ne rend pas service à la cause de la déréglementation ; elle en accentue plutôt les failles.

Un regard vers l’avenir

Le lendemain du Sommet pour l’action sur l’IA, Anthropic a organisé à Paris son premier Sommet des bâtisseurs de l’IA. Il était rassurant d’entendre le PDG d’Anthropic, Dario Amodei, décrire l’« occasion manquée » du sommet, et recentrer le débat sur la sécurité, la transparence et le fait de garantir à chacun une part de l’essor économique généré par une IA très puissante. L’avenir de l’IA ne sera pas décidé par ceux qui crient le plus fort dans de grands palais. Il sera construit par ceux qui sont prêts à accomplir le travail discret et méthodique consistant à déterminer comment faire fonctionner ces outils puissants de manière fiable et responsable.

‍

1 Le président français Emmanuel Macron a forgé cette expression lors d’un discours prononcé au Sommet pour l’action sur l’IA

‍

Enzai est la principale plateforme de gouvernance de l’IA en entreprise, conçue sur mesure pour aider les organisations à passer d’une politique abstraite à une supervision opérationnelle. Notre plateforme de gestion des risques liés à l’IA fournit l’infrastructure spécialisée nécessaire pour gérer la gouvernance de l’IA agentique, maintenir un inventaire de l’IA complet et garantir la conformité à l’AI Act de l’UE. En automatisant des flux de travail complexes, Enzai permet aux entreprises d’adopter l’IA à grande échelle en toute confiance, tout en restant alignées sur des normes mondiales telles qu’ ISO 42001 et NIST.