Au moment même où le vice-président américain JD Vance prononçait son discours au Sommet pour l'action sur l'IA au Grand Palais, je me trouvais à l'OCDE pour une journée de tables rondes consacrées à la sécurité, à la gouvernance et à l'éthique de l'IA. C'était dans la même ville, à quelques rues de là seulement, mais cela semblait à des années-lumière. Au Grand Palais, le concept de réglementation de l'IA était une piñata politique alors que l'innovation et le dynamisme américains occupaient le devant de la scène. À l'OCDE, en revanche, le besoin d'une réglementation de l'IA n'avait jamais semblé aussi pressant.

Ce sommet ne ressemblait à aucun autre sommet sur l'IA auquel j'ai assisté. L'ambiance était différente et divisée, ce qui n'est, selon moi, que le reflet du zeitgeist occidental actuel. Nous traversons actuellement un changement massif de l'opinion publique à l'échelle mondiale : les débats sur l'immigration, le commerce international et le rôle de l'État créent (ou exacerbent, selon la perspective de chacun) de profondes fractures sociétales au sein des démocraties occidentales.

Réaction hostile à la réglementation

Cette rupture était très nettement visible à Paris, où responsables gouvernementaux et experts du secteur s'étaient réunis pour discuter des derniers développements de l'IA. Contrastant singulièrement avec le premier sommet britannique intitulé « AI Safety Summit », le thème à Paris était l'innovation rapide et la peur de se laisser distancer. L'état d'esprit est clair : il est temps de foncer tête baissée (« plug, baby, plug »)1 et l'idée de réglementer les technologies de pointe est directement dans le collimateur. S'agit-il d'un opportunisme à toute épreuve ou de quelque chose d'un peu plus dangereux ?

Non seulement je comprends le sentiment qui sous-tend une grande partie de cette hostilité réglementaire, mais je le partage. Cela peut sembler étrange et contre-productif de la part du fondateur d'une start-up de gouvernance de l'IA, mais je le crois sincèrement. Le potentiel des technologies d'IA à transformer nos vies pour le mieux m'enthousiasme énormément. Nous avons besoin d'une innovation incessante pour y parvenir, et un cadre de règles mal conçues ne nous y mènera pas. Des règles absurdes, qui imposent des fardeaux inutiles et souvent irréalistes aux acteurs du marché, n'aident personne et constituent une menace légitime pour le progrès et l'innovation.

Mais imaginez un instant un univers alternatif, car l'adjectif « mal conçues » dans le paragraphe précédent fait tout le travail ici. Et si nous concevions plutôt des règles utiles ? L'adage « les bonnes lois sont bonnes et les mauvaises lois sont mauvaises » n'a jamais été aussi vrai qu'à l'ère du numérique. Si les réglementations de l'IA étaient rédigées de manière contextuelle, en tenant compte des attributs uniques de ces technologies et du contexte sociétal dans lequel elles sont déployées, ne serait-ce pas un avantage net pour la société ? Une bonne réglementation permet de s'assurer que les acteurs malveillants sont contrôlés et sanctionnés pour leurs infractions, et que les organisations qui cherchent à faire progresser la société de manière positive peuvent le faire au sein d'un cadre solide aux normes élevées. Avec le bon cadre en place, l'innovation peut s'épanouir, tous les acteurs jouant au même jeu selon les mêmes règles.

Les règles ne sont pas toutes mauvaises

Vous n'êtes pas encore convaincu par cette nouvelle approche ? Considérez alors certains de ces principes hors contexte. Le rugby est ce qu'il est précisément en raison des règles selon lesquelles les deux équipes s'affrontent. Nous pouvons et devons débattre du bien-fondé de certaines de ces règles (je pense que la règle du ballon tenu en-but est trop sévère pour les équipes attaquantes et tue le suspense), mais personne ne demande l'abolition totale des règles du jeu. Les récentes règles concernant la protection de la tête d'un joueur lors d'un plaquage ont été complexes à mettre en œuvre, mais elles sont essentielles pour la santé des joueurs et la survie à long terme de ce sport. En réalité, ces nouvelles règles permettent au jeu non seulement de survivre, mais de prospérer.

L'ère des réseaux sociaux offre une leçon édifiante sur le coût de l'inaction réglementaire. Pendant plus d'une décennie, les plateformes ont été autorisées à se développer pour atteindre des milliards d'utilisateurs sans pratiquement aucune surveillance de leurs pratiques en matière de données, de leurs algorithmes de contenu ou de leur impact sur la santé mentale des jeunes. Il s'agissait d'une approche privilégiant l'innovation avant tout, dont le mantra consistait littéralement à « aller vite et briser des choses ». Les résultats de cette approche sont devenus douloureusement évidents : des violations de la vie privée sans précédent comme Cambridge Analytica, des institutions démocratiques mises à rude épreuve et des dommages avérés sur la santé mentale des adolescents. Au moment où les régulateurs ont commencé à agir, ces problèmes étaient profondément ancrés et bien plus difficiles à résoudre.

Application de cette analyse à la réglementation de l'IA

Et nous pouvons voir comment ce schéma pourrait se reproduire avec l'IA. Lorsque nous privilégions la vitesse au détriment des systèmes de responsabilité, nous risquons de saper les fondements mêmes qui rendent le progrès possible. L'une des critiques les plus récurrentes à l'encontre de la réglementation de l'IA est l'argument selon lequel elle impose des charges réglementaires supplémentaires et complexes à des épaules qui ne peuvent en supporter le poids. Encore une fois, cela semble être une critique valable à première vue, mais dans le cas de la législation européenne sur l'IA (EU AI Act), ce n'est tout simplement pas vrai. Mettre en œuvre des éléments tels qu'un système de gestion des risques (Article 9) (« SGR ») et un système de gestion de la qualité (Article 17) (« SGQ ») pour des technologies d'IA manifestement très risquées n'est pas trop demander. En fait, les entreprises de qualité le feraient de toute façon car c'est dans leur intérêt commercial : cela contribue à instaurer la confiance avec les clients. Et si vous pensez que la législation européenne sur l'IA pénalise injustement les petites entreprises, examinez attentivement la formulation intelligente concernant les PME à l'Article 99(6) relatif aux sanctions. Surtout, de la même manière que l'IA peut aider à transformer la médecine, le droit et la finance, elle peut également faciliter la conformité réglementaire. La plateforme de gouvernance de l'IA d'Enzai permet aux organisations de mettre en œuvre des programmes complets de conformité de l'IA de manière efficace et à grande échelle.

La directive sur la responsabilité en matière d'IA est une victime particulièrement regrettable du Sommet sur l'IA de cette année. Pour rappel, cette directive a été conçue pour garantir que si un demandeur subit un préjudice du fait d'un système d'IA, il n'ait pas à prouver de manière approfondie le lien de causalité entre le système d'IA et le préjudice causé. La directive prévoyait également une présomption réfragable forte en faveur de tout défendeur capable de prouver son SGQ et son SGR. Cependant, l'essentiel est que, bien que cela puisse sembler être une mesure favorable à l'innovation, c'est en fait tout le contraire. Il en résulte une incertitude juridique qui n'aide pas la cause de la déréglementation, mais en exacerbe au contraire les failles.

Une vision vers l'avenir

Le lendemain du Sommet pour l'action sur l'IA, Anthropic a organisé son premier « AI Builders Summit » à Paris. Il était rassurant d'entendre le PDG d'Anthropic, Dario Amodei, décrire « l'occasion manquée » du sommet et recentrer le débat sur la sécurité, la transparence et la garantie que chacun profite des retombées économiques d'une IA très puissante. L'avenir de l'IA ne se décidera pas par ceux qui crient le plus fort dans les grands palais. Il sera bâti par ceux qui acceptent d'accomplir le travail silencieux et méthodique consistant à trouver comment faire fonctionner ces outils puissants de manière fiable et responsable.

‍

1 Le président français Emmanuel Macron a inventé cette formule lors d'un discours au Sommet pour l'action sur l'IA

‍

Enzai est la plateforme leader de gouvernance de l'IA d'entreprise, spécialement conçue pour aider les organisations à passer de politiques abstraites à une surveillance opérationnelle. Notre plateforme de gestion des risques de l'IA fournit l'infrastructure spécialisée requise pour gérer la gouvernance de l'IA agentique, maintenir un inventaire complet de l'IA et garantir la conformité avec la législation européenne sur l'IA. En automatisant les flux de travail complexes, Enzai permet aux entreprises d'étendre l'adoption de l'IA en toute confiance tout en restant en phase avec les normes mondiales telles que ISO 42001 et NIST.