Serveur MCP Enzai
Se connecte à votre IA.
Tout agent compatible MCP bénéficie de la même connexion encadrée, là où vos équipes travaillent déjà.
Quelques-unes de nos intégrations
Outils de workflow
Jira, ServiceNow
Fournisseurs de modèles
Anthropic, OpenAI
Outils d’agents
Copilot Studio, Claude Enterprise
Environnements de développement
Azure AI Foundry, Amazon Bedrock, Databricks

Blog

Intelligence artificielle et perspectives réglementaires : horizon 2025

Intelligence artificielle et perspectives réglementaires : horizon 2025

Intelligence artificielle et perspectives réglementaires : horizon 2025

Avec l'essor de l'IA agentielle au sein des entreprises, une nouvelle administration à Washington DC et des lignes directrices plus claires concernant l'EU AI Act, l'année 2025 s'annonce particulièrement prometteuse.

Avec l'essor de l'IA agentielle au sein des entreprises, une nouvelle administration à Washington DC et des lignes directrices plus claires concernant l'EU AI Act, l'année 2025 s'annonce particulièrement prometteuse.

•

11 min de lecture

‍Intervenants :

  • Jamaur Bronner, cofondateur, The Foregrounds

  • Monika Viktorova, Responsible Tech Product Manager, secteur de la logistique

  • Jason Green-Lowe, directeur exécutif, Center for AI Policy

  • Modérateur : Var Shankar, Chief AI and Privacy Officer, Enzai

Introduction de VS :

  • Présentation des intervenants.

  • La discussion porte sur les politiques publiques et les technologies de l’IA, à l’aube d’une année 2025 qui s’annonce mouvementée.

Partie 1 : où va l’IA en 2025 ?

MV :

  • Les dérives : Les usages malveillants de l’IA générative se multiplient, car elle est plus accessible et moins coûteuse. Parmi les exemples : le clonage vocal à des fins d’escroquerie, la création de contenus pédocriminels (CSAM) et la désinformation à grande échelle. Les acteurs malveillants exploitent efficacement la technologie. Même au sein d’organisations légitimes, des défaillances très médiatisées se produisent, par exemple des chatbots qui diffusent de fausses informations ou proposent des solutions contraires à la politique de l’entreprise (comme dans l’affaire Air Canada). La propension de l’IA générative à halluciner et à adapter ses réponses aux attentes des utilisateurs crée des risques. Character.AI en est un exemple concret : des chatbots faisant l’apologie de l’anorexie y influencent des adolescents vulnérables, ce qui révèle l’insuffisance des garde-fous.

  • Les avancées : L’IA générative favorise des avancées majeures dans la découverte scientifique, notamment en sciences et en médecine. La prédiction du repliement des protéines (AlphaFold 2) en est l’illustration : elle accélère la conception et le développement de médicaments.

  • Dans les organisations : L’IA générative est largement déployée dans tous les secteurs. Les équipes commerciales et marketing l’utilisent pour créer des contenus et personnaliser leur prospection. Les applications CRUD, dans la finance comme ailleurs, enregistrent d’importants gains de productivité lorsque l’IA générative automatise les rapports (avec des garde-fous et une supervision humaine). La génération augmentée par récupération (RAG) permet d’interroger de vastes fonds documentaires et facilite la gestion de l’information. Il reste toutefois essentiel de sensibiliser les utilisateurs aux hallucinations et à la vérification des sources.

  • À retenir : Le potentiel d’amélioration de la productivité est immense, mais des garde-fous solides, la formation des utilisateurs et la maîtrise des hallucinations sont indispensables. Le ROI et les modèles de tarification pour les grandes organisations restent une question clé.

JGL :

  • L’innovation technologique dispose d’un important potentiel inexploité, même sans amélioration supplémentaire des modèles de fondation. Les organisations doivent se concentrer sur l’exploitation des modèles actuels, l’exploration de nouvelles niches de marché et le « déverrouillage » des modes d’interaction. Les interactions actuelles sont limitées (textuelles, prompts courts, réponses instantanées), mais elles pourraient à l’avenir s’appuyer sur des fenêtres de contexte plus larges, un « temps de réflexion » pour l’IA, l’auto-prompting, des interactions multimédias (voix, vidéo, musique, pilotage de véhicules) et l’intégration à la robotique pour agir dans le monde réel.

  • Même un ralentissement temporaire de la mise à l’échelle des modèles n’arrêtera pas durablement les progrès. Des goulets d’étranglement comme l’électricité, les données et le financement peuvent freiner une croissance exponentielle, mais une croissance linéaire reste attendue. Les modèles de 2025 seront probablement nettement plus puissants que ceux de 2024. Les informations faisant état d’un plafonnement des performances peuvent être trompeuses, car les entreprises restent stratégiquement discrètes sur leurs investissements et leurs progrès réels.

Partie 2 : où vont les politiques publiques en 2025 ?

JGL :

  • Incertitude politique aux États-Unis : L’IA a été peu évoquée pendant la campagne. Le programme républicain ne contient qu’une mention sibylline visant à remplacer le décret présidentiel de Biden sur l’IA par une IA fondée sur « la liberté d’expression et l’épanouissement humain ».‍

  • Volet « liberté d’expression » : Probable remise en cause des préoccupations liées à la désinformation (perçues comme une forme de censure) et du politiquement correct.‍

  • Volet « épanouissement humain » : Sens incertain ; liens possibles avec les déclarations du Vatican sur l’IA et avec les travaux de l’École de Chicago sur le bien-être familial et les emplois adaptés.‍

  • Des conseillers aux profils variés : L’approche de l’administration Trump en matière d’IA reste incertaine à ce stade, en raison de la diversité de ses conseillers.‍

  • Espoirs : Le maintien du leadership américain grâce à des initiatives comme l’AI Safety Institute, soutenu par les deux partis, à la collaboration avec des entreprises innovantes sur les normes de test et de sécurité, et à la mise en place de garde-fous de sécurité.

MV :

  • États-Unis vs UE : Le décret présidentiel américain misait sur la conformité volontaire, tandis que l’EU AI Act prévoit des sanctions strictes (amendes de plusieurs millions de dollars). L’approche européenne pourrait inspirer des sanctions similaires dans la future politique américaine.

  • Paysage réglementaire mondial : Un environnement fragmenté, avec des réglementations émergentes en Chine, au Brésil, en Australie et ailleurs, qui crée des frictions et des difficultés pour les équipes produit et les dirigeants. Les multinationales doivent adapter leurs feuilles de route produit, leurs fonctionnalités, leur architecture sous-jacente et leurs modèles pour se conformer aux exigences des différentes juridictions.

  • Application dans l’UE : L’accent mis par l’UE sur des procédures d’application très médiatisées et des amendes importantes au titre du RGPD pourrait servir de modèle pour l’application de l’AI Act. Cela influencerait la manière dont les organisations, en particulier les multinationales, abordent le développement et le déploiement de leurs produits.

Partie 3 : qu’est-ce que cela signifie pour les organisations et les praticiens ?

JB :

  • Montée en compétences et adaptation : L’adaptation à l’IA est inégale et insuffisante, ce qui est préoccupant. De nombreuses entreprises font de l’IA générative une priorité stratégique sans pour autant disposer de plans de montée en compétences. Les organisations doivent miser sur la formation à l’IA et la standardisation.

  • Mesurer le ROI : Les gains de productivité apportés par des outils comme Cursor et GitHub Copilot doivent être mesurés et étendus à toute l’organisation, et non profiter uniquement à quelques développeurs.

  • Atténuation des risques : Un usage non standardisé de l’IA générative expose les organisations à des risques importants. Les tests rétrospectifs, la supervision humaine et une analyse rigoureuse sont essentiels.

  • Évolution des compétences : Les développeurs juniors qui ont accès à des outils d’IA générative deviennent des « développeurs augmentés par l’IA », centrés sur la résolution créative de problèmes et la conception de solutions. Cela impose d’adapter les fiches de poste, les pratiques RH et les évaluations de performance.

  • Répondre aux craintes de suppressions d’emplois : Si certaines fonctions peuvent être réaffectées, l’objectif doit être de faire de l’IA un levier. Les organisations responsables doivent repenser les lieux de travail, les processus et les fiches de poste pour créer de nouvelles opportunités et mobiliser efficacement la supervision humaine.

  • ‍Implications organisationnelles et bonnes pratiques : De nombreuses bonnes pratiques émergent en temps réel, souvent issues d’organisations bien dotées ou d’études de cas, plutôt que du conseil traditionnel ou des écoles de commerce.

JB (suite) : sources de bonnes pratiques

  • Fournisseurs de modèles de fondation : Des initiatives pédagogiques comme LLM University (Cohere) et des démarches similaires d’OpenAI offrent des ressources précieuses.

  • Partenaires de formation à l’IA : Des organisations comme The Foregrounds compilent des études de cas, analysent les réussites et les échecs et interrogent des experts afin de comprendre et de diffuser les bonnes pratiques.

  • Équipes internes d’éthique et de gouvernance de l’IA : Ces équipes portent la conformité, le déploiement responsable et l’alignement transversal au sein des organisations.

  • Pouvoirs publics et institutions qui travaillent avec eux : Des initiatives comme la stratégie nationale de Singapour en matière d’IA et les travaux du Center for AI Policy influencent les bonnes pratiques mondiales en alignant les parties prenantes.

JB (suite) : promouvoir l’entrepreneuriat

  • L’accent mis par la nouvelle administration sur la promotion de l’entrepreneuriat, conjugué à une possible hausse des investissements dans des domaines traditionnellement privilégiés par les administrations conservatrices (défense, industrie de pointe) et à l’influence de personnalités comme Elon Musk, laisse entrevoir des évolutions du paysage entrepreneurial.‍

  • Défense : Des entreprises comme Anduril et Palantir devraient voir leurs opportunités se multiplier.‍

  • Industrie de pointe et robotique : La priorité va à la relocalisation des capacités de production, l’IA venant renforcer les emplois ouvriers plutôt que les remplacer. Des entreprises comme Figure et les projets d’Elon Musk dans la robotique humanoïde en sont des exemples. Cela ouvre aussi des perspectives intéressantes pour la production industrielle.‍

  • Industries créatives : Une nouvelle vague d’entrepreneurs et de créateurs exploite les outils d’IA pour générer de la musique, produire des vidéos, créer des images, etc. Ces personnes deviennent expertes de ces outils, comme on l’a vu avec les produits SaaS, ce qui abaisse les barrières à l’entrée et favorise un nouvel entrepreneuriat. Cela passe par un cycle de développement produit simplifié, qui permet d’itérer et de déployer plus vite.‍

  • Santé et éducation : Ces secteurs offrent un potentiel prometteur, mais compte tenu des positions traditionnellement conservatrices, il n’est pas certain que la nouvelle administration soutienne un large développement de l’IA dans ces domaines.

MV (suite) : les petites organisations

  • L’avantage des grandes organisations en matière d’IA générative : Les grandes organisations présentes à l’international disposent souvent de plus de données et de ressources, ce qui leur donne une longueur d’avance dans le développement de l’IA générative. Elles font face à des exigences réglementaires diverses et parfois contradictoires (par exemple des décrets présidentiels, l’AI Act et des réglementations en Chine, au Brésil ou en Australie). Ce paysage réglementaire fragmenté complexifie le développement et le déploiement des produits.

  • Stratégies pour les petites entreprises et les entrepreneurs :

  • Comprendre les capacités de l’IA générative : Identifier les points forts de l’IA générative et ce qu’elle peut concrètement apporter à leur activité.‍

  • Développer ou acheter : Décider en connaissance de cause s’il faut développer des solutions d’IA en interne ou recourir à des produits du marché, souvent plus économiques pour les petites organisations.‍

  • Achats et gestion des fournisseurs : Évaluer rigoureusement les fournisseurs d’IA, non seulement sur leurs capacités techniques, mais aussi sur les risques en aval, la conformité réglementaire, la cybersécurité et les aspects juridiques. Cela réduit la dépendance à l’expertise interne et permet aux petites entreprises de tirer parti de fournisseurs spécialisés.‍

  • S’inspirer des grandes organisations : Adopter les bonnes pratiques d’achat et de gestion des fournisseurs observées dans les grandes organisations. Les petites entreprises peuvent ainsi choisir les bonnes solutions et gérer efficacement leurs risques.‍

  • Rôle des politiques publiques : Des subventions aux ONG peuvent faciliter l’accès aux outils d’IA générative au bénéfice de la société dans son ensemble et garantir des conditions de concurrence plus équitables. Elles peuvent soutenir la recherche, le développement et le déploiement responsable de l’IA dans divers secteurs, et ainsi atténuer les effets « le gagnant rafle tout ». Cela stimule l’innovation et la concurrence, et évite la domination de quelques grands acteurs.

JGL (suite) : collaboration entre l’humain et l’IA

  • Préserver l’influence humaine : C’est délicat. L’IA est souvent perçue comme objective et fiable, ce qui incite à trop se reposer sur ses recommandations. Maintenir l’humain dans la boucle peut ne pas suffire.

  • Intégrer les rôles humains : Inscrire les rôles humains au cœur du processus décisionnel, et pas seulement comme une étape finale d’approbation.

  • L’IA oracle : Utiliser l’IA pour décrire la situation et mettre en évidence les informations pertinentes plutôt que pour recommander l’action finale. Les humains peuvent ainsi prendre des décisions éclairées à partir des analyses produites par l’IA.

  • Tâches vs métiers : L’IA excelle dans l’automatisation de tâches précises, qui ne correspondent pas forcément à des métiers entiers. Il convient de restructurer les postes pour distinguer les tâches que les humains accomplissent le mieux de celles que l’IA accomplit le mieux. On obtient ainsi une collaboration gagnant-gagnant qui tire le meilleur parti des forces de chacun. À long terme, la crainte demeure que les tâches dévolues aux humains se raréfient à mesure que l’IA progresse.

Conclusion de VS :

  • L’approche de l’administration Trump n’est pas encore claire.

  • L’EU AI Act aura un impact sur les organisations internationales.

  • Les organisations doivent miser sur la formation, l’acquisition et le développement des talents, ainsi que sur une supervision humaine appropriée.

Enzai est la plateforme de référence en matière de gouvernance de l’IA d’entreprise, conçue pour aider les organisations à passer de politiques abstraites à une supervision opérationnelle. Notre plateforme de gestion des risques liés à l’IA fournit l’infrastructure spécialisée nécessaire pour piloter la gouvernance de l’IA agentique, tenir à jour un inventaire IA complet et garantir la conformité à l’EU AI Act. En automatisant des flux de travail complexes, Enzai permet aux entreprises de déployer l’IA à grande échelle en toute confiance, tout en restant alignées sur des normes internationales comme ISO 42001 et NIST.

Sur cette page

Conformité dès la conception

Conformité dès la conception

Conformité dès la conception

Certifié ISO 27001 depuis 2023, audité chaque année par NQA

Traitement des données aligné sur le RGPD

Données clients hébergées sur AWS dans plusieurs régions

Utilisez votre propre modèle d’IA via une connexion privée

Abonnez-vous à notre lettre d'information

En vous inscrivant, vous acceptez la politique de confidentialité d'Enzai

Abonnez-vous à notre lettre d'information

En vous inscrivant, vous acceptez la politique de confidentialité d'Enzai

Abonnez-vous à notre lettre d'information

En vous inscrivant, vous acceptez la politique de confidentialité d'Enzai

Abonnez-vous à notre lettre d'information

En vous inscrivant, vous acceptez la politique de confidentialité d'Enzai

Gouvernance de l'IA

Gouvernance de l'IA

infrastructure

infrastructure

conçue pour inspirer confiance.

conçue pour inspirer confiance.

Identifiez l’IA utilisée par vos équipes, examinez-la avant sa mise en service, évaluez-la au regard des règles applicables et contrôlez ce que les agents peuvent faire. Conçu pour les organisations réglementées.

Connectez vos systèmes, vos politiques et vos flux de travail d’IA existants au sein d’une seule plateforme.

Connectez vos systèmes, vos politiques et vos flux de travail d’IA existants au sein d’une seule plateforme.