‍Participants de la table ronde :

• Jamaur Bronner, cofondateur de The Foregrounds

• Monika Viktorova, responsable produit pour une technologie responsable dans le secteur de la logistique

• Jason Green-Lowe, directeur exécutif du Center for AI Policy

• Modérateur : Var Shankar, directeur de l'IA et de la confidentialité chez Enzai

Introduction de VS :

• Présentation des intervenants.

• La discussion porte sur les politiques publiques et la technologie de l'IA, en prévision d'une année 2025 particulièrement dynamique.

Partie 1 : Quelles perspectives pour l'IA en 2025 ?

MV :

• Les aspects négatifs :  L'usage malveillant de l'IA générative augmente en raison de son accessibilité et de la baisse des coûts. Exemples : clonage de voix pour des escroqueries, création de CSAM (contenus d'abus sexuels sur mineurs) et désinformation à grande échelle. Les acteurs malveillants exploitent efficacement cette technologie.  Même au sein d'organisations légitimes, des défaillances notables surviennent, comme des chatbots fournissant des informations erronées ou proposant des solutions contraires à la politique de l'entreprise (par exemple, l'affaire Air Canada).  La propension de l'IA générative à halluciner et à adapter ses réponses aux désirs des utilisateurs engendre des risques.  Un exemple précis est Character.AI, où des chatbots encourageant l'anorexie influencent des adolescents vulnérables, mettant en évidence des garde-fous insuffisants.

• Les aspects positifs :  L'IA générative permet des avancées majeures dans la découverte scientifique, notamment en sciences et en médecine.  La prédiction du repliement des protéines (AlphaFold 2) en est une parfaite illustration, accélérant la conception et le développement de médicaments.

• Au sein des organisations :  L'IA générative est déployée à grande échelle dans de nombreux secteurs.  Les équipes commerciales et marketing l'utilisent pour la création de contenu et la prospection personnalisée. Les applications CRUD dans la finance et d'autres secteurs connaissent des gains de productivité massifs lorsque l'IA générative est utilisée (avec des garde-fous et une supervision humaine) pour automatiser les rapports.  La génération augmentée de récupération (RAG) permet d'interagir avec d'importants référentiels de documents, facilitant ainsi la gestion de l'information.  Néanmoins, la sensibilisation des utilisateurs aux hallucinations et à la vérification des sources reste cruciale.

• Point clé à retenir : Le potentiel d'amélioration de la productivité est immense, mais des garde-fous solides, la formation des utilisateurs et la gestion des hallucinations s'avèrent indispensables. Le retour sur investissement (ROI) et les modèles de tarification pour les grandes organisations demeurent des questions centrales.

JGL :

• Il subsiste un potentiel d'innovation technologique inexploité important, même sans améliorations supplémentaires des modèles de base. Les organisations doivent se concentrer sur l'exploitation des modèles actuels, l'exploration de nouvelles niches de marché et la levée des contraintes liées aux modes d'interaction.  Les interactions actuelles sont limitées (textuelles, requêtes courtes, réponses instantanées), mais les futures interactions pourraient impliquer des fenêtres de contexte plus larges, un « temps de réflexion » de l'IA, de l'auto-incitation (self-prompting), des interactions multimédias (voix, vidéo, musique, contrôle de véhicules) et l'intégration avec la robotique pour un impact concret dans le monde réel.

• Même un ralentissement temporaire de la mise à l'échelle des modèles ne stoppera pas indéfiniment le progrès. Les goulots d'étranglement tels que l'électricité, les données et le financement peuvent affecter la croissance exponentielle, mais une croissance linéaire reste attendue.  Les modèles de 2025 seront probablement nettement plus puissants que ceux de 2024.  Les rapports faisant état de plateaux de performance peuvent être trompeurs, car les entreprises restent stratégiquement discrètes sur leurs investissements et leurs progrès réels.

Partie 2 : Quelles orientations pour les politiques publiques en 2025 ?

JGL :

• Incertitude politique aux États-Unis : L'IA a été peu évoquée durant la campagne électorale ; seule une mention cryptique figure dans le programme républicain concernant le remplacement du décret de Biden sur l'IA par une IA fondée sur « la liberté d'expression et l'épanouissement humain ».‍

• Aspect « liberté d'expression » : Probable opposition aux préoccupations liées à la désinformation (perçue comme de la censure) et au politiquement correct.‍

• Aspect « épanouissement humain » : Signification floue ; liens potentiels avec les commentaires du Vatican sur l'IA, ou les travaux de l'École de Chicago sur le bien-être familial et l'emploi adapté.‍

• Conseillers diversifiés : L'approche de l'administration Trump en matière d'IA reste incertaine à ce jour, en raison du profil varié de ses conseillers.‍

• Attentes : Maintien du leadership américain grâce à des initiatives telles que l'AI Safety Institute (bipartisan), la collaboration avec des entreprises innovantes sur les normes de test et de sécurité, et la mise en œuvre de garde-fous de sécurité.

MV :

• États-Unis vs Union Européenne : Le décret américain se concentre sur la conformité volontaire, tandis que l'AI Act de l'UE prévoit des sanctions strictes (amendes de plusieurs millions d'euros). L'approche européenne pourrait inspirer des sanctions similaires dans les futures politiques américaines.

• Paysage réglementaire mondial :  Un environnement fragmenté avec l'émergence de réglementations en Chine, au Brésil, en Australie, etc., créant des frictions et des défis pour les équipes produit et les dirigeants.  Les entreprises multinationales doivent adapter leurs feuilles de route produit, leurs fonctionnalités, leur architecture sous-jacente et leurs modèles pour se conformer aux différentes juridictions.

• Application de la réglementation dans l'UE : L'accent mis par l'UE sur des cas d'application très médiatisés et des amendes importantes dans le cadre du RGPD pourrait servir de modèle pour l'application de l'AI Act, impactant la manière dont les organisations, en particulier les multinationales, conçoivent le développement et le déploiement de leurs produits.

Partie 3 : Quelles conséquences pour les organisations et les professionnels ?

JB :

• Montée en compétences et adaptation :  L'adaptation à l'IA se révèle inégale et insuffisante, ce qui suscite des inquiétudes. De nombreuses entreprises accordent une priorité stratégique à l'IA générative, tout en manquant de plans de montée en compétences. Les organisations doivent se concentrer sur l'acculturation à l'IA et la standardisation.

• Mesure du ROI :  Les gains de productivité issus d'outils tels que Cursor et GitHub Copilot doivent être suivis et déployés à l'échelle de l'organisation, et non pas simplement exploités de manière isolée par des développeurs individuels.

• Atténuation des risques : L'utilisation non standardisée de l'IA générative expose les organisations à des risques majeurs. Les tests rétroactifs, la supervision humaine et des analyses approfondies s'avèrent indispensables.

• Évolution des compétences :  Les développeurs juniors ayant accès à des outils d'IA générative deviennent des « développeurs assistés par l'IA », se concentrant sur la résolution créative de problèmes et la conception de solutions. Cela nécessite des ajustements dans les fiches de poste, les pratiques de ressources humaines et les évaluations de performance.

• Gestion des craintes liées aux suppressions d'emplois :  Bien que certaines fonctions puissent être réaffectées, l'accent doit être mis sur l'utilisation de l'IA comme levier d'opportunités. Les organisations responsables doivent repenser les espaces de travail, les flux de travail et les descriptions de poste afin de créer de nouvelles opportunités et d'intégrer efficacement la supervision humaine.

• ‍Implications organisationnelles / Bonnes pratiques : De nombreuses bonnes pratiques émergent en temps réel, souvent issues d'organisations disposant de ressources importantes ou d'études de cas, plutôt que des cabinets de conseil traditionnels ou des écoles de commerce.

JB suite : Sources des bonnes pratiques

• Fournisseurs de modèles de base : Les initiatives éducatives telles que la LLM University (Cohere) et les efforts similaires d'OpenAI constituent des ressources précieuses.

• Partenaires de formation en IA : Des organisations comme The Foregrounds compilent des études de cas, évaluent les succès et les échecs, et interrogent des experts pour comprendre et diffuser les meilleures pratiques.

• Équipes internes d'éthique et de gouvernance de l'IA : Ces équipes veillent à la conformité, au déploiement responsable et à l'alignement transversal au sein des organisations.

• Gouvernements et institutions publiques : Des initiatives comme la stratégie nationale pour l'IA de Singapour et les travaux du Center for AI Policy influencent les bonnes pratiques mondiales en alignant les différentes parties prenantes.

JB suite : Soutien à l'entrepreneuriat

• L'accent mis par la nouvelle administration sur le soutien à l'entrepreneuriat, conjugué à une augmentation potentielle des investissements dans des secteurs traditionnellement prioritaires pour les administrations conservatrices (défense, industrie de pointe) et à l'influence de personnalités telles qu'Elon Musk, suggère des évolutions potentielles dans le paysage entrepreneurial.‍

• Défense : Des entreprises telles qu'Anduril et Palantir devraient voir leurs opportunités se multiplier.‍

• Industrie de pointe et robotique : Priorité accordée à la relocalisation des capacités industrielles, l'IA venant soutenir plutôt que remplacer les emplois de terrain. Des entreprises comme Figure ou les projets d'Elon Musk dans la robotique humanoïde en sont des exemples. Cela ouvre également des perspectives intéressantes d'un point de vue de la fabrication industrielle.‍

• Industries créatives : Une nouvelle vague d'entrepreneurs et de créateurs tire parti des outils d'IA pour la génération de musique, la production vidéo, la création d'images, etc. Ces profils acquièrent une expertise poussée dans ces outils, à l'instar de l'expertise développée sur les produits SaaS, réduisant ainsi les barrières à l'entrée et favorisant l'émergence de nouveaux projets. Cela est rendu possible par la rationalisation du cycle de vie du développement produit, autorisant des itérations et des déploiements plus rapides.‍

• Santé et éducation : Bien que ces secteurs présentent un potentiel prometteur, il reste incertain que la nouvelle administration soutienne un déploiement massif de l'IA dans ces domaines, compte tenu des approches historiquement conservatrices.

MV suite : Petites organisations

• Avantage de l'IA générative pour les grandes organisations : Les grandes entreprises d'envergure multinationale disposent souvent de plus de données et de ressources, ce qui leur confère un avantage dans le développement de l'IA générative. Elles font face à des exigences réglementaires diverses et parfois contradictoires (ex. : décrets présidentiels, AI Act, réglementations en Chine, au Brésil, en Australie). Naviguer dans ce paysage réglementaire fragmenté complexifie le développement et le déploiement des produits.

• Stratégies pour les petites entreprises et les entrepreneurs :

• Comprendre les capacités de l'IA générative : S'attacher à identifier les points forts de l'IA générative et la manière dont elle peut spécifiquement bénéficier à leur activité.‍

• Développer ou acheter (Build vs. Buy) : Prendre des décisions éclairées quant à l'opportunité de développer des solutions d'IA en interne ou de recourir à des produits sur étagère, qui s'avèrent souvent plus rentables pour les petites structures.‍

• Gestion des achats et des fournisseurs : Évaluer rigoureusement les fournisseurs d'IA, en se concentrant non seulement sur leurs capacités techniques, mais aussi sur les risques en aval, la conformité réglementaire, la cybersécurité et les aspects juridiques. Cela réduit la dépendance vis-à-vis de l'expertise interne et permet aux petites entreprises de s'appuyer sur des prestataires spécialisés.‍

• S'inspirer des grandes organisations : Adopter les meilleures pratiques d'achat et de gestion des fournisseurs observées au sein des grandes entreprises. Cela aide les petites structures à sélectionner les solutions adaptées et à gérer efficacement leurs risques.‍

• Rôle des politiques publiques : L'attribution de subventions aux ONG peut faciliter l'accès aux outils d'IA générative au bénéfice de la société civile et garantir des conditions de concurrence plus équitables. Cela peut soutenir la recherche, le développement et le déploiement responsable de l'IA dans divers secteurs, limitant ainsi potentiellement les situations de monopole (« winner-take-all »). Cela favorise l'innovation et la concurrence, évitant ainsi la domination de quelques grands acteurs.

JGL suite : Collaboration homme-machine

• Préserver l'influence humaine :  Un exercice délicat ; l'IA est souvent perçue comme objective et fiable, ce qui conduit facilement à une dépendance excessive à l'égard de ses recommandations.  La simple présence d'un opérateur humain (human-in-the-loop) peut s'avérer insuffisante.

• Intégrer les rôles humains :  Inscrire fondamentalement le rôle de l'humain au cœur du processus décisionnel, et non comme une simple étape de validation finale.

• L'IA comme oracle :  Utiliser l'IA pour décrire des situations et mettre en évidence les informations pertinentes, plutôt que pour recommander l'action finale à mener. Cela permet aux humains de prendre des décisions éclairées en s'appuyant sur les analyses générées par l'IA.

• Tâches vs Métiers :  L'IA excelle dans l'automatisation de tâches précises, qui ne correspondent pas nécessairement à des métiers complets. Il convient de restructurer les postes pour dissocier les tâches les mieux accomplies par les humains de celles qui relèvent de l'IA.  Cela permet de créer une collaboration mutuellement bénéfique et de maximiser les forces de chacun. À long terme, l'inquiétude demeure quant à la réduction de la part des tâches humaines à mesure que l'IA progresse.

Conclusion de VS :

• L'approche de l'administration Trump n'est pas encore clairement définie.

• L'AI Act de l'UE aura un impact sur les organisations à l'échelle mondiale.

• Les organisations doivent donner la priorité à la formation, à l'acquisition et au développement des talents, ainsi qu'à une supervision humaine appropriée.

Enzai est la plateforme de référence pour la gouvernance de l'IA en entreprise, conçue spécifiquement pour aider les organisations à passer d'une politique abstraite à une supervision opérationnelle. Notre plateforme de gestion des risques liés à l'IA fournit l'infrastructure spécialisée nécessaire pour encadrer la gouvernance de l'IA agentique, maintenir un inventaire complet de l'IA et garantir la conformité avec l'AI Act de l'UE. En automatisant les processus complexes, Enzai permet aux entreprises de déployer l'IA à grande échelle en toute confiance, tout en assurant leur alignement avec les standards internationaux tels que l'ISO 42001 et le NIST.