Paysage de l'IA et des Politiques - Perspectives pour 2025

‍Participants à la table ronde :

• Jamaur Bronner, co-fondateur, The Foregrounds

• Monika Viktorova, chef de produit technologie responsable, secteur de la logistique

• Jason Green-Lowe, directeur exécutif, Center for AI Policy

• Modérateur : Var Shankar, directeur de l'I.A. et de la confidentialité, Enzai

Introduction de VS :

• Présentation des intervenants.

• Le débat se concentre sur les politiques publiques et la technologie de l'I.A., en prévision d'une année 2025 dynamique.

Partie 1 : Vers où s'oriente l'I.A. en 2025 ?

MV :

• Les aspects négatifs :  L'usage abusif de l'I.A. générative augmente en raison de son accessibilité et de la baisse des coûts. Exemples : le clonage de voix pour des escroqueries, la création de CSAM et la désinformation à grande échelle. Les acteurs malveillants exploitent efficacement cette technologie.  Même au sein d'organisations légitimes, des défaillances notables surviennent, comme des bots conversationnels fournissant des informations erronées ou proposant des solutions contraires à la politique de l'entreprise (par exemple, le cas d'Air Canada).  La propension de l'I.A. générative à halluciner et à adapter ses réponses aux désirs des utilisateurs engendre des risques.  Un exemple précis est Character.AI, où des bots conversationnels pro-anorexie influencent des adolescents vulnérables, mettant en évidence des garde-fous insuffisants.

• Les aspects positifs :  L'I.A. générative stimule des avancées majeures dans la recherche scientifique, en particulier en sciences et en médecine.  La prédiction du repliement des protéines (AlphaFold 2) en est l'illustration, accélérant la conception et le développement de médicaments.

• Dans les organisations :  L'I.A. générative est largement déployée dans tous les secteurs.  Les équipes commerciales et marketing l'utilisent pour la création de contenu et la prospection personnalisée. Les applications CRUD dans la finance et ailleurs enregistrent d'importants gains de productivité lorsque l'I.A. générative est employée (avec des garde-fous et une supervision humaine) pour automatiser les rapports.  La génération augmentée de récupération (RAG) permet d'interagir avec d'importants répertoires de documents, facilitant la gestion de l'information.  Toutefois, la sensibilisation des utilisateurs aux hallucinations et à la vérification des sources est cruciale.

• Points clés à retenir : Le potentiel d'accroissement de la productivité est immense, mais des garde-fous robustes, la formation des utilisateurs et la résolution du problème des hallucinations sont indispensables. Le ROI et les modèles de tarification pour les grandes entreprises demeurent une question centrale.

JGL :

• Il existe un potentiel d'innovation technologique inexploité considérable, même sans amélioration supplémentaire des modèles de base. Les organisations doivent se concentrer sur l'exploitation des modèles actuels, l'exploration de niches de marché et la levée des contraintes d'interaction.  Les interactions actuelles sont limitées (textuelles, requêtes courtes, réponses instantanées), mais les interactions futures pourraient inclure des contextes beaucoup plus larges, des temps de réflexion de l'I.A., de l'auto-incitation, des interactions multimédias (voix, vidéo, musique, contrôle de véhicules) et l'intégration avec la robotique pour un impact concret dans le monde réel.

• Même un ralentissement temporaire de l'évolution des modèles ne stoppera pas indéfiniment les progrès. Les goulets d'étranglement tels que l'électricité, les données et les financements peuvent affecter la croissance exponentielle, mais une croissance linéaire reste attendue.  Les modèles de 2025 seront probablement nettement plus puissants que ceux de 2024.  Les rapports faisant état de paliers de performance peuvent s'avérer trompeurs, les entreprises restant discrètes quant à leurs investissements et à leurs progrès réels.

Partie 2 : Vers où s'orientent les politiques publiques en 2025 ?

JGL :

• Incertitude politique aux États-Unis : L'I.A. a été peu abordée durant la campagne ; seule une mention sibylline figure dans le programme républicain concernant le remplacement du décret présidentiel de Biden sur l'I.A. par une I.A. fondée sur « la liberté d'expression et l'épanouissement humain. »‍

• Aspect « liberté d'expression » : Probable opposition aux préoccupations de désinformation (perçues comme de la censure) et au politiquement correct.‍

• Aspect « épanouissement humain » : Signification floue ; liens potentiels avec les commentaires du Vatican sur l'I.A., les travaux de l'École d'économie de Chicago sur le bien-être des familles et les emplois adaptés.‍

• Diversité des conseillers : L'approche de l'administration Trump en matière d'I.A. reste incertaine à ce jour, en raison de la diversité des conseillers.‍

• Perspectives : Poursuite du leadership américain grâce à des initiatives telles que l'AI Safety Institute bipartisan, collaboration avec des entreprises innovantes sur les normes de test et de sécurité, et mise en place de garde-fous de sécurité.

MV :

• États-Unis vs Union Européenne : Le décret américain est axé sur la conformité volontaire, tandis que le règlement européen sur l'I.A. (EU AI Act) prévoit des sanctions strictes (amendes de plusieurs millions d'euros). L'approche européenne pourrait inspirer des sanctions similaires dans les futures réglementations américaines.

• Paysage réglementaire mondial : Un environnement fragmenté avec l'émergence de réglementations en Chine, au Brésil, en Australie, etc., ce qui génère des frictions et des défis pour les équipes produit et les dirigeants.  Les entreprises multinationales doivent adapter leurs feuilles de route produit, leurs fonctionnalités, leur architecture sous-jacente et leurs modèles pour se conformer aux différentes juridictions.

• Application de la réglementation dans l'UE : L'accent mis par l'UE sur des cas d'application très médiatisés et des amendes importantes dans le cadre du RGPD pourrait servir de modèle pour l'application du règlement sur l'I.A., influençant la manière dont les organisations, en particulier les multinationales, abordent le développement et le déploiement de produits.

Partie 3 : Qu'est-ce que cela signifie pour les organisations et les professionnels ?

JB :

• Montée en compétences et adaptation :  L'adaptation à l'I.A. est hétérogène et insuffisante, ce qui est préoccupant. De nombreuses entreprises accordent une priorité stratégique à l'I.A. générative, mais manquent de plans de formation. Les organisations doivent se concentrer sur l'éducation à l'I.A. et la standardisation.

• Mesure du ROI :  Les gains de productivité issus d'outils comme Cursor et GitHub Copilot doivent être mesurés et généralisés à l'ensemble de l'organisation, et non pas simplement exploités par des développeurs de manière isolée.

• Atténuation des risques : L'utilisation non standardisée de l'I.A. générative expose les organisations à des risques majeurs. Les tests rétroactifs, la supervision humaine et une analyse rigoureuse sont essentiels.

• Évolution des compétences :  Les développeurs débutants ayant accès aux outils d'I.A. générative deviennent des « développeurs assistés par l'I.A. », se concentrant sur la résolution créative de problèmes et la conception de solutions. Cela nécessite des ajustements dans les fiches de poste, les pratiques RH et les évaluations de performance.

• Réponse aux inquiétudes liées au remplacement des emplois :  Bien que certaines fonctions puissent être réaffectées, l'accent doit être mis sur l'utilisation de l'I.A. comme un levier d'opportunités. Les organisations responsables doivent repenser les environnements de travail, les flux de travail et les descriptions de postes afin de créer de nouvelles perspectives et d'utiliser efficacement la supervision humaine.

• ‍Implications organisationnelles / Bonnes pratiques : De nombreuses meilleures pratiques émergent en temps réel, émanant souvent d'organisations dotées de ressources importantes ou d’études de cas, plutôt que du conseil traditionnel ou des écoles de commerce.

JB suite : Sources des bonnes pratiques

• Fournisseurs de modèles de base : Les initiatives éducatives telles que la LLM University (Cohere) et les efforts similaires d'OpenAI constituent des ressources précieuses.

• Partenaires de formation en I.A. : Des organisations comme The Foregrounds compilent des études de cas, évaluent les succès et les échecs, et interrogent des experts pour comprendre et diffuser les meilleures pratiques.

• Équipes internes d'éthique et de gouvernance de l'I.A. : Ces équipes veillent à la conformité, au déploiement responsable et à l'alignement transversal au sein des organisations.

• Gouvernements et institutions publiques : Des initiatives comme la stratégie nationale pour l'I.A. de Singapour et les travaux du Center for AI Policy influencent les bonnes pratiques mondiales grâce à la concertation des parties prenantes.

JB suite : Promotion de l'entrepreneuriat

• La volonté de la nouvelle administration de promouvoir l'entrepreneuriat, conjuguée à une possible augmentation des investissements dans des secteurs traditionnellement prioritaires pour les administrations conservatrices (défense, industrie de pointe) et à l'influence de personnalités telles qu'Elon Musk, suggère des mutations potentielles du paysage entrepreneurial.‍

• Défense : Des entreprises comme Anduril et Palantir verront probablement leurs opportunités croître.‍

• Industrie de pointe et robotique : Priorité donnée à la relocalisation des capacités industrielles, l'I.A. venant renforcer plutôt que remplacer les emplois manuels. Des entreprises comme Figure et les projets d’Elon Musk dans la robotique humanoïde en sont des exemples. Cela offre également des opportunités intéressantes du point de vue de la fabrication industrielle.‍

• Secteurs créatifs : Une nouvelle vague d'entrepreneurs et de créateurs tire parti des outils d'I.A. pour la génération de musique, la production vidéo, la création d'images, etc. Ces personnes acquièrent une expertise solide de ces outils, à l'instar de l'essor des compétences sur les produits SaaS, réduisant ainsi les barrières à l'entrée et stimulant l'entrepreneuriat. Cela est possible grâce à la simplification du cycle de vie du développement produit, autorisant des cycles d'itération et de déploiement plus courts.‍

• Santé et éducation : Bien que ces secteurs présentent un potentiel prometteur, il reste incertain que la nouvelle administration soutienne un déploiement massif de l'I.A. dans ces domaines, compte tenu des orientations conservatrices historiques.

MV suite : Petites organisations

• Avantage de l'I.A. générative pour les grandes entreprises : Les grandes organisations d'envergure multinationale disposent souvent de plus de données et de ressources, ce qui leur confère un avantage dans le développement de l'I.A. générative. Elles sont confrontées à des exigences réglementaires diverses et parfois contradictoires (par exemple, les décrets américains, le règlement européen sur l'I.A., et les réglementations en Chine, au Brésil ou en Australie). Naviguer dans ce paysage réglementaire fragmenté complexifie le développement et le déploiement de produits.

• Stratégies pour les petites entreprises et les entrepreneurs :

• Comprendre les capacités de l'I.A. générative : S'attacher à identifier les domaines dans lesquels l'I.A. générative excelle et comment elle peut concrètement bénéficier à leur activité.‍

• Développer ou Acheter : Prendre des décisions éclairées quant à l'opportunité de concevoir des solutions d'I.A. en interne ou de recourir à des produits sur étagère, souvent plus rentables pour les petites structures.‍

• Achats et gestion des fournisseurs : Évaluer minutieusement les fournisseurs d'I.A., en se concentrant non seulement sur leurs capacités techniques, mais aussi sur les risques en aval, la conformité réglementaire, la cybersécurité et les aspects juridiques. Cela limite la dépendance vis-à-vis des compétences internes et permet aux petites entreprises de s'appuyer sur des prestataires spécialisés.‍

• S'inspirer des grandes organisations : Adopter les meilleures pratiques en matière d'achats et de gestion des fournisseurs observées au sein des grandes entreprises. Cela aide les petites structures à sélectionner les solutions adaptées et à gérer efficacement leurs risques.‍

• Rôle des politiques publiques : L'attribution de subventions aux ONG peut faciliter l'accès aux outils d'I.A. générative pour le bénéfice de la société civile et garantir des conditions de concurrence plus équitables. Cela peut soutenir la recherche, le développement et le déploiement responsable de l'I.A. dans divers secteurs, atténuant ainsi potentiellement les scénarios monopolistiques. Cela favorise l'innovation et la concurrence, évitant la domination du marché par un nombre restreint d'acteurs de grande taille.

JGL suite : Collaboration Humain-I.A.

• Maintenir l'influence humaine :  Un exercice délicat ; l'I.A. est souvent perçue comme objective et fiable, ce qui incite à s'en remettre excessivement à ses recommandations.  La présence d'un humain dans la boucle peut s'avérer insuffisante.

• Intégrer pleinement les fonctions humaines :  Inscrire fondamentalement le rôle de l'humain dans le processus décisionnel, et non comme un simple validateur final.

• L'organisateur d'informations (Oracle AI) :  Utiliser l'I.A. pour décrire des situations et mettre en évidence les informations pertinentes, plutôt que pour formuler des recommandations d'action finale. Cela permet aux humains de prendre des décisions éclairées à partir d'analyses générées par l'I.A.

• Tâches vs Métiers :  L'I.A. excelle dans l'automatisation de tâches spécifiques, qui ne correspondent pas nécessairement à des métiers complets. Restructurer les postes pour dissocier les tâches les mieux accomplies par les humains de celles les mieux traitées par l'I.A.  Cela engendre une collaboration mutuellement bénéfique et maximise les forces de chacun. À long terme, l'amenuisement des tâches confiées aux humains au fil des progrès de l'I.A. reste un sujet de préoccupation.

Conclusion de VS :

• L'orientation de l'administration Trump n'est pas encore clairement définie.

• Le règlement européen sur l'I.A. aura un impact sur les organisations à l'échelle mondiale.

• Les organisations de toutes tailles doivent se concentrer sur la formation, l'acquisition et le développement des talents, ainsi que sur une supervision humaine appropriée.

Enzai est la plateforme leader de gouvernance de l'I.A. d'entreprise, spécialement conçue pour aider les organisations à passer d'une politique abstraite à un contrôle opérationnel. Notre plateforme de gestion des risques liés à l'I.A. fournit l'infrastructure spécialisée requise pour administrer la gouvernance de l'I.A. agentique, maintenir un inventaire complet de l'I.A. et garantir la conformité avec le règlement européen sur l'I.A.. En automatisant les flux de travail complexes, Enzai permet aux entreprises de déployer l'I.A. en toute confiance tout en assurant l'alignement avec les normes mondiales telles que ISO 42001 et le NIST.