‍Participants du panel :

• Jamaur Bronner, Co-fondateur, The Foregrounds

• Monika Viktorova, Responsable produit de technologie responsable, Industrie Logistique

• Jason Green-Lowe, Directeur exécutif, Centre de politique de l'IA

• Modérateur : Var Shankar, Directeur de l'IA et de la confidentialité, Enzai

Introduction VS :

• Présente les panélistes.

• La discussion se concentre sur les politiques et technologies de l'IA, en anticipant une dynamique 2025.

Partie 1 : Où va l'IA en 2025 ?

MV :

• Le mauvais:  L'utilisation abusive de l'IA générative augmente en raison de l'accessibilité et des coûts réduits. Les exemples incluent : clonage vocal pour escroqueries, création de CSAM et désinformation à grande échelle. Les acteurs malveillants exploitent efficacement la technologie.  Même dans des organisations légitimes, des échecs de grande envergure se produisent, comme les chatbots fournissant des informations erronées ou des solutions hors politique de l'entreprise (cas Air Canada).  La propension de GenAI à halluciner et à adapter les réponses aux désirs des utilisateurs crée des risques.  Un exemple spécifique est Character.AI où des chatbots pro-anorexie influencent des adolescents vulnérables, soulignant des garde-fous insuffisants.

• Le bon:  GenAI stimule des avancées significatives dans la découverte scientifique, notamment en science et médecine. La prédiction du repliement des protéines (AlphaFold 2) incarne cela, accélérant la conception et le développement des médicaments.

• Dans les organisations:  GenAI est largement déployé dans toutes les industries.  Les équipes de vente et de marketing l'utilisent pour la création de contenu et la personnalisation des communications. Les applications CRUD dans la finance et ailleurs voient d'énormes gains de productivité lorsque GenAI est utilisé ( avec des garde-fous et une supervision humaine) pour automatiser les rapports.  La génération augmentée permet des interactions avec de vastes dépôts de documents, facilitant la gestion de l'information.  Cependant, l'éducation des utilisateurs sur les hallucinations et la vérification des sources est cruciale.

• Conclusion clé: Le potentiel d'augmentation de la productivité est immense, mais des garde-fous robustes, l'éducation des utilisateurs et l'attention portée aux hallucinations sont essentiels. Le ROI et les modèles de tarification pour les grandes organisations restent une question clé.

JGL :

• Il existe un potentiel inexploité important pour l'innovation technologique même sans nouvelles améliorations des modèles de base. Les organisations doivent se concentrer sur l'exploitation des modèles actuels, explorer de nouveaux créneaux de marché, et "délier" les méthodes d'interaction.  Les interactions actuelles sont limitées (textuelles, courtes invites, réponses instantanées), mais les interactions futures pourraient impliquer des fenêtres de contexte plus larges, du "temps de réflexion" pour l'IA, de l'auto-suggestion, interaction multimédia (voix, vidéo, musique, contrôle de véhicule), et intégration avec la robotique pour un impact réel.

• Même un ralentissement temporaire dans l'échelle des modèles ne stoppera pas le progrès indéfiniment. Les goulots d'étranglement comme l'électricité, les données et le financement peuvent affecter la croissance exponentielle, mais la croissance linéaire est toujours attendue.  Les modèles de 2025 seront probablement beaucoup plus puissants que ceux de 2024.  Les rapports de plateaux de performances peuvent être trompeurs, car les entreprises sont stratégiquement discrètes sur leurs investissements et réels progrès.

Partie 2 : Où vont les politiques en 2025 ?

JGL :

• Incertitude de la politique américaine: Peu de discussions sur l'IA pendant la campagne ; seulement une mention cryptique dans la plate-forme républicaine sur le remplacement de l'ordre exécutif d'AI de Biden par une IA construite sur « la liberté d'expression et le développement humain ». ‍

• Aspect « liberté d'expression »: Probable réaction contre les préoccupations liées à la désinformation (perçu comme censure) et au politiquement correct. ‍

• Aspect « développement humain »: Sens incertain ;  liens potentiels avec les commentaires du Vatican sur l'IA, les travaux de l'École de Chicago sur le bien-être familial et les emplois convenables. ‍

• Conseillers divers: Approche de l'IA par l'administration Trump incertaine à ce jour, en raison d'une diversité de conseillers. ‍

• Espoirs: Continent américain continue son leadership à travers des initiatives comme l'Institut de sécurité de l'IA bipartisan, la collaboration avec des entreprises innovantes sur des tests et des normes de sécurité, et la mise en œuvre de garde-fous de sécurité.

MV :

• États-Unis contre UE: L'ordre exécutif des États-Unis axé sur la conformité volontaire, tandis que la Loi sur l'IA de l'UE prévoit des pénalités strictes (amendes de plusieurs millions de dollars). L'approche de l'UE pourrait inspirer des pénalités similaires dans les politiques futures des États-Unis.

• Paysage réglementaire mondial:  Environnement éclectique avec des réglementations émergentes en Chine, Brésil, Australie, etc., créant des frictions et des défis pour les équipes produit et les dirigeants.  Les entreprises multinationales doivent adapter les plans de produits, les ensembles de fonctionnalités, l'architecture de base et les modèles pour se conformer à diverses juridictions.

• Application en UE: L'accent mis par l'UE sur des cas d'application emblématiques et des amendes importantes sous le GDPR pourrait servir de modèle pour l'application de la Loi sur l'IA, créant un impact sur la façon dont les organisations, notamment les multinationales, abordent le développement et le déploiement de produits.

Partie 3 : Qu'est-ce que cela signifie pour les organisations et les praticiens ?

JB :

• Mise à niveau des compétences et adaptation:  L'adaptation à l'IA est incohérente et insuffisante, suscitant des inquiétudes. Beaucoup d'entreprises priorisent stratégiquement GenAI, mais manquent de plans de montée en compétences. Les organisations doivent se concentrer sur l'éducation à l'IA et la normalisation.

• Mesurer le ROI:  Les gains de productivité des outils comme Cursor et GitHub Copilot doivent être suivis et évolués à l'échelle de l'organisation, et non seulement utilisés par des développeurs individuels.

• Atténuation des risques: L'utilisation non standardisée de GenAI expose les organisations à des risques significatifs. Des tests en amont, une surveillance humaine et une analyse attentive sont cruciaux.

• Évolution des ensembles de compétences:  Les développeurs juniors avec accès aux outils GenAI deviennent des "développeurs habilités par l'IA", concentrés sur la résolution créative des problèmes et la conception de solutions. Cela nécessite des ajustements dans les descriptions de postes, les pratiques RH et les évaluations des performances.

• Aborder les préoccupations du déplacement des emplois:  Bien que certaines fonctions professionnelles puissent être réallouées, l'accent doit être mis sur la transformation de l'IA en catalyseur. Les organisations responsables devraient réinventer les lieux de travail, les flux de travail, et les descriptions de postes pour créer de nouvelles opportunités et utiliser efficacement la surveillance humaine.

• ‍Implications organisationnelles / Meilleures pratiques: De nombreuses meilleures pratiques émergent en temps réel, souvent de la part d'organisations bien dotées en ressources ou de cas d'études, pas nécessairement de cabinets de conseil ou d'écoles de commerce traditionnelles.

JB continue : Sources des meilleures pratiques

• Fournisseurs de modèles de fondation : Les initiatives éducatives comme LLM University (Cohere) et des efforts similaires d'OpenAI offrent des ressources précieuses.

• Partenaires d'éducation à l'IA : Des organisations comme The Foregrounds compilent des études de cas, évaluent les succès et les échecs, et interviewent des experts pour comprendre et diffuser les meilleures pratiques.

• Équipes internes d'éthique/gouvernance de l'IA : Ces équipes stimulent la conformité, le déploiement responsable, et l'alignement interfonctionnel au sein des organisations.

• Gouvernement et institutions tournées vers le gouvernement : Des initiatives comme la stratégie nationale de l'IA de Singapour et les travaux du Centre pour la politique de l'IA influencent les meilleures pratiques mondiales grâce à l'alignement des parties prenantes.

JB continue : Promotion de l'entrepreneuriat

• L'accent mis par la nouvelle administration sur la promotion de l'entrepreneuriat, couplé avec une augmentation potentielle des investissements dans des domaines traditionnellement prioritaires pour les administrations conservatrices (défense, fabrication avancée) et l'influence de figures comme Elon Musk, suggère des changements potentiels dans le paysage entrepreneurial. ‍

• Défense: Des entreprises comme Anduril et Palantir devraient voir augmenter leurs opportunités. ‍

• Fabrication avancée et robotique: Focus sur le retour des capacités manufacturières, avec l'IA qui permet, plutôt que remplace, les emplois de cols bleus. Des entreprises comme Figure et les efforts d'Elon Musk dans la robotique humanoïde en sont des exemples. Cela offre également des opportunités intéressantes du point de vue de la fabrication industrielle. ‍

• Industries créatives: Une nouvelle vague d'entrepreneurs et de créateurs utilise les outils de l'IA pour la génération musicale, la production vidéo, la création d'images, etc. Ces individus deviennent experts dans ces outils, similaire à la montée en expertise dans les produits SaaS, abaissant la barrière à l'entrée et favorisant un nouvel entrepreneuriat. Cela est réalisé grâce à la rationalisation du cycle de développement de produits, permettant une itération et un déploiement plus rapides. ‍

• Santé et éducation: Bien qu'il y ait un potentiel excitant dans ces secteurs, il est incertain si la nouvelle administration soutiendra une large expansion de l'IA dans ces domaines, compte tenu des approches conservatrices historiques.

MV continue : Petites organisations

• Avantage GenAI pour les grandes organisations : Les grandes organisations avec une empreinte multinationale possèdent souvent plus de données et de ressources, leur donnant un avantage dans le développement GenAI. Elles font face à des préoccupations réglementaires diverses et parfois contradictoires (par exemple, ordres exécutifs, Loi sur l'IA, et réglementations en Chine, Brésil, Australie). Naviguer dans ce paysage réglementaire fragmenté ajoute de la complexité pour le développement et le déploiement de produits.

• Stratégies pour les petites entreprises et entrepreneurs :

• Comprendre les capacités de GenAI : Se concentrer sur l'identification de ce que GenAI excelle et comment il peut spécifiquement bénéficier à leur entreprise. ‍

• Construire vs. Acheter : Prendre des décisions éclairées sur la construction de solutions IA en interne ou utiliser des produits prêts à l'emploi, souvent plus économiques pour les petites organisations. ‍

• Approvisionnement et gestion des fournisseurs : Examiner minutieusement les fournisseurs d'IA, en se concentrant sur les capacités techniques mais aussi les risques en aval, la conformité réglementaire, la cybersécurité, et les considérations légales. Cela réduit la dépendance à l'expertise interne et permet aux petites entreprises de bénéficier de fournisseurs spécialisés. ‍

• Apprendre des grandes organisations : Adopter les meilleures pratiques d'approvisionnement et de gestion des fournisseurs observées dans les grandes organisations. Cela aide les petites entreprises à choisir les bonnes solutions et à gérer leur risque efficacement. ‍

• Rôle de la politique gouvernementale : Des subventions aux ONG peuvent faciliter l'accès aux outils GenAI pour le bénéfice sociétal et garantir un terrain de jeu plus égal. Cela peut soutenir la recherche, le développement et le déploiement responsable de l'IA dans divers secteurs, en atténuant potentiellement les effets « gagnant-gagnant ». Cela favorise l'innovation et la concurrence, empêchant la dominance par quelques grands acteurs.

JGL continue : La collaboration humain-IA

• Maintenir l'influence humaine :  Épineux ; l'IA est souvent perçue comme objective et digne de confiance, ce qui facilite une trop grande dépendance à ses recommandations.  L'humain dans la boucle peut être insuffisant.

• Intégration des rôles humains :  Intégrer les rôles humains fondamentalement dans le processus de prise de décision, pas seulement en tant qu'étape d'approbation finale.

• IA Oracle :  Utiliser l'IA pour fournir des descriptions de la situation et mettre en avant les informations pertinentes plutôt que de faire des recommandations sur l'action finale. Cela permet aux humains de prendre des décisions éclairées basées sur les analyses générées par l'IA.

• Tâches contre emplois :  L'IA excelle dans l'automatisation des tâches spécifiques, qui peuvent ne pas correspondre à des emplois entiers. Restructurer les emplois pour distinguer les tâches mieux effectuées par l'homme de celles mieux effectuées par l'IA.  Cela crée une collaboration gagnant-gagnant et maximise les forces de chacun. La préoccupation à long terme reste sur la réduction des tâches humaines au fur et à mesure que l'IA progresse.

Conclusion VS :

• L'approche de l'administration Trump n'est pas encore claire.

• La Loi sur l'IA de l'UE aura un impact sur les organisations mondiales.

• Les organisations doivent se concentrer sur l'éducation, l'acquisition/de développement de talents, et une supervision humaine appropriée.