BELFAST, IRLANDE ; BARCELONE, ESPAGNE ; 22 novembre 2022 : Citibeats, plateforme d’intelligence sociale axée sur l’éthique, s’est associée à Enzai Technologies, plateforme de gouvernance de l’IA, afin de renforcer ses procédures de gouvernance de l’IA en prévision des nouvelles réglementations européennes dans le domaine de l’intelligence artificielle.

En tant que scale-up de l’IA axée sur l’éthique, la mise en œuvre de normes robustes de gouvernance et de transparence constitue un objectif d’une importance majeure pour Citibeats. L’exactitude et la fiabilité de ses systèmes d’IA sous-jacents sont essentielles pour lui permettre de fournir à ses clients des enseignements sociaux à forte valeur via la plateforme Citibeats. Cela peut être obtenu grâce à des contrôles de confidentialité efficaces, à l’analyse des biais et à des procédures de transparence ; et bien que nombre de ces garde-fous soient couverts par le projet de règlement européen sur l’intelligence artificielle (le « EU AIA »), leur mise en œuvre peut s’avérer difficile dans la pratique. Afin de s’assurer qu’elle respecte la référence absolue en matière de gouvernance mondiale de l’IA, Citibeats souhaitait comparer ses applications d’IA à la référence absolue en matière d’IA responsable.

La plateforme novatrice de gouvernance de l’IA d’Enzai permet aux organisations de mettre en place les procédures de gouvernance nécessaires, en traduisant ces principes importants en pratiques concrètes. Grâce à son travail sur la plateforme Enzai, Citibeats a pu mettre en place des contrôles de gouvernance robustes et efficaces, afin d’accélérer le développement d’une IA sûre et digne de confiance. La plateforme a permis à Citibeats de comparer ses systèmes aux réglementations émergentes, ainsi qu’aux politiques, normes et cadres internationaux.

L’EU AIA

L’EU AIA représente la première tentative mondiale de mettre en œuvre une réglementation horizontale des systèmes d’IA. En raison de « l’effet Bruxelles », il est appelé à devenir la norme mondiale de facto. Les analystes estiment actuellement que l’EU AIA entrera en vigueur vers la fin de 2024, et les entreprises axées sur l’éthique souhaitent désormais prendre une longueur d’avance. Bon nombre des exigences prévues par ce texte, telles que l’obligation de mettre en place un système de gestion des risques et de tenir une documentation technique, sont judicieuses indépendamment de l’impératif réglementaire. À mesure que le secteur de l’IA mûrit, ces contrôles (qui peuvent être mis en œuvre rapidement et efficacement via la plateforme Enzai) deviendront essentiels pour toute organisation développant de l’IA. Vous pouvez en apprendre davantage sur l’EU AIA, ainsi qu’obtenir un aperçu des dernières mises à jour proposées, ici.

Après avoir récemment lancé sa propre Communauté d’IA éthique, l’adoption des propositions de l’Union européenne visant à encadrer les technologies d’IA constitue une étape clé dans le parcours de Citibeats vers une IA sûre et digne de confiance.  « L’IA est un outil extrêmement puissant et ne peut être prise à la légère. Elle influence notre quotidien dans tous les domaines, et nous devons veiller à la faire correctement et à ce qu’elle soit équitable pour tous. Mais il ne s’agit pas d’un effort individuel, ni d’un effort d’entreprise, ni même d’un effort national. Ce n’est qu’au moyen d’un effort collectif de la communauté, à l’échelle mondiale, que nous serons en mesure de bâtir de meilleures bases pour notre société. Et cela va jusqu’au bout, du niveau algorithmique et des données jusqu’à la gouvernance et au droit. C’est clairement quelque chose de grand, de plus grand que Citibeats, et nous sommes honorés d’être ceux qui l’initient », a déclaré Abby Seneor, directrice technique de Citibeats.

Réalisation de l’évaluation de conformité

Les articles 16 et 43 du projet de règlement européen sur l’IA (l’EU AIA) exigent des organisations développant certains types d’IA qu’elles réalisent une évaluation de conformité. L’objectif d’une évaluation de conformité est de garantir qu’un système donné est conforme à la loi, solide sur le plan éthique et robuste sur le plan technique, ce qui est souvent plus facile à dire qu’à faire. Le paysage réglementaire de l’IA devient de plus en plus complexe, avec une multitude de normes mondiales qui émergent désormais. Celles-ci peuvent souvent prêter à confusion et être difficiles à traduire en enseignements exploitables.

L’équipe à l’origine d’Enzai est composée d’avocats expérimentés, ayant exercé au sein de certains des meilleurs cabinets d’avocats au monde et faisant figure de leaders dans le domaine de la gestion des risques liés à l’IA. Grâce à la plateforme Enzai, Citibeats a pu s’orienter dans un ensemble de normes mondiales (telles que l’évaluation CapAI, le cadre de gestion des risques du NIST, les normes britanniques de transparence algorithmique, etc.) afin d’évaluer son système au regard des cinq phases clés du cycle de vie : conception, développement, évaluation, exploitation et mise hors service. La plateforme Enzai a aidé Citibeats à traduire ces principes éthiques en enseignements exploitables, qui peuvent être utilisés pour vérifier si un système est aligné sur les valeurs et les droits fondamentaux de l’UE.

En s’appuyant sur des cadres de référence de premier plan pour mener l’analyse à son terme, Citibeats a pu réaliser un examen de conformité important et produire trois livrables clés de gouvernance à l’issue de ce processus d’évaluation :

1. un protocole d’examen interne, qui lui fournit un cadre de gouvernance clairement défini pour l’assurance qualité et la gestion des risques, ainsi que la documentation technique correspondante ;

2. une fiche récapitulative ; et

3. une fiche modèle, qui peut être distribuée aux clients et aux parties prenantes comme preuve de bonnes pratiques et d’une gestion consciencieuse des questions éthiques.

Il existe de nombreux avantages évidents à mettre en œuvre un tel processus de gouvernance. Tout d’abord, il va au-delà de la rhétorique de l’« IA responsable » et traduit des principes éthiques insaisissables en critères tangibles pouvant être utilisés pour vérifier si un système est aligné sur les valeurs et les droits fondamentaux européens. En outre, cette approche est suffisamment exhaustive et globale, couvrant toutes les étapes du cycle de vie de l’IA. Enfin, cette approche guidée par l’éthique permet à Citibeats de continuer à renforcer la confiance et la transparence dans les technologies d’IA pour ses clients. Grâce aux technologies novatrices d’Enzai, Citibeats a pu faire de la gouvernance de l’IA l’un de ses avantages concurrentiels les plus solides !

« Bien faire les choses est essentiel pour l’écosystème », a souligné Ryan Donnelly, l’un des fondateurs d’Enzai. « Instaurer la confiance dans l’IA est indispensable pour garantir que ces technologies puissent réaliser leur potentiel, et mener cette analyse au regard de l’EU AIA positionne clairement Citibeats comme un précurseur dans le domaine de l’IA éthique. »

Prochaines étapes

Unies par la volonté commune d’exploiter le potentiel révolutionnaire de l’IA au bénéfice à la fois des entreprises et de la société dans son ensemble, Citibeats et Enzai se réjouissent de la possibilité de poursuivre l’amélioration du processus de gouvernance de l’IA. Plus tard cette année, nous prévoyons de publier un livre blanc commun détaillant notre expérience de mise en œuvre d’une structure de gouvernance de l’IA.

+++++++++++++++++++++++++++++++

À propos de Citibeats

Citibeats est une plateforme d’analyse textuelle augmentée qui favorise la réactivité face aux préoccupations les plus pressantes de la société grâce à la fourniture d’insights fondés sur les données aux décideurs mondiaux.

En mettant l’accent sur la durabilité et le risque social, la plateforme exploite l’intelligence artificielle pour surveiller et interpréter l’expression publique en ligne, en temps réel et à grande échelle. Ce faisant, Citibeats offre aux organismes publics, aux agences intergouvernementales et aux entités commerciales le moyen le plus rapide et le plus efficace de détecter l’évolution des opinions sociales.

Les algorithmes de Citibeats combinent des techniques de traitement du langage naturel et d’apprentissage automatique pour organiser, anonymiser et interpréter des données textuelles non structurées. Ces technologies permettent à Citibeats de traduire une abondance de voix numériques – chacune exprimant des opinions, griefs et recommandations uniques - en indicateurs clairs et exploitables, permettant aux organisations d’agir de manière pragmatique et opportune dans un contexte de changement sociétal.

Pour en savoir plus, veuillez contacter Abby Seneor à aseneor@citibeats.com.

Enzai est la plateforme de gouvernance de l’IA d’entreprise de référence, conçue spécifiquement pour aider les organisations à passer d’une politique abstraite à une supervision opérationnelle. Notre plateforme de gestion des risques liés à l’IA fournit l’infrastructure spécialisée nécessaire pour gérer la gouvernance de l’IA agentique, tenir un inventaire complet de l’IA et garantir la conformité au règlement européen sur l’IA. En automatisant des flux de travail complexes, Enzai permet aux entreprises de déployer l’IA à grande échelle en toute confiance, tout en restant alignées sur des normes mondiales telles que ISO 42001 et NIST.