BELFAST, IRLANDE ; BARCELONE, ESPAGNE ; 22 novembre 2022 :- Citibeats, une plateforme d'intelligence sociale axée sur l'éthique, s'est associée à Enzai Technologies, une plateforme de gouvernance de l'IA, afin d'améliorer ses procédures de gouvernance de l'IA en prévision des nouvelles réglementations européennes dans le domaine de l'intelligence artificielle.

En tant que scale-up de l'IA axée sur l'éthique, la mise en œuvre de normes rigoureuses de gouvernance et de transparence constitue un objectif de la plus haute importance pour Citibeats. L'exactitude et la fiabilité de ses systèmes d'IA sous-jacents sont essentielles pour lui permettre de fournir des analyses sociales précieuses à ses clients via la plateforme Citibeats. Cet objectif peut être atteint grâce à des contrôles d'accès efficaces, des analyses de biais et des procédures de transparence. Bien que bon nombre de ces garanties soient couvertes par le projet de loi de l'Union européenne sur l'intelligence artificielle (l'« IA Act de l'UE »), elles peuvent s'avérer difficiles à mettre en œuvre dans la pratique. Afin de s'assurer qu'elle répond aux normes les plus strictes en matière de gouvernance mondiale de l'IA, Citibeats a souhaité évaluer ses applications d'IA par rapport aux standards d'excellence de l'IA responsable.

La plateforme innovante de gouvernance de l'IA d'Enzai permet aux organisations de mettre en place les procédures de gouvernance nécessaires, traduisant ainsi ces principes fondamentaux dans la pratique. Grâce à sa collaboration sur la plateforme Enzai, Citibeats a pu établir des contrôles de gouvernance robustes et efficaces, afin d'accélérer le développement d'une IA sûre et fiable. La plateforme a permis à Citibeats d'évaluer ses systèmes par rapport aux réglementations émergentes, ainsi qu'aux politiques, normes et cadres internationaux.

L'IA Act de l'UE

L'IA Act de l'UE représente la première tentative mondiale de mise en œuvre d'une réglementation horizontale des systèmes d'IA. En raison de « l'effet Bruxelles », il devrait devenir la référence de fait à l'échelle mondiale. Les analystes prévoient actuellement que l'IA Act de l'UE entrera en vigueur vers la fin de l'année 2024, et les entreprises axées sur l'éthique souhaitent dès à présent prendre une longueur d'avance. Bon nombre des exigences de la loi, telles que l'obligation d'établir un système de gestion des risques et de conserver une documentation technique, sont logiques, indépendamment de l'obligation réglementaire. À mesure que le secteur de l'IA mûrit, ces contrôles (qui peuvent être mis en œuvre rapidement et efficacement grâce à la plateforme Enzai) deviendront indispensables pour toute organisation développant de l'IA. Vous pouvez en savoir plus sur l'IA Act de l'UE, ainsi que sur les dernières propositions de mise à jour, ici.

Ayant récemment lancé sa propre communauté pour l'IA éthique, l'adoption des propositions de l'Union européenne visant à réglementer les technologies de l'IA constitue une étape clé dans le parcours de Citibeats vers une IA sûre et fiable.  « L'IA est un outil très puissant qui ne doit pas être pris à la légère. Elle influence notre vie quotidienne dans tous ses aspects, et nous devons veiller à l'utiliser correctement et à la rendre équitable pour tous. Mais il ne s'agit pas d'un effort individuel, ni de celui d'une seule entreprise ou d'un seul pays. Ce n'est que par un effort communautaire conjoint, provenant du monde entier, que nous parviendrons à bâtir de meilleures fondations pour notre société. Et cela va de l'algorithme et des données jusqu'à la gouvernance et la législation. C'est manifestement un projet d'envergure, qui dépasse Citibeats, et nous sommes honorés d'en être les initiateurs », a déclaré Abby Seneor, CTO de Citibeats.

Réalisation de l'évaluation de la conformité

Les articles 16 and 43 du projet d'IA Act de l'UE exigent des organisations développant certains types d'IA qu'elles procèdent à une évaluation de la conformité. L'objectif d'une évaluation de la conformité est de s'assurer qu'un système donné est juridiquement conforme, éthiquement sain et techniquement robuste, ce qui est souvent plus facile à dire qu'à faire. Le paysage réglementaire de l'IA devient de plus en plus complexe, avec une multitude de normes mondiales qui émergent actuellement. Celles-ci peuvent souvent prêter à confusion et être difficiles à traduire en mesures concrètes.

L'équipe d'Enzai est composée d'avocats expérimentés, ayant exercé dans certains des meilleurs cabinets d'avocats internationaux et figurant parmi les leaders dans le domaine de la gestion des risques liés à l'IA. Grâce à la plateforme Enzai, Citibeats a pu s'orienter parmi un ensemble de normes mondiales (telles que l'évaluation CapAI, le cadre de gestion des risques du NIST, les normes de transparence algorithmique du Royaume-Uni, etc.) afin d'évaluer son système par rapport aux cinq phases clés du cycle de vie : conception, développement, évaluation, exploitation et retrait. La plateforme Enzai a aidé Citibeats à traduire ces principes éthiques en informations exploitables, qui peuvent être utilisées pour vérifier si un système s'aligne sur les valeurs et les droits fondamentaux de l'UE.

S'appuyant sur des cadres de référence de premier plan pour mener à bien cette analyse, Citibeats a pu réaliser une revue de conformité essentielle et générer trois livrables de gouvernance majeurs à l'issue de ce processus d'évaluation :

1. un protocole d'examen interne, qui lui fournit un cadre de gouvernance bien défini pour l'assurance qualité et la gestion des risques ainsi que la documentation technique associée ;

2. une fiche de synthèse ; et

3. une fiche de modèle (model card), qui peut être partagée avec les clients et les parties prenantes comme preuve de bonne pratique et de gestion responsable des questions éthiques.

La mise en œuvre d'un tel processus de gouvernance présente de nombreux avantages manifestes. Tout d'abord, elle dépasse la simple rhétorique de l'« IA responsable » et traduit des principes éthiques abstraits en critères concrets permettant de vérifier si un système est en adéquation avec les valeurs et les droits fondamentaux européens. De plus, elle s'avère particulièrement exhaustive et holistique, couvrant toutes les étapes du cycle de vie de l'IA. Enfin, cette approche guidée par l'éthique permet à Citibeats de continuer à renforcer la confiance et la transparence des technologies d'IA auprès de ses clients. En s'appuyant sur les technologies innovantes d'Enzai, Citibeats a su transformer la gouvernance de l'IA en l'un de ses plus précieux avantages concurrentiels !

« Réussir cette transition est crucial pour l'écosystème » a souligné Ryan Donnelly, l'un des fondateurs d'Enzai. « Établir la confiance dans l'IA est indispensable pour s'assurer que ces technologies puissent réaliser leur plein potentiel, et mener cette analyse par rapport à l'IA Act de l'UE positionne clairement Citibeats comme un leader précurseur dans le domaine de l'IA éthique. »

Prochaines étapes

Unis par une volonté commune de canaliser le potentiel révolutionnaire de l'IA au bénéfice des entreprises et de la société dans son ensemble, Citibeats et Enzai se réjouissent de l'opportunité de poursuivre l'optimisation du processus de gouvernance de l'IA. Plus tard cette année, nous prévoyons de publier un livre blanc conjoint détaillant notre expérience de mise en œuvre d'une structure de gouvernance de l'IA.

+++++++++++++++++++++++++++++++

À propos de Citibeats

Citibeats est une plateforme augmentée d'analyse de texte qui favorise la réactivité face aux préoccupations les plus urgentes de la société, en fournissant des analyses basées sur les données aux décideurs mondiaux.

Mettant l'accent sur la durabilité et le risque social, la plateforme s'appuie sur l'intelligence artificielle pour surveiller et interpréter l'expression publique en ligne, en temps réel et à grande échelle. Ce faisant, Citibeats offre aux organismes publics, aux agences intergouvernementales et aux entités commerciales le moyen le plus rapide et le plus efficace de détecter l'évolution des opinions sociales.

Les algorithmes de Citibeats combinent le traitement du langage naturel et les techniques d'apprentissage automatique pour organiser, anonymiser et interpréter des données textuelles non structurées. Ces technologies permettent à Citibeats de traduire une multitude de voix numériques – exprimant chacune des opinions, des griefs et des recommandations uniques – en indicateurs assimilables, qui permettent aux organisations de prendre des mesures pragmatiques et opportunes face aux changements sociétaux.

Pour en savoir plus, veuillez contacter Abby Seneor à l'adresse aseneor@citibeats.com.

Enzai est la plateforme leader de gouvernance de l'IA d'entreprise, spécialement conçue pour aider les organisations à passer d'une politique abstraite à une supervision opérationnelle. Notre plateforme de gestion des risques liés à l'IA fournit l'infrastructure spécialisée requise pour gérer la gouvernance de l'IA agentique, maintenir un inventaire complet de l'IA et assurer la conformité avec l'IA Act de l'UE. En automatisant les flux de travail complexes, Enzai permet aux entreprises de déployer l'IA à grande échelle en toute confiance, tout en garantissant l'alignement avec les normes mondiales telles que ISO 42001 et le NIST.