BELFAST, IRLANDE ; BARCELONE, ESPAGNE ; 22 novembre 2022 :- Citibeats, une plateforme d'intelligence sociale éthique, s'est associée à Enzai Technologies, une plateforme de gouvernance de l'IA, pour améliorer ses procédures de gouvernance de l'IA avant les nouvelles réglementations européennes dans le domaine de l'intelligence artificielle.

En tant qu'entreprise spécialisée dans l'IA éthique, la mise en œuvre de normes de gouvernance et de transparence robustes est un objectif extrêmement important pour Citibeats. L'exactitude et la fiabilité de ses systèmes d'IA sous-jacents sont essentielles pour lui permettre de fournir des informations sociales précieuses à ses clients via la plateforme Citibeats. Cela peut être réalisé grâce à des contrôles de confidentialité efficaces, à des analyses de biais et à des procédures de transparence, et bien que de nombreux gardiens soient couverts par le projet de loi sur l'intelligence artificielle de l'Union européenne (le « EU AIA»), ils peuvent être difficiles à mettre en œuvre dans la pratique. Pour garantir qu'il respecte le standard d'or de la gouvernance de l'IA à l'échelle mondiale, Citibeats souhaitait évaluer ses applications d'IA par rapport au standard d'or pour une IA responsable.

La plateforme de gouvernance de l'IA novatrice d'Enzai permet aux organisations de mettre en place les procédures de gouvernance nécessaires, traduisant ces principes importants en pratique. Grâce à son travail sur la plateforme Enzai, Citibeats a pu établir des contrôles de gouvernance robustes et efficaces, pour accélérer le développement d'une IA sûre et digne de confiance. La plateforme a permis à Citibeats d'évaluer ses systèmes par rapport aux réglementations émergentes, ainsi qu'aux politiques, normes et cadres internationaux.

Le EU AIA

Le EU AIA représente la première tentative mondiale de mise en œuvre d'une réglementation horizontale des systèmes d'IA. En raison de « l'Effet Bruxelles », il est prévu de devenir la norme de facto à l'échelle mondiale. Les analystes s'attendent actuellement à ce que le EU AIA entre en vigueur vers la fin de 2024, et les entreprises éthiques sont désormais désireuses de prendre une longueur d'avance. Bon nombre des exigences de la loi, comme l'obligation d'établir un système de gestion des risques et de conserver une documentation technique, ont du sens indépendamment de l'impératif réglementaire. À mesure que le domaine de l'IA mûrit, ces contrôles (qui peuvent être mis en œuvre rapidement et efficacement via la plateforme Enzai) deviendront essentiels pour toute organisation développant de l'IA. Vous pouvez en savoir plus sur le EU AIA, ainsi qu'un aperçu des dernières mises à jour proposées, ici.

Ayant récemment lancé sa propre Communauté IA Éthique, l'adoption des propositions de l'Union européenne pour la réglementation des technologies IA est une étape clé dans le parcours de Citibeats vers une IA sûre et digne de confiance.  “L'IA est un outil très puissant et ne doit pas être pris à la légère. Elle impacte notre quotidien dans tous les aspects, et nous devons veiller à bien faire les choses et à la rendre équitable pour tout le monde. Mais ce n'est pas un effort individuel, ni une entreprise ou même un pays. C'est uniquement par un effort communautaire conjoint, provenant du monde entier, que nous pourrons établir une meilleure base pour notre société. Et cela concerne tout, depuis le niveau algorithmique et de données jusqu'à la gouvernance et la loi. C'est clairement quelque chose de grand, plus grand que Citibeats, et nous sommes reconnaissants d'être ceux qui initient cela”, a déclaré Abby Seneor, CTO de Citibeats.

Conduire l'évaluation de conformité

Les articles 16 et 43 du projet de loi EU AIA exigent que les organisations développant certains types d'IA réalisent une évaluation de conformité. Le but d'une évaluation de conformité est de s'assurer qu'un système donné est légalement conforme, éthiquement sain et techniquement robuste, ce qui est souvent plus facile à dire qu'à faire. Le paysage réglementaire de l'IA devient de plus en plus complexe, avec une myriade de normes mondiales émergentes. Celles-ci peuvent souvent être déroutantes et difficiles à traduire en informations exploitables.

L'équipe derrière Enzai est composée d'avocats expérimentés, ayant travaillé dans certains des meilleurs cabinets d'avocats du monde et étant leaders dans le domaine de la gestion des risques liés à l'IA. Grâce à la plateforme Enzai, Citibeats a pu naviguer à travers une gamme de normes mondiales (telles que l'évaluation CapAI, le cadre de gestion des risques NIST, les normes de transparence algorithmique du Royaume-Uni, etc.) pour évaluer son système par rapport aux cinq phases clés du cycle de vie : conception, développement, évaluation, opération et retrait. La plateforme Enzai a aidé Citibeats à traduire ces principes éthiques en informations exploitables, qui peuvent être utilisées pour vérifier si un système est aligné avec les valeurs et droits fondamentaux de l'UE.

En s'appuyant sur des cadres de référence pour compléter l'analyse, Citibeats a pu réaliser un examen de conformité important et générer trois résultats clés en matière de gouvernance à la suite de ce processus d'évaluation :

1. un protocole de revue interne, qui lui fournit un cadre de gouvernance bien défini pour l'assurance qualité et la gestion des risques ainsi que la documentation technique pertinente ;

2. une fiche de données résumée ; et

3. une carte de modèle, qui peut être distribuée aux clients et parties prenantes comme preuve de bonnes pratiques et de gestion consciente des questions éthiques.

Il y a de nombreux avantages évidents à mettre en œuvre un tel processus de gouvernance. Premièrement, il va au-delà de la rhétorique de « l'IA responsable » et traduit des principes éthiques insaisissables en critères tangibles qui peuvent être utilisés pour vérifier si un système serait aligné avec les valeurs et droits fondamentaux européens. De plus, il est suffisamment complet et holistique, couvrant toutes les étapes du cycle de vie de l'IA. Enfin, cette approche éthiquement guidée permet à Citibeats de continuer à promouvoir la confiance et la transparence dans les technologies de l'IA pour ses clients. En utilisant les nouvelles technologies d'Enzai, Citibeats a pu transformer la gouvernance de l'IA en l'un de ses plus grands avantages compétitifs !

“Bien faire les choses est crucial pour l'écosystème”, a noté Ryan Donnelly, l'un des fondateurs d'Enzai. “Établir la confiance dans l'IA est vital pour s'assurer que ces technologies peuvent réaliser leur potentiel, et réaliser cette analyse par rapport au EU AIA établit clairement Citibeats en tant que leader précoce dans le domaine de l'IA éthique.”

Prochaines étapes

Unies par un désir mutuel d'exploiter le potentiel révolutionnaire de l'IA au bénéfice des affaires et de la société dans son ensemble, Citibeats et Enzai sont enthousiasmés par l'opportunité de continuer à améliorer le processus de gouvernance de l'IA. Plus tard cette année, nous avons l'intention de publier un document conjoint détaillant notre expérience dans la mise en œuvre d'une structure de gouvernance de l'IA.

+++++++++++++++++++++++++++++++

À propos de Citibeats

Citibeats est une plateforme d'analytique textuelle augmentée qui favorise la réactivité face aux préoccupations les plus urgentes de la société grâce à la fourniture d'informations basées sur des données aux décideurs mondiaux.

En mettant l'accent sur la durabilité et les risques sociaux, la plateforme s'appuie sur l'intelligence artificielle pour surveiller et interpréter les expressions publiques en ligne, en temps réel et à grande échelle. Ce faisant, Citibeats offre aux organismes publics, aux agences intergouvernementales et aux entités commerciales le moyen le plus rapide et le plus efficace de détecter l'évolution des opinions sociales.

Les algorithmes de Citibeats mélangent le traitement du langage naturel et les techniques d'apprentissage machine pour organiser, anonymiser et interpréter les données textuelles non structurées. Ces technologies permettent à Citibeats de traduire un abondant flot de voix numériques - chacune exprimant des opinions, des griefs, et des recommandations uniques - en indicateurs clairs, qui habilitent les organisations à prendre des actions pragmatiques et opportunes face au changement sociétal.

Pour en savoir plus, veuillez contacter Abby Seneor à aseneor@citibeats.com.

À propos d'Enzai

Fondée en 2021 par une équipe d'élite d'experts en réglementation technologique et en développement logiciel, Enzai a pour mission de garantir que l'IA peut établir le niveau de confiance nécessaire pour réaliser son potentiel technologique.

Enzai a construit une plateforme de gouvernance de l'IA pour opérationnaliser une IA responsable et éthique à grande échelle. Des entreprises mondiales utilisent la plateforme d'Enzai pour mettre en œuvre des contrôles politiques, favoriser la collaboration entre les parties prenantes et renforcer la supervision des systèmes d'IA. La plateforme SaaS de l'entreprise propose une suite de fonctionnalités logicielles intégrées conçues pour soutenir une approche de gouvernance holistique tout au long du cycle de vie du modèle - depuis le stade de concept jusqu'au retrait éventuel du modèle.

Pour contacter Enzai au sujet de sa plateforme de gouvernance de l'IA, veuillez contacter Ryan Donnelly, l'un des fondateurs, à ryan@enz.ai.

‍