Métriques de la Justice
Mesures quantitatives (par exemple, impact disparate, égalité des chances) utilisées pour évaluer l'équité et la non-discrimination dans la prise de décision par l'IA.
Des métriques statistiques qui quantifient l’équité entre des catégories démographiques ou protégées. L’impact disparate mesure les taux de résultats, l’égalité des chances mesure l’égalité des taux de vrais positifs, et la calibration évalue la précision du risque prédit. Les cadres de gouvernance imposent de sélectionner, selon chaque cas d’usage, des métriques de justice appropriées, de définir des seuils acceptables et d’en rendre compte régulièrement aux organes de supervision afin de garantir l’absence de discrimination tout au long du cycle de vie de l’IA.
Les résultats d’un modèle de police prédictive sont évalués mensuellement : le service calcule les ratios d’impact disparate des contrôles selon l’origine raciale et constate que le ratio dépasse le seuil de 0,8. Il suspend les recommandations automatisées de patrouille, recalibre le modèle en y intégrant des contraintes d’équité, puis vérifie après le déploiement que les taux de contrôle respectent les objectifs définis par les indicateurs de justice.
Nous vous aidons à trouver des réponses
Quel problème Enzai résout-il ?
Enzai fournit une infrastructure de niveau entreprise pour gérer les risques et la conformité de l'IA. Il crée un système centralisé où les systèmes d'IA, les modèles, les ensembles de données et les décisions de gouvernance sont documentés, évalués et audités.
Pour qui Enzai est-il conçu ?
En quoi Enzai se distingue-t-il des autres outils de gouvernance ?
Pouvons-nous commencer si nous n'avons pas de processus de gouvernance de l'IA existant ?
La gouvernance de l'IA freine-t-elle l'innovation ?
Comment Enzai s'aligne-t-il avec l'évolution des réglementations en matière d'IA ?
Recherche, perspectives et mises à jour
Donnez à votre organisation les moyens d'adopter, de gérer et de surveiller l'IA avec une confiance de niveau entreprise. Conçu pour les organisations réglementées opérant à grande échelle.