Glossaire
Mis à jour
Un sous-ensemble des risques liés à l'IA axé sur les préjudices moraux et sociétaux : les atteintes à la dignité, à l'autonomie, à l'équité et aux droits. La gestion du risque éthique consiste à identifier des scénarios (par exemple, l'octroi discriminatoire de crédits), à évaluer leur gravité, à les intégrer dans les registres de risques de l'entreprise et à mettre en œuvre des contrôles (tels que des vérifications de biais ou des parcours de consentement) afin de maintenir l'exposition aux risques éthiques dans des limites acceptables.
Exemple
Une IA de promotions de cartes de crédit s'avère proposer des offres à taux d'intérêt plus élevés aux quartiers à faibles revenus. Le registre des risques éthiques de la banque le signale, déclenche une enquête et conduit à un recalibrage de l'algorithme de promotion afin de garantir des taux équitables quel que soit le niveau de revenu.