Risque éthique
Le risque qu'un système d'IA cause des dommages en raison d'un comportement contraire à l'éthique, notamment de partialité, de discrimination ou de violation de la vie privée.
Définition
Un sous-ensemble des risques liés à l'IA est axé sur les préjudices moraux et sociétaux, à savoir les atteintes à la dignité, à l'autonomie, à l'équité et aux droits. La gestion éthique des risques consiste à identifier des scénarios (par exemple, des prêts discriminatoires), à évaluer leur gravité, à les intégrer dans les registres des risques des entreprises et à mettre en œuvre des contrôles (par exemple, des contrôles de partialité, des flux de consentement) pour maintenir les expositions éthiques dans des limites acceptables.
Exemple concret
Une IA spécialisée dans les promotions par carte de crédit propose des offres à taux d'intérêt plus élevé aux quartiers à faible revenu. Le registre des risques éthiques de la banque le signale, déclenche une enquête et conduit à recalibrer l'algorithme de promotion afin de garantir des taux équitables quelle que soit la tranche de revenus.
.svg)
