Dernière mise à jour :
Le risque qu'un système d'IA ne cause des préjudices en raison d'un comportement contraire à l'éthique, notamment par des biais, de la discrimination ou la violation de la vie privée.
Un sous-ensemble des risques liés à l'IA axé sur les préjudices moraux et sociétaux – les atteintes à la dignité, à l'autonomie, à l'équité et aux droits. La gestion du risque éthique consiste à identifier des scénarios (par exemple, l'octroi discriminatoire de crédits), à évaluer leur gravité, à les intégrer dans les registres de risques de l'entreprise et à mettre en œuvre des contrôles (tels que des vérifications de biais ou des parcours de consentement) afin de maintenir l'exposition aux risques éthiques dans des limites acceptables.
Exemple concret :
Une IA de promotions de cartes de crédit s'avère proposer des offres à taux d'intérêt plus élevés aux quartiers à faibles revenus. Le registre des risques éthiques de la banque le signale, déclenche une enquête et conduit à un recalibrage de l'algorithme de promotion afin de garantir des taux équitables quel que soit le niveau de revenu.
