Le potentiel d'un système d'IA à causer des dommages en raison d'un comportement non éthique, notamment des préjugés, de la discrimination ou de la violation de la vie privée.
Un sous-ensemble des risques liés à l’IA, centré sur les préjudices moraux et sociétaux — atteintes à la dignité, à l’autonomie, à l’équité et aux droits. La gestion des risques éthiques consiste à identifier des scénarios (p. ex., prêts discriminatoires), à évaluer leur gravité, à les intégrer dans les registres des risques de l’entreprise et à mettre en œuvre des contrôles (p. ex., vérifications des biais, parcours de consentement) afin de maintenir les expositions éthiques dans des limites acceptables.
Une IA dédiée aux promotions de cartes de crédit s’avère proposer des offres à taux d’intérêt plus élevés aux quartiers à faible revenu. Le registre des risques éthiques de la banque signale cette situation, déclenche une enquête et conduit au recalibrage de l’algorithme de promotion afin de garantir des taux équitables, indépendamment de la tranche de revenu.
