Risque de Conformité
Le risque de sanctions légales ou réglementaires, de pertes financières ou de préjudice à la réputation qu'une organisation encourt lorsqu'elle ne se conforme pas aux lois, réglementations ou pratiques prescrites.
Dans les contextes liés à l’IA, le risque de conformité couvre les violations de la confidentialité des données (RGPD, HIPAA), les résultats biaisés enfreignant les lois sur l’égalité, ainsi que l’insuffisance des pistes d’audit. La gestion de ce risque implique de cartographier les réglementations aux processus d’IA, d’intégrer des contrôles (par exemple, la gestion du consentement, le caviardage) et de maintenir une documentation qui démontre le respect des exigences tout au long du cycle de vie de l’IA.
Une start-up fintech identifie un risque de conformité dans son IA de scoring de crédit : le RGPD exige un consentement explicite pour l’utilisation des données. Elle intègre un module de consentement dans son application, consigne les autorisations des utilisateurs et exclut automatiquement du scoring les profils n’ayant pas donné leur consentement afin d’éviter des sanctions et des amendes.
