Glossaire
Mis à jour
Qu’est-ce qu’un risque lié à l’IA ?
Un risque lié à l’IA désigne toute manière dont un système d’IA pourrait causer un préjudice : aux personnes concernées par ses décisions, à celles qui l’utilisent ou à l’organisation qui l’exploite. Comme tout risque, il a deux composantes : la probabilité du préjudice et sa gravité. L’IA y ajoute quelques particularités. Un même système peut donner des réponses différentes à des entrées similaires, il peut changer quand son modèle est mis à jour, et les utilisateurs peuvent s’en servir pour des usages que personne n’avait prévus.
Quels sont les principaux types de risques ?
La plupart des risques liés à l’IA se répartissent en quelques familles. Le risque de performance correspond à des résultats erronés, y compris des affirmations inventées mais présentées avec assurance, souvent appelées hallucinations. Le risque d’équité correspond à des résultats qui désavantagent des personnes en raison d’une caractéristique protégée, ce qu’on appelle aussi les biais de l’IA. Le risque de confidentialité correspond à l’exposition de données personnelles ou confidentielles par les données d’entraînement, les prompts ou les résultats. Le risque de sécurité couvre des attaques comme l’injection de prompt, l’empoisonnement des données et le contournement des garde-fous (jailbreak).
Le risque lié aux tiers survient lorsqu’un éditeur modifie un modèle, une condition contractuelle ou une fonctionnalité sans vous prévenir. Le risque juridique naît d’un usage qui enfreint une loi, comme une pratique interdite par l’EU AI Act. Avec les agents d’IA s’ajoute un risque d’action : un agent qui fait ce qu’il n’était pas censé faire, avec les accès qui lui ont été accordés. Le Top 10 OWASP pour les applications agentiques recense les scénarios les plus courants, et le profil IA générative du NIST décrit 12 catégories de risques propres à l’IA générative, de la confabulation et de la confidentialité des données à la sécurité de l’information et à la propriété intellectuelle.
Comment mesure-t-on un risque lié à l’IA ?
La plupart des organisations cotent chaque risque sur une échelle de probabilité et une échelle d’impact, souvent à cinq niveaux chacune, puis les combinent en une seule cotation. Elles le cotent deux fois : une fois avant tout contrôle, c’est le risque inhérent, et une fois après, c’est le risque résiduel. L’écart montre ce que valent les contrôles. Certains risques se mesurent directement, comme les taux d’erreur ou les écarts de taux d’acceptation entre groupes, et ces chiffres peuvent être suivis dans le temps sous forme d’indicateurs clés de risque.
Un risque lié à l’IA est-il la même chose qu’une catégorie de risque ?
Non. Des lois comme l’EU AI Act classent les usages de l’IA en catégories : interdits, à haut risque, soumis aux seules obligations de transparence, et à risque minimal. Une catégorie est une classification juridique de l’usage, et elle détermine les obligations applicables. Le risque lié à l’IA est la probabilité qu’un système donné cause un préjudice dans un contexte donné. Un système à risque minimal au sens du règlement peut tout de même présenter un risque sérieux pour l’entreprise, comme un outil interne qui divulgue des données confidentielles, et un système à haut risque peut être bien maîtrisé. Il vous faut les deux points de vue. Notre guide de classification des risques selon l’EU AI Act présente les catégories.
Pour piloter ces risques dans le cadre d’un programme, voir Gestion des risques liés à l’IA. Dans Enzai, chaque risque est rattaché au système d’IA concerné et coté avant et après traitement, dans un registre unique partagé entre les équipes. Voir Risques et conformité de l’IA.
Exemple
Une enseigne de distribution utilise un chatbot tiers pour son service client, et sa revue cote trois risques. Le chatbot pourrait inventer une politique de remboursement que l’enseigne ne propose pas : risque probable, impact modéré. Un client pourrait l’amener par la ruse à révéler la commande d’un autre client : risque peu probable, impact élevé. L’éditeur pourrait passer à un nouveau modèle sans prévenir : risque probable, impact modéré. L’enseigne limite le chatbot aux politiques publiées sur son site, ne lui donne accès qu’aux commandes du client connecté et ajoute une clause contractuelle imposant de notifier tout changement de modèle. Elle réévalue ensuite les risques résiduels et les revoit chaque trimestre.