Dernière mise à jour :
Le potentiel des systèmes d'intelligence artificielle à causer des préjudices ou des conséquences imprévues, englobant les risques éthiques, juridiques et opérationnels.
Le spectre des conséquences négatives potentielles - défaillances techniques, traitement inéquitable, atteintes à la vie privée, infractions juridiques, atteinte à la réputation - quantifié de manière qualitative ou quantitative afin d'orienter les décisions de gouvernance.
Exemple concret :
Un assureur quantifie les pertes potentielles dans le cas où son IA de traitement des sinistres classifierait à tort des dossiers à forte valeur comme présentant un risque faible. Il alloue dès lors des réserves de capital supplémentaires et intègre des étapes de révision manuelle pour les sinistres de valeur élevée, atténuant ainsi son exposition opérationnelle et réputationnelle.
