Last updated:
Le risque opérationnel, juridique et réputationnel découlant de l'utilisation de contenus incorrects, biaisés ou préjudiciables générés par un système d'intelligence artificielle.
Alors que l'informatique traditionnelle se concentre sur la protection des données d'entrée, la gouvernance de l'IA doit également gérer les données de sortie. Le risque lié aux résultats comprend les hallucinations (des affirmations erronées mais plausibles), le biais algorithmique conduisant à des décisions discriminatoires, ainsi que la création involontaire de contenus enfreignant les droits d'auteur ou les marques déposées de tiers.
Real world example:
Une équipe marketing utilise une intelligence artificielle non autorisée pour générer du contenu destiné aux réseaux sociaux. L'IA invente une réduction inexistante de 50 %, ce qui entraîne un afflux de clients mécontents et l'obligation légale d'appliquer ce tarif.
