Lorsque l'IA générative produit des informations incorrectes ou fabriquées qui semblent plausibles mais qui n'ont aucun fondement dans les données d'entraînement.
Un mode de défaillance des grands modèles génératifs (texte, image, audio) dans lequel le système invente avec assurance des détails — faits, citations, références — qui paraissent cohérents mais sont faux. Les hallucinations découlent de l’échantillonnage probabiliste du modèle et de son absence d’ancrage. Les approches de gouvernance incluent l’ancrage sur des sources de connaissances fiables, la génération augmentée par récupération, des scores de confiance calibrés et des couches de vérification des faits après génération afin de détecter les fabrications avant publication.
Un chatbot de technologie juridique invente une référence jurisprudentielle « Smith c. United Republic, 2021 » lors de la synthèse du droit des contrats. Le cabinet intègre un service de vérification des citations : après la génération, le chatbot recoupe chaque affaire avec une base de données faisant autorité et signale toute citation non vérifiée pour examen humain, empêchant ainsi de s’appuyer sur des précédents fallacieux.
