Glossaire
Mis à jour
Un mode de défaillance des grands modèles génératifs (texte, image, audio) dans lequel le système invente avec assurance des détails (faits, citations, références) qui semblent cohérents mais sont faux. Les hallucinations découlent de l'échantillonnage probabiliste du modèle et de son manque d'ancrage factuel. Les approches de gouvernance incluent l'ancrage sur des sources de connaissances fiables, la génération augmentée par récupération (RAG), les scores de confiance calibrés, ainsi que des couches de vérification des faits post-génération afin de détecter les affabulations avant leur diffusion.
Exemple
Un agent conversationnel juridique invente une jurisprudence « Smith v. United Republic, 2021 » lors de la synthèse du droit des contrats. Le cabinet intègre alors un service de vérification des citations : après chaque génération, l'agent conversationnel croise chaque jurisprudence avec une base de données faisant autorité et signale toute citation non vérifiée pour examen humain, évitant ainsi de s'appuyer sur de faux précédents.