Glossar
Aktualisiert
Ein Fehlermodus großer generativer Modelle (Text, Bild, Audio), bei dem das System selbstbewusst Details (Fakten, Zitate, Referenzen) erfindet, die kohärent klingen, jedoch falsch sind. Halluzinationen entstehen durch die probabilistische Stichprobenziehung des Modells und das Fehlen einer Verankerung in der Realität. Governance-Ansätze umfassen die Verankerung auf vertrauenswürdigen Wissensquellen, Retrieval-Augmented Generation, kalibrierte Konfidenzwerte sowie nachgelagerte Faktenprüfungs-Ebenen, um Falschdarstellungen vor der Veröffentlichung zu erkennen.
Beispiel
Ein Legal-Tech-Chatbot erfindet bei der Zusammenfassung des Vertragsrechts das Fallzitat „Smith v. United Republic, 2021“. Die Kanzlei integriert einen Dienst zur Überprüfung von Zitaten: Nach der Generierung gleicht der Chatbot jedes Fallzitat mit einer autorisierten Datenbank ab und markiert alle nicht verifizierten Zitate zur Überprüfung durch einen Experten, um den Rückgriff auf fiktive Präzedenzfälle zu verhindern.
