KI-Systeme, die darauf ausgelegt sind, nachvollziehbare Begründungen für ihre Entscheidungen und Handlungen bereitzustellen, wodurch Transparenz und Vertrauen gestärkt werden.
Techniken und Frameworks, die klare, kontextgerechte Erklärungen erzeugen – Merkmalsattributionen, Regelextraktionen, kontrafaktische Szenarien – und auf die Bedürfnisse der Stakeholder (Endnutzer, Regulierungsbehörden, Entwickler) zugeschnitten sind. Die XAI-Governance umfasst die Standardisierung von Erklärungsformaten, die Validierung der Erklärungsgenauigkeit sowie die Schulung von Anwendern, damit sie diese korrekt interpretieren.
Ein Kreditkartenunternehmen nutzt XAI, indem es LIME-Erklärungen in seine Betrugswarnungen integriert: Wenn die KI eine Transaktion als verdächtig kennzeichnet, zeigt sie dem Nutzer, dass „Ungewöhnlicher Händlerstandort“ und „Hoher Transaktionsbetrag“ die wichtigsten Einflussfaktoren waren, was eine schnellere Verifizierung ermöglicht und die Eskalationen aufgrund falsch-positiver Meldungen um 30 % reduziert.
