Zuletzt aktualisiert am:
KI-Systeme, die so konzipiert sind, dass sie nachvollziehbare Begründungen für ihre Entscheidungen und Handlungen liefern, wodurch Transparenz und Vertrauen gestärkt werden.
Techniken und Frameworks, die klare, kontextgerechte Erklärungen generieren – Merkmalszuweisungen, Regelextraktionen, kontrafaktische Szenarien –, abgestimmt auf die Bedürfnisse der Stakeholder (Endanwender, Regulierungsbehörden, Entwickler). Die XAI-Governance umfasst die Standardisierung von Erklärungsformaten, die Validierung der Erklärungstreue und die Schulung der Benutzer zur korrekten Interpretation.
Praxisbeispiel:
Ein Kreditkartenunternehmen nutzt XAI, indem es LIME-Erklärungen in seine Betrugswarnungen integriert: Wenn die KI eine Transaktion als verdächtig eingruppiert, wird dem Nutzer angezeigt, dass „Ungewöhnlicher Händlerstandort“ und „Hoher Transaktionsbetrag“ die Hauptfaktoren waren. Dies ermöglicht eine schnellere Verifizierung und reduziert die Anzahl fälschlicherweise eskalierter Verdachtsfälle um 30 %.
