Erklärbare KI (XAI)
KI-Systeme, die darauf ausgelegt sind, für Menschen verständliche Begründungen für ihre Entscheidungen und Handlungen zu liefern und so Transparenz und Vertrauen zu stärken.
Definition
Techniken und Frameworks, die klare, kontextgerechte Erklärungen generieren — Merkmalszuordnungen, Regelextraktionen, kontrafaktische Szenarien —, die auf die Bedürfnisse der Interessengruppen (Endbenutzer, Regulierungsbehörden, Entwickler) zugeschnitten sind. Die XAI-Governance umfasst die Standardisierung von Erklärungsformaten, die Validierung der Erklärungstreue und die Schulung der Benutzer in ihrer korrekten Interpretation.
Real-World Example
Ein Kreditkartenunternehmen nutzt XAI, indem es LIME-Erklärungen in seine Betrugswarnungen integriert: Wenn die KI eine Transaktion als verdächtig kennzeichnet, zeigt sie dem Benutzer, dass „Ungewöhnlicher Standort des Händlers“ und „Hoher Transaktionsbetrag“ am häufigsten dazu beigetragen haben, was eine schnellere Überprüfung ermöglicht und falsch positive Eskalationen um 30% reduziert.
.svg)
