Methoden zur Interpretation und zum Verständnis der Entscheidungen von KI-Modellen, wie LIME, SHAP und Salienzabbildungen.
Ein Werkzeugkasten mit modellagnostischen (LIME, SHAP) und modellspezifischen (Saliency für CNNs, Aufmerksamkeitsvisualisierung) Ansätzen, die Merkmalsattributionen erzeugen, Entscheidungswege visualisieren und kontrafaktische Erklärungen bereitstellen. Zu den Best Practices der Governance gehören die Auswahl von Techniken, die für den Modelltyp geeignet sind, die Validierung der Genauigkeit von Erklärungen sowie die Integration von Erklärungen in Endnutzer-Workflows.
Eine Einzelhandelskette nutzt SHAP, um ihre Vorhersagen zur Kundenabwanderung zu erläutern: Jeder Datensatz weist „hohe monatliche Ausgaben“ und „jüngste Servicebeschwerden“ als wichtigste Einflussfaktoren aus. Customer-Success-Manager nutzen diese Erläuterungen, um Kundenbindungsangebote gezielt anzupassen und so die Kundenzufriedenheit zu steigern.
