Zuletzt aktualisiert am:
Methoden zur Interpretation und zum Verständnis der von KI-Modellen getroffenen Entscheidungen, wie beispielsweise LIME, SHAP und Saliency Maps (Aktivitätskarten).
Ein Instrumentarium aus modellunabhängigen (LIME, SHAP) und modellspezifischen (Saliency für CNNs, Aufmerksamkeitsvisualisierung) Ansätzen, die Merkmalsattribuierungen generieren, Entscheidungswege visualisieren und kontrafaktische Erklärungen erzeugen. Zu den bewährten Governance-Praktiken gehören die Auswahl von Techniken, die für den jeweiligen Modelltyp geeignet sind, die Validierung der Erklärungsgenauigkeit sowie die Integration von Erklärungen in die Arbeitsabläufe der Endanwender.
Praxisbeispiel:
Eine Einzelhandelskette nutzt SHAP, um ihre Vorhersagen zur Kundenabwanderung zu erklären: Jeder Datensatz weist „hohe monatliche Ausgaben“ und „jüngste Servicebeschwerden“ als Hauptfaktoren aus. Customer-Success-Manager nutzen diese Erklärungen, um maßgeschneiderte Angebote zur Kundenbindung zu erstellen und so die Kundenzufriedenheit zu steigern.
