Erklärbares maschinelles Lernen
Modelle für maschinelles Lernen, die darauf ausgelegt sind, klare und verständliche Erklärungen für ihre Vorhersagen und Entscheidungen zu liefern.
Definition
Beinhaltet die Auswahl von inhärent interpretierbaren Algorithmen (Entscheidungsbäume, Regellisten) oder die Erstellung von Hybridmodellen, die Genauigkeit und Transparenz in Einklang bringen. Zu den bewährten Methoden der Unternehmensführung gehören die Dokumentation der Modelllogik, das Testen der Erklärungsklarheit durch Benutzer und die Beschränkung undurchsichtiger Modelle auf Anwendungen mit geringem Risiko, sofern erklärbare Alternativen existieren.
Real-World Example
Ein Hypothekengeber verwendet ein erklärbares Entscheidungsbaummodell für die ersten Kreditgenehmigungen. Jeder Entscheidungspfad wird in einfache Regeln übersetzt (z. B. „Wenn das Einkommen > 50.000$ und ein Kredit-Score > 700, dann genehmigen“), sodass Kreditsachbearbeiter und Wirtschaftsprüfer jede Genehmigung direkt anhand von menschenlesbaren Kriterien zurückverfolgen können.
.svg)
