Zuletzt aktualisiert am:
Maschinelle Lernmodelle, die so konzipiert sind, dass sie klare und nachvollziehbare Erklärungen für ihre Vorhersagen und Entscheidungen liefern.
Dies umfasst die Auswahl von inhärent interpretierbaren Algorithmen (Entscheidungsbäume, Regellisten) oder die Entwicklung von Hybridmodellen, die ein ausgewogenes Verhältnis zwischen Genauigkeit und Transparenz bieten. Zu den bewährten Governance-Praktiken gehören die Dokumentation der Modelllogik, Nutzertests zur Überprüfung der Verständlichkeit von Erklärungen sowie die Beschränkung undurchsichtiger Modelle auf risikoarme Anwendungen, sofern erklärbare Alternativen zur Verfügung stehen.
Praxisbeispiel:
Ein Hypothekengeber verwendet ein erklärbares Entscheidungsbaummodell für erste Kreditgenehmigungen. Jeder Entscheidungspfad wird in verständliche Regeln übersetzt (z. B. „Wenn Einkommen > 50.000 $ und Kredit-Score > 700, genehmigen“), was es Kreditsachbearbeitern und Auditoren ermöglicht, jede Genehmigung direkt auf für Menschen lesbare Kriterien zurückzuführen.
