Maschinelle Lernmodelle, die entwickelt wurden, um klare und verständliche Erklärungen für ihre Vorhersagen und Entscheidungen bereitzustellen.
Dabei geht es um die Auswahl inhärent interpretierbarer Algorithmen (Entscheidungsbäume, Regellisten) oder den Aufbau hybrider Modelle, die Genauigkeit und Transparenz in Einklang bringen. Zu den bewährten Verfahren der Governance zählen die Dokumentation der Modelllogik, nutzerbasierte Tests der Verständlichkeit von Erklärungen sowie die Beschränkung intransparenter Modelle auf Anwendungen mit geringem Risiko, wenn erklärbare Alternativen vorhanden sind.
Ein Hypothekenkreditgeber verwendet für die erste Kreditgenehmigung ein erklärbares Entscheidungsbaum-Modell. Jeder Entscheidungspfad wird in Regeln in klarer Sprache übersetzt (z. B. „Wenn Einkommen > 50.000 $ und Bonitätsscore > 700, genehmigen“), sodass Kreditsachbearbeiter und Prüfer jede Genehmigung direkt auf für Menschen verständliche Kriterien zurückführen können.
