Modell Grey Box
Ein Modell, dessen interne Logik teilweise transparent ist (einige Komponenten interpretierbar, andere undurchsichtig), das Leistung und Erklärbarkeit in Einklang bringt.
Definition
Hybride Architekturen, die interpretierbare Elemente (z. B. Entscheidungsbäume) mit undurchsichtigen Komponenten (z. B. neuronale Einbettungen) verbinden. Grey-Box-Modelle zielen auf einen Mittelweg ab — sie bieten eine hohe Genauigkeit bei gleichzeitiger teilweiser Sichtbarkeit. Zu den Governance-Prozessen gehören die Identifizierung interpretierbarer Segmente für die Prüfung, die Dokumentation undurchsichtiger Teile durch externe Erklärer und die Einschränkung undurchsichtiger Verhaltensweisen in Kontexten, in denen viel auf dem Spiel steht.
Real-World Example
Ein Bonitätsprüfungssystem verwendet eine Grey-Box: Eine regelbasierte Engine führt Eignungsprüfungen durch (vollständig transparent), und ein neuronales Netzwerk prognostiziert Risikobewertungen. Die Kreditsachbearbeiter überprüfen das regelbasierte Ergebnis direkt und sehen sich die SHAP-Erklärungen für den neuronalen Score an. So wird sichergestellt, dass zumindest ein Teil der Entscheidungslogik von Natur aus interpretierbar ist.
.svg)
