Modèle Grey Box
Un modèle dont la logique interne est partiellement transparente (certains composants sont interprétables, d'autres opaques), équilibrant performance et explicabilité.
Définition
Architectures hybrides qui mélangent des éléments interprétables (par exemple, des arbres de décision) avec des composants opaques (par exemple, des intégrations neuronales). Les modèles en boîte grise visent un juste milieu, en maintenant une précision élevée tout en offrant une visibilité partielle. Les processus de gouvernance incluent l'identification de segments interprétables pour l'audit, la documentation des parties opaques à l'aide d'explicateurs externes et la restriction des comportements opaques dans des contextes à enjeux élevés.
Exemple concret
Un système d'évaluation du crédit utilise une boîte grise : un moteur basé sur des règles gère les contrôles d'éligibilité (totalement transparent) et un réseau neuronal prédit les scores de risque. Les agents de crédit examinent directement le résultat basé sur des règles et consultent les explications SHAP pour le score neuronal, garantissant ainsi qu'au moins une partie de la logique de décision est intrinsèquement interprétable.
.svg)
