Risikomanagement modellieren
Der strukturierte Prozess zur Identifizierung, Bewertung und Minderung von Risiken, die sich aus KI/ML-Modellen während ihres gesamten Lebenszyklus ergeben.
Definition
Eine Führungsdisziplin, die Modelle als Unternehmensvermögen behandelt, sie katalogisiert, Risiken bewertet (Leistung, Fairness, Sicherheit) und Kontrollen anwendet (Validierung, Überwachung, Notfallplanung). Sie integriert Richtlinien, Rollen (Verantwortliche des Modells, Risikoausschüsse), Tools (Modellinventare, Risiko-Dashboards) und Arbeitsabläufe (regelmäßige Risikoüberprüfungen, Eskalationspfade), um sicherzustellen, dass modellbezogene Risiken innerhalb akzeptabler Grenzen bleiben.
Real-World Example
Eine Bank führt ein Modellinventar, in dem jedes ML-Modell nach Risikoniveau gekennzeichnet ist. Monatlich überprüft das Model Risk Committee die Validierungsberichte von Modellen mit hohem Risiko, genehmigt Pläne zur Behebung eventueller Leistungsabweichungen und stellt sicher, dass für den Fall, dass Modelle ausfallen, manuelle Ausweichprozesse eingerichtet werden.
.svg)
