Der strukturierte Prozess zur Identifizierung, Bewertung und Minderung von Risiken, die sich aus KI/ML-Modellen während ihres gesamten Lebenszyklus ergeben.
Eine Governance-Disziplin, die Modelle als Unternehmenswerte behandelt – sie katalogisiert, Risiken bewertet (Leistung, Fairness, Sicherheit) und Kontrollen anwendet (Validierung, Überwachung, Notfallplanung). Sie integriert Richtlinien, Rollen (Modellverantwortliche, Risikoausschüsse), Werkzeuge (Modellinventare, Risiko-Dashboards) und Arbeitsabläufe (regelmäßige Risikoüberprüfungen, Eskalationspfade), um sicherzustellen, dass modellbezogene Risiken innerhalb akzeptabler Grenzen bleiben.
Eine Bank führt ein Modellinventar, in dem jedes ML-Modell nach Risikostufe gekennzeichnet ist. Monatlich prüft das Model-Risk-Komitee die Validierungsberichte von Modellen mit hohem Risiko, genehmigt Abhilfemaßnahmenpläne bei etwaigen Leistungsabweichungen und stellt sicher, dass manuelle Fallback-Prozesse vorhanden sind, falls Modelle ausfallen.
