Glossar
Aktualisiert
Ein zukunftsgerichteter Indikator, der auf eine steigende Exposition gegenüber bestimmten KI-Risiken hinweist, etwa ein Anstieg von Inferenzen mit geringer Konfidenz oder Out-of-Distribution-Inferenzen, eine Zunahme von gemeldeten Richtlinienverstößen oder Spitzen beim Alarmvolumen. KRIs ermöglichen eine proaktive Governance, indem sie potenzielle Probleme frühzeitig aufdecken, Playbooks zur Risikominderung auslösen (z. B. Drosselung, menschliche Überprüfung) und neben finanziellen und operativen KRIs in Risikodashboards von Unternehmen einfließen.
Beispiel
Ein Gesundheitsdienstleister überwacht den KRI „Prozentsatz der Modellinferenzen mit einer Konfidenz < 50 %“. Wenn der KRI innerhalb einer Woche über 5 % steigt, signalisiert dies einen Daten-Drift oder Systemprobleme. Dies veranlasst die Data-Science-Teams, die Input-Pipelines zu untersuchen und das Diagnosemodell neu zu trainieren, bevor die Patientenversorgung beeinträchtigt wird.