Ein führender Messwert (z.B. Häufigkeit von unzutreffenden Vorhersagen, Rate unerklärlicher Entscheidungen), der auf aufkommende KI-Risiken hinweist, bevor sie sich manifestieren.
Ein zukunftsgerichteter Messwert, der auf eine zunehmende Exponierung gegenüber bestimmten KI-Risiken hinweist – etwa auf einen Anstieg von Inferenzentscheidungen mit geringer Konfidenz oder außerhalb der Verteilung, auf eine Zunahme markierter Richtlinienverstöße oder auf Spitzen im Alarmvolumen. KRIs ermöglichen eine proaktive Governance, indem sie potenzielle Probleme frühzeitig sichtbar machen, Maßnahmenpläne zur Risikominderung auslösen (z. B. Drosselung, menschliche Überprüfung) und zusammen mit finanziellen und operativen KRIs in unternehmensweite Risikodashboards einfließen.
Ein Gesundheitsdienstleister überwacht den KRI „Prozentsatz der Modellinferenzen mit einer Konfidenz von < 50 %“. Wenn der KRI innerhalb einer Woche über 5 % steigt, weist dies auf Datendrift oder Systemprobleme hin und veranlasst Data-Science-Teams, die Eingabepipelines zu untersuchen und das Diagnosemodell neu zu trainieren, bevor die Patientenversorgung beeinträchtigt wird.
