Zuletzt aktualisiert am:
Ein Frühindikator (z. B. die Häufigkeit von Vorhersagen außerhalb des definierten Rahmens oder die Rate nicht nachvollziehbarer Entscheidungen), der aufkommende KI-Risiken signalisiert, bevor diese eintreten.
Ein zukunftsgerichteter Indikator, der auf ein steigendes Risiko im Bereich bestimmter KI-Risiken hinweist – wie etwa ein Anstieg von Konfidenz-schwachen oder Out-of-Distribution-Inferenzen, eine Zunahme von gemeldeten Richtlinienverstößen oder Spitzen beim Alarmvolumen. KRIs ermöglichen eine proaktive Governance, indem sie potenzielle Probleme frühzeitig aufdecken, Playbooks zur Risikominderung auslösen (z. B. Drosselung, menschliche Überprüfung) und neben finanziellen und operativen KRIs in Risikodashboards von Unternehmen einfließen.
Praxisbeispiel:
Ein Gesundheitsdienstleister überwacht den KRI „Prozentsatz der Modellinferenzen mit einer Konfidenz < 50 %“. Wenn der KRI innerhalb einer Woche über 5 % steigt, signalisiert dies einen Daten-Drift oder Systemprobleme. Dies veranlasst die Data-Science-Teams, die Input-Pipelines zu untersuchen und das Diagnosemodell neu zu trainieren, bevor die Patientenversorgung beeinträchtigt wird.
