Wichtiger Risikoindikator
Eine wichtige Kennzahl (z. B. Häufigkeit von Prognosen, die außerhalb des Geltungsbereichs liegen, Rate unerklärlicher Entscheidungen), die aufkommende KI-Risiken signalisiert, bevor sie eintreten.
Definition
Eine zukunftsgerichtete Kennzahl, die auf eine zunehmende Exposition gegenüber bestimmten KI-Risiken hinweist — wie z. B. eine Zunahme von Rückschlüssen, die wenig vertrauensvoll sind oder nicht zur Verbreitung gelangen, eine Zunahme von gemeldeten Richtlinienverstößen oder ein Anstieg der Warnmeldungen. KRIs ermöglichen eine proaktive Unternehmensführung, indem sie potenzielle Probleme frühzeitig erkennen, Strategien zur Risikominderung auslösen (z. B. Drosselung, Überprüfung durch Mitarbeiter) und diese Informationen zusammen mit finanziellen und operativen KRIs in Dashboards für Unternehmensrisiken einfließen.
Real-World Example
Ein Gesundheitsdienstleister überwacht den KRI-Prozentsatz der Modellinferenzen mit einer Konfidenz von < 50%. Wenn der KRI innerhalb einer Woche auf über 5% steigt, signalisiert das Datendriften oder Systemprobleme. Das veranlasst die Teams der Datenwissenschaft, die Eingabeleitungen zu untersuchen und das Diagnosemodell neu zu trainieren, bevor die Patientenversorgung beeinträchtigt wird.
.svg)
