Glossar
Aktualisiert
Ein Szenario, bei dem das Modell gutartige Fälle fälschlicherweise als bösartig einstuft, wie es in den Bereichen Sicherheit, Betrugsprävention oder bei medizinischen Screenings häufig vorkommt. Hohe Falsch-Positiv-Raten können die zuständigen Prüfer überlasten, das Vertrauen beeinträchtigen und unnötige Kosten verursachen. Eine effektive Governance erfordert die Überwachung der Präzision, die Definition akzeptabler Schwellenwerte sowie die Implementierung von Triggern für die menschliche Überprüfung, um Warnmeldungen effizient zu bündeln oder zu priorisieren.
Beispiel
Eine KI zur Erkennung von Kreditkartenbetrug weist eine Falsch-Positiv-Rate von 10 % auf, was bedeutet, dass eine von zehn legitimen Transaktionen blockiert wird. Die Bank richtet ein schnelles Reaktionsteam ein, um fälschlicherweise blockierte Transaktionen innerhalb von 5 Minuten zu überprüfen, passt die Modellschwellenwerte an, um Fehlalarme während der Haupteinkaufszeiten zu reduzieren, und kommuniziert Vorautorisierungsregeln an die Kunden, um Unannehmlichkeiten zu minimieren.