Zuletzt aktualisiert am:
Wenn ein KI-Modell fälschlicherweise eine positive Klasse für eine tatsächlich negative Instanz vorhersagt (Fehler 1. Art).
Ein Szenario, bei dem das Modell gutartige Fälle fälschlicherweise als bösartig eingestuft – ein häufiges Phänomen in den Bereichen Sicherheit, Betrugsprävention oder medizinische Screenings. Hohe Falsch-Positiv-Raten können die zuständigen Prüfer überlasten, das Vertrauen beeinträchtigen und unnötige Kosten verursachen. Eine effektive Governance erfordert die Überwachung der Präzision, die Definition akzeptabler Schwellenwerte sowie die Implementierung von Triggern für die menschliche Überprüfung, um Warnmeldungen effizient zu bündeln oder zu priorisieren.
Praxisbeispiel:
Eine KI zur Erkennung von Kreditkartenbetrug weist eine Falsch-Positiv-Rate von 10 % auf, was bedeutet, dass eine von zehn legitimen Transaktionen blockiert wird. Die Bank richtet ein schnelles Reaktionsteam ein, um fälschlicherweise blockierte Transaktionen innerhalb von 5 Minuten zu überprüfen, passt die Modellschwellenwerte an, um Fehlalarme während der Haupteinkaufszeiten zu reduzieren, und kommuniziert Vorautorisierungsregeln an die Kunden, um Unannehmlichkeiten zu minimieren.
