Wenn ein KI-Modell fälschlicherweise eine positive Klasse für ein Beispiel prognostiziert, das in Wirklichkeit negativ ist (Typ-I-Fehler).
Ein Szenario, in dem das Modell harmlose Fälle als bösartig kennzeichnet – häufig in den Bereichen Sicherheit, Betrugserkennung oder medizinisches Screening. Hohe Falsch-Positiv-Raten können menschliche Prüfer überlasten, das Vertrauen untergraben und unnötige Kosten verursachen. Eine wirksame Governance erfordert die Überwachung der Präzision, die Festlegung akzeptabler Schwellenwerte sowie die Implementierung von Auslösern für die manuelle Prüfung, um Warnmeldungen effektiv zu bündeln oder zu priorisieren.
Eine KI zur Erkennung von Kreditkartenbetrug weist eine Falsch-Positiv-Rate von 10 % auf, d. h., dass 1 von 10 legitimen Transaktionen blockiert wird. Die Bank richtet ein Schnellreaktionsteam ein, um Falsch-Positive innerhalb von 5 Minuten zu prüfen, passt die Modellschwellenwerte an, um Fehlalarme während der Einkaufsspitzenzeiten zu reduzieren, und kommuniziert Vorautorisierungsregeln an Kundinnen und Kunden, um Unannehmlichkeiten zu minimieren.
