Zuletzt aktualisiert am:
Festlegung von Grenzwerten oder Schwellenwerten in KI-Entscheidungsregeln (z. B. Konfidenzwerten), um Risiken wie falsch-positive gegenüber falsch-negativen Ergebnissen abzuwägen.
Dies umfasst die Auswahl von Entscheidungsschwellenwerten – Konfidenz-, Wahrscheinlichkeits- oder Score-Grenzwerten –, die festlegen, wann eine automatisierte Aktion ausgeführt wird und wann eine menschliche Überprüfung erforderlich ist. Schwellenwerte werden auf der Grundlage von Risikotoleranz, Kosten-Nutzen-Analysen und den Präferenzen der Stakeholder festgelegt. Governance-Prozesse erfordern, dass die Festlegung von Schwellenwerten dokumentiert, über verschiedene Untergruppen hinweg getestet und bei veränderten Bedingungen regelmäßig neu kalibriert wird, um optimale Kompromisse zu gewährleisten.
Praxisbeispiel:
Eine KI für medizinische Diagnostik kennzeichnet Scans nur dann für eine Biopsie-Empfehlung, wenn ihre Konfidenz 90% übersteigt, wodurch Fehlalarme reduziert werden. Scans mit einer Konfidenz von 70–90% werden zur Überprüfung an Radiologen weitergeleitet. Eine vierteljährliche Kalibrierung stellt sicher, dass diese Schwellenwerte eine Ziel-Unterdiagnoserate von unter 1% und eine Überdiagnoserate von unter 5% einhalten.
