Glossar
Aktualisiert
Dies umfasst die Auswahl von Entscheidungsschwellenwerten (Konfidenz-, Wahrscheinlichkeits- oder Score-Grenzwerte), die festlegen, wann eine automatisierte Aktion ausgeführt wird und wann eine menschliche Überprüfung erforderlich ist. Schwellenwerte werden auf der Grundlage von Risikotoleranz, Kosten-Nutzen-Analysen und den Präferenzen der Stakeholder festgelegt. Governance-Prozesse erfordern, dass die Festlegung von Schwellenwerten dokumentiert, über verschiedene Untergruppen hinweg getestet und bei veränderten Bedingungen regelmäßig neu kalibriert wird, um optimale Kompromisse zu gewährleisten.
Beispiel
Eine KI für medizinische Diagnostik kennzeichnet Scans nur dann für eine Biopsie-Empfehlung, wenn ihre Konfidenz 90% übersteigt, wodurch Fehlalarme reduziert werden. Scans mit einer Konfidenz von 70–90% werden zur Überprüfung an Radiologen weitergeleitet. Eine vierteljährliche Kalibrierung stellt sicher, dass diese Schwellenwerte eine Ziel-Unterdiagnoserate von unter 1% und eine Überdiagnoserate von unter 5% einhalten.