Einstellung des Schwellenwerts
Definition von Grenzen oder Grenzwerten in KI-Entscheidungsregeln (z. B. Konfidenzwerte), um Risiken wie falsch positive und falsch negative Ergebnisse abzuwägen.
Definition
Dazu gehört die Auswahl von Schwellenwerten für Entscheidungen — Konfidenz, Wahrscheinlichkeit oder Punktegrenzwerte —, anhand derer festgelegt wird, wann eine automatisierte Maßnahme ergriffen wird und wann eine Überprüfung durch einen Menschen erforderlich ist. Schwellenwerte werden auf der Grundlage von Risikotoleranz, Kosten-Nutzen-Analysen und Präferenzen der Interessengruppen festgelegt. Bei Führungsprozessen muss die Festlegung von Schwellenwerten dokumentiert, untergruppenübergreifend getestet und regelmäßig neu kalibriert werden, wenn sich die Bedingungen ändern, um optimale Kompromisse zu gewährleisten.
Real-World Example
Eine KI für medizinische Diagnosen kennzeichnet Scans nur dann, wenn ihre Zuverlässigkeit über 90% liegt, und reduziert so Fehlalarme. Scans mit einer Sicherheit von 70— 90% werden zur Überprüfung an Radiologen weitergeleitet. Durch die vierteljährliche Kalibrierung wird sichergestellt, dass bei diesen Schwellenwerten die angestrebte Unterdiagnoserate unter 1% und die Überdiagnoserate unter 5% liegt.
.svg)
