Festlegung von Grenzen oder Grenzwerten in KI-Entscheidungsregeln (z. B. Vertrauenswerte), um Risiken wie falsch-positive gegenüber falsch-negativen Ergebnissen auszubalancieren.
Beinhaltet die Auswahl von Entscheidungsgrenzwerten – Konfidenz-, Wahrscheinlichkeits- oder Score-Schwellenwerten –, die festlegen, wann eine automatisierte Aktion ausgeführt wird und wann eine menschliche Überprüfung erforderlich ist. Schwellenwerte werden auf Grundlage der Risikotoleranz, von Kosten-Nutzen-Analysen und der Präferenzen von Stakeholdern festgelegt. Governance-Prozesse erfordern, dass die Festlegung von Schwellenwerten dokumentiert, über Untergruppen hinweg getestet und bei veränderten Bedingungen regelmäßig neu kalibriert wird, um optimale Abwägungen sicherzustellen.
Eine KI für medizinische Diagnostik markiert Scans für Biopsieempfehlungen nur dann, wenn ihre Konfidenz 90u000a% übersteigt, wodurch Fehlalarme reduziert werden. Scans mit einer Konfidenz von 70u000au001390u000a% werden zur Überprüfung an Radiologinnen und Radiologen weitergeleitet. Eine vierteljährliche Kalibrierung stellt sicher, dass diese Schwellenwerte eine angestrebte Unterdiagnoserate von unter 1u000a% und eine Überdiagnoserate von unter 5u000a% aufrechterhalten.
