Définir des limites ou des valeurs seuil dans les règles de décision de l'IA (par exemple, les scores de confiance) afin de trouver un équilibre entre les risques tels que les faux positifs et les faux négatifs.
Cela implique de définir des seuils de décision — niveaux de confiance, probabilités ou valeurs de score — qui déterminent à quel moment une action automatisée est déclenchée, par opposition au moment où une revue humaine est requise. Les seuils sont établis en fonction de la tolérance au risque, des analyses coûts-bénéfices et des préférences des parties prenantes. Les processus de gouvernance exigent que la définition des seuils soit documentée, testée sur différents sous-groupes et recalibrée périodiquement à mesure que les conditions évoluent, afin de garantir des arbitrages optimaux.
Une IA de diagnostic médical signale les examens en vue de recommandations de biopsie uniquement si son niveau de confiance dépasse 90 %, ce qui réduit les fausses alertes. Les examens présentant un niveau de confiance compris entre 70 et 90 % sont transmis aux radiologues pour examen. Un étalonnage trimestriel garantit que ces seuils maintiennent un taux cible de sous-diagnostic inférieur à 1 % et un taux de surdiagnostic inférieur à 5 %.
