Glossaire
Mis à jour
Cela implique de choisir des seuils de décision (seuils de confiance, de probabilité ou de score) qui déterminent le moment où une action automatisée est déclenchée par rapport au moment où une intervention humaine est requise. Ces seuils sont définis en fonction de la tolérance au risque, des analyses coûts-avantages et des préférences des parties prenantes. Les processus de gouvernance exigent que la définition de ces seuils soit documentée, testée sur différents sous-groupes et périodiquement recalibrée en fonction de l'évolution de la situation, afin de garantir des arbitrages optimaux.
Exemple
Une IA de diagnostic médical ne signale les examens pour recommandation de biopsie que si son niveau de confiance dépasse 90 %, réduisant ainsi les fausses alertes. Les examens présentant un niveau de confiance situé entre 70 et 90 % sont orientés vers des radiologues pour examen. Un étalonnage trimestriel garantit que ces seuils maintiennent un taux cible de sous-diagnostic inférieur à 1 % et un taux de sur-diagnostic inférieur à 5 %.