Dernière mise à jour :
Définir des seuils ou des valeurs limites dans les règles de décision de l'IA (par exemple, des scores de confiance) afin d'équilibrer les risques, tels que les faux positifs par rapport aux faux négatifs.
Cela implique de choisir des seuils de décision (seuils de confiance, de probabilité ou de score) qui déterminent le moment où une action automatisée est déclenchée par rapport au moment où une intervention humaine est requise. Ces seuils sont définis en fonction de la tolérance au risque, des analyses coûts-avantages et des préférences des parties prenantes. Les processus de gouvernance exigent que la définition de ces seuils soit documentée, testée sur différents sous-groupes et périodiquement recalibrée en fonction de l'évolution de la situation, afin de garantir des arbitrages optimaux.
Exemple concret :
Une IA de diagnostic médical ne signale les examens pour recommandation de biopsie que si son niveau de confiance dépasse 90 %, réduisant ainsi les fausses alertes. Les examens présentant un niveau de confiance situé entre 70 et 90 % sont orientés vers des radiologues pour examen. Un étalonnage trimestriel garantit que ces seuils maintiennent un taux cible de sous-diagnostic inférieur à 1 % et un taux de sur-diagnostic inférieur à 5 %.
