Réglage du seuil
Définir des limites ou des valeurs limites dans les règles de décision de l'IA (par exemple, les scores de confiance) pour équilibrer les risques tels que les faux positifs par rapport aux faux négatifs.
Définition
Implique le choix de seuils de décision (seuils de confiance, de probabilité ou de score) qui déterminent quand une action automatisée est entreprise par rapport à quand un examen humain est requis. Les seuils sont fixés en fonction de la tolérance au risque, des analyses coûts-avantages et des préférences des parties prenantes. Les processus de gouvernance nécessitent que la définition de seuils soit documentée, testée au sein des sous-groupes et réétalonnée périodiquement en fonction de l'évolution des conditions, afin de garantir des compromis optimaux.
Exemple concret
Une IA de diagnostic médical signale les scans pour les recommandations de biopsie uniquement si son niveau de confiance dépasse 90 %, réduisant ainsi les fausses alarmes. Les scans avec un niveau de confiance de 70 à 90 % sont acheminés vers des radiologues pour examen. L'étalonnage trimestriel garantit que ces seuils maintiennent un taux cible de sous-diagnostic inférieur à 1 % et un taux de surdiagnostic inférieur à 5 %.
.svg)
