Glossaire
Mis à jour
Décrit le degré des points d'interaction entre l'humain et l'IA, allant des paramètres réglables (par exemple, les seuils de risque) aux boutons d'arrêt d'urgence et aux procédures de contournement. Un niveau élevé de contrôlabilité est crucial dans les secteurs à forts enjeux (santé, finance), garantissant que les opérateurs peuvent intervenir lorsque les résultats de l'IA entrent en conflit avec les politiques ou l'éthique de l'entreprise.
Exemple
Dans un pipeline automatisé d'approbation de prêt, des contrôles de souscription permettent aux analystes des risques d'ajuster manuellement les scores des demandes. Si l'IA recommande un refus mais qu'un analyste identifie des circonstances atténuantes, ce dernier peut outrepasser la décision, ce qui déclenche une entrée obligatoire dans le journal d'examen à des fins d'audit.