Dernière mise à jour :
La mesure dans laquelle les utilisateurs peuvent diriger, influencer ou contourner les décisions et les comportements d'un système d'intelligence artificielle.
Décrit le degré des points d'interaction entre l'humain et l'IA, allant des paramètres réglables (par exemple, les seuils de risque) aux boutons d'arrêt d'urgence et aux procédures de contournement. Un niveau élevé de contrôlabilité est crucial dans les secteurs à forts enjeux (santé, finance), garantissant que les opérateurs peuvent intervenir lorsque les résultats de l'IA entrent en conflit avec les politiques ou l'éthique de l'entreprise.
Exemple concret :
Dans un pipeline automatisé d'approbation de prêt, des contrôles de souscription permettent aux analystes des risques d'ajuster manuellement les scores des demandes. Si l'IA recommande un refus mais qu'un analyste identifie des circonstances atténuantes, ce dernier peut outrepasser la décision, ce qui déclenche une entrée obligatoire dans le journal d'examen à des fins d'audit.
