La mesure dans laquelle les humains peuvent diriger, influencer ou remplacer les décisions et les comportements d'un système d'intelligence artificielle.
Décrit le degré des points d’interaction entre l’humain et l’IA, allant des paramètres ajustables (par ex., seuils de risque) aux interrupteurs d’arrêt et aux flux de travail de dérogation. Un haut niveau de contrôlabilité est crucial dans les domaines à forts enjeux (santé, finance), afin de garantir que les opérateurs puissent intervenir lorsque les résultats de l’IA sont en conflit avec les politiques ou l’éthique.
Dans un pipeline automatisé d’approbation de prêts, des contrôles de souscription ajustables permettent aux responsables des risques d’ajuster manuellement les scores des demandes. Si l’IA recommande un refus, mais qu’un responsable identifie des circonstances atténuantes, il peut passer outre la décision, ce qui déclenche une entrée de journal de révision obligatoire à des fins d’audit.
