Contrôlabilité
La mesure dans laquelle les humains peuvent diriger, influencer ou annuler les décisions et les comportements d'un système d'IA.
Définition
Décrit le degré des points d'interaction entre l'homme et l'IA, des paramètres ajustables (par exemple, les seuils de risque) aux interrupteurs d'arrêt et aux modifications des flux de travail. Une contrôlabilité élevée est cruciale dans les domaines à enjeux élevés (santé, finances), afin de garantir que les opérateurs peuvent intervenir lorsque les résultats de l'IA entrent en conflit avec les politiques ou l'éthique.
Exemple concret
Dans un processus automatisé d'approbation des prêts, des contrôles sous-inscriptibles permettent aux responsables des risques d'ajuster manuellement les scores des demandes. Si l'IA recommande un refus mais qu'un agent identifie des circonstances atténuantes, il peut annuler la décision, déclenchant une entrée obligatoire dans le journal d'examen à des fins d'audit.
.svg)
