Gouvernance des cas d'utilisation
Pratique qui consiste à définir, approuver et surveiller des cas d'utilisation spécifiques de l'IA afin de s'assurer que chacun est conforme aux politiques organisationnelles, aux normes éthiques et à la propension au risque.
Définition
Une couche de gouvernance qui traite chaque déploiement d'IA comme un « cas d'utilisation » distinct, nécessitant un formulaire d'admission standardisé capturant les objectifs, les sources de données, les évaluations d'impact et les évaluations des risques. Les cas d'utilisation approuvés sont catalogués, revus périodiquement pour garantir une conformité continue et sont annulés lorsque les objectifs changent. La gouvernance garantit que les cas d'utilisation nouveaux ou modifiés font l'objet d'évaluations d'impact et de risques avant tout déploiement en production.
Exemple concret
Le bureau de gouvernance de l'IA d'un fournisseur de soins de santé exige que chaque cas d'utilisation proposé (par exemple, prédiction de réadmission, analyse d'images) complète un modèle de cas d'utilisation. Ils examinent chaque modèle pour confirmer la confidentialité des données, les plans d'atténuation des biais et les approbations des niveaux de risque. Le bureau suit l'état de chaque cas d'utilisation tous les trimestres, en retirant ceux qui ne sont plus concernés.
.svg)
