Gouvernance
Ensemble de politiques, de procédures, de rôles et de responsabilités qui guident le développement et le déploiement éthiques, juridiques et efficaces des systèmes d'IA.
Définition
Discipline organisationnelle globale qui définit la manière dont les initiatives d'IA sont proposées, approuvées, développées, contrôlées et retirées. Il attribue clairement les responsabilités (responsables des données, propriétaires de modèles, responsables de la conformité), codifie les flux d'approbation, prescrit la documentation (analyses d'impact, journaux d'audit) et établit des boucles de feedback pour une amélioration continue, garantissant ainsi l'alignement de l'IA sur la stratégie de l'entreprise et les exigences réglementaires.
Exemple concret
Le bureau de gouvernance de l'IA d'une banque mondiale publie une politique exigeant que chaque nouveau modèle passe par plusieurs étapes : idéation, évaluation des risques, évaluation éthique, tests de sécurité et approbation par le conseil d'administration. Chaque étape comporte des rôles désignés et des listes de contrôle d'approbation, empêchant ainsi les déploiements d'IA non autorisés ou non conformes.
.svg)
