Autorité de veto
Droit officiel détenu par un organe de gouvernance ou une partie prenante de bloquer ou d'exiger des modifications des déploiements d'IA qui présentent des risques inacceptables.
Définition
Un mécanisme de gouvernance conférant à des rôles spécifiques (par exemple, président du comité d'éthique de l'IA, directeur des risques) le pouvoir d'arrêter ou d'exiger la modification de projets d'IA qui n'atteignent pas les seuils de risque ou d'éthique. Les décisions de veto sont enregistrées, justifiées par une justification documentée et déclenchent des plans d'action pour résoudre les problèmes identifiés avant toute nouvelle soumission.
Exemple concret
Le comité directeur de l'IA d'une banque de détail se réserve le droit de veto. Lorsqu'un modèle pilote de notation des clients présente une parité démographique inférieure au seuil acceptable, le comité exerce son veto, interrompant le déploiement jusqu'à ce que des mesures de correction des biais soient mises en œuvre et revalidées, garantissant ainsi qu'aucun modèle à haut risque ne soit mis en ligne sans l'approbation du comité.
.svg)
