Tolérance zéro défaut
Un principe de gouvernance visant à éviter les erreurs ou les violations des politiques dans les résultats de l'IA, soutenu par des tests rigoureux, un suivi et des cycles d'amélioration continue.
Définition
Une attitude de « tolérance zéro » à l'égard des défauts (erreurs de précision, incidents biaisés, failles de sécurité) soutenue par des mesures de protection à plusieurs niveaux : suites de tests exhaustifs, surveillance en temps réel avec restauration automatique et analyse des causes premières pour détecter les anomalies, même mineures. La gouvernance fixe des SLA stricts (par exemple, un taux de réussite de 100 % aux tests d'assurance qualité critiques), impose la correction immédiate de tout défaut et favorise une culture d'amélioration continue afin de respecter les normes zéro défaut.
Exemple concret
Une IA financière qui autorise les transactions doit réussir un taux de réussite de 100 % aux tests de conformité avant chaque séance de négociation. Tout échec de test, aussi mineur soit-il, déclenche un arrêt automatique et un retour à la dernière version correcte connue, suivi d'un examen et d'une correction immédiate de l'incident avant la reprise des opérations.
.svg)
