Évaluation de la vulnérabilité
Identifier, analyser et hiérarchiser les faiblesses de sécurité de l'infrastructure et des applications d'IA afin de guider les efforts de remédiation.
Définition
Un programme systématique comprenant des analyses de vulnérabilité automatisées des bases de code et des dépendances, des tests d'intrusion des API et de l'infrastructure, des tests contradictoires des points de terminaison des modèles et des ateliers de modélisation des menaces. Les résultats sont évalués en fonction de leur gravité et de leur probabilité, enregistrés dans un carnet de mesures correctives et vérifiés par de nouveaux tests. La gouvernance définit la fréquence des évaluations, les rôles (équipe de sécurité, ingénieurs ML) et le SLA pour corriger les vulnérabilités critiques.
Exemple concret
Un moteur de recommandation basé sur le cloud fait l'objet d'une évaluation trimestrielle des vulnérabilités : les scanners de code détectent les versions obsolètes des bibliothèques, les testeurs de stylos simulent les abus d'API et les tests contradictoires de modèles révèlent un risque d'injection. Tous les problèmes graves sont résolus dans les 30 jours, et de nouveaux tests confirment la fermeture, ce qui garantit que la plateforme d'IA maintient une solide posture de sécurité.
.svg)
