Cybersécurité
Pratique consistant à protéger les systèmes, les réseaux et les programmes contre les attaques numériques, essentielle pour protéger les systèmes d'IA contre les menaces.
Définition
Comprend la gestion des identités, la segmentation du réseau, le chiffrement, la détection des intrusions et la sécurisation des processus DevOps pour les pipelines d'IA. Les artefacts d'IA (modèles, données) nécessitent leurs propres contrôles de sécurité, par exemple le filigrane des modèles pour détecter le vol, l'hébergement des modèles cryptés pour empêcher toute falsification et la surveillance des injections de charge utile contradictoire.
Exemple concret
Un fournisseur d'IA du secteur de la santé sécurise son modèle de risque pour les patients en stockant les poids dans un HSM (module de sécurité matériel), en authentifiant tous les appels d'API via OAuth et en exécutant des analyses de vulnérabilité continues sur ses clusters Kubernetes, empêchant ainsi tout accès non autorisé ou toute modification malveillante du modèle.
.svg)
