Détection des intrusions
Surveiller l'infrastructure et les applications d'IA pour détecter les activités malveillantes ou les violations des politiques, déclencher des alertes ou des réponses automatisées.
Définition
Étend la cybersécurité traditionnelle aux menaces spécifiques à l'IA : inversion de modèle, abus d'API, modèles d'inférence inhabituels. La gouvernance comprend le déploiement de systèmes IDS/IPS qui analysent les journaux, le trafic réseau et les mesures d'utilisation des modèles ; la définition de modes de réponse aux incidents ; et la réalisation de tests d'intrusion réguliers pour valider l'efficacité de la détection.
Exemple concret
Un service de machine learning basé sur le cloud intègre un IDS qui surveille les modèles anormaux, tels que de grands volumes de demandes d'inférence provenant d'une seule adresse IP (extraction potentielle de modèles). Lorsque les seuils sont dépassés, il limite automatiquement le trafic et informe l'équipe de sécurité pour enquête.
.svg)
