Glossaire
Mis à jour
Des modifications délibérées et souvent imperceptibles de données d'entrée telles que des images, des textes ou des fichiers audio, qui exploitent les vulnérabilités des frontières de décision d'un modèle d'IA. Ces attaques mettent en évidence les faiblesses des systèmes de type boîte noire et soulignent la nécessité de défenses proactives : l'entraînement contradictoire (injection d'exemples optimisés lors de l'entraînement), les couches d'assainissement des entrées, ainsi que des tests d'intrusion réguliers menés par des équipes d'attaquants (« red-teaming »).
Exemple
Des chercheurs en sécurité apposent de minuscules autocollants astucieusement conçus sur un panneau d'arrêt, de sorte que le système de vision d'un véhicule autonome l'interprète de manière erronée comme une limitation de vitesse à 45. Le constructeur automobile réagit en intégrant des détecteurs d'exemples contradictoires et en renforçant le modèle grâce à un prétraitement aléatoire des données d'entrée.