Dernière mise à jour :
Le risque que des informations sensibles ou confidentielles soient intégrées de manière permanente dans le jeu d'entraînement d'un modèle d'intelligence artificielle lors de l'interaction avec un utilisateur.
Il s'agit d'un risque majeur lié à l'utilisation d'IA non autorisées. Si les conditions générales d'un fournisseur lui permettent d'utiliser les requêtes (prompts) pour améliorer ses modèles, toute donnée saisie est alors intégrée aux connaissances paramétriques du modèle. Contrairement à un fichier stocké sur un serveur, ces données ne peuvent pas être supprimées via les procédures informatiques standards une fois le cycle d'apprentissage terminé, ce qui entraîne un risque de fuite de propriété intellectuelle à long terme.
Exemple concret :
Un ingénieur colle du code source propriétaire dans un outil d'intelligence artificielle public afin de le déboguer. Le code est assimilé et utilisé pour entraîner la version suivante du modèle, ce qui pourrait potentiellement permettre à des concurrents d'obtenir une logique similaire lors de futures requêtes adressées à l'IA.
