Last updated:
Cette pratique consiste à figer un système d'intelligence artificielle sur une version spécifique et testée d'un modèle de référence, afin de garantir la stabilité de son comportement et d'éviter toute modification imprévue liée à des mises à jour silencieuses.
Les fournisseurs de modèles de fondation publient fréquemment des mises à jour mineures qui peuvent subtilement modifier la manière dont un modèle raisonne ou suit les instructions. Dans le cadre de flux de travail d'agents autonomes, une légère modification de la logique du modèle peut rompre une chaîne de raisonnement ou contourner une barrière de sécurité. Le figeage de version garantit la stabilité du système et permet de traiter toute mise à niveau de modèle comme une modification substantielle nécessitant de nouveaux tests.
Real world example:
Une banque fige son outil de détection des fraudes basé sur des agents sur la version Model-v1.2 et refuse la mise à jour automatique du fournisseur vers Model-v1.3 tant que l'équipe de gestion des risques n'a pas vérifié que cette nouvelle version n'augmentera pas le taux de faux positifs.
