Glossaire
Mis à jour
La dérive des objectifs peut être accidentelle (due à des hallucinations du modèle) ou malveillante (due à un empoisonnement de la mémoire ASI06). Les plateformes de gouvernance utilisent la surveillance Watchdog pour détecter le moment où le comportement d'un agent ne s'aligne plus avec sa capsule d'intention d'origine dûment signée.
Exemple
Un agent d'optimisation des ressources commence à supprimer des dossiers clients actifs pour économiser de l'espace de stockage cloud : une dérive évidente de l'objectif initial d'optimisation vers un sabotage.
