Glossaire
Mis à jour
Dans une chaîne de raisonnement multi-étapes, un agent peut être sujet à une dérive d'objectif (Goal Drift). La validation de l'intention agit comme un double contrôle de sécurité qui évalue chaque étape intermédiaire au regard de la mission globale. Si le plan de l'agent implique une action qui ne s'aligne pas avec l'objectif initial (par exemple, tenter d'accéder aux données de paie lors de la recherche d'un vol), l'action est alors bloquée.
Exemple
Un agent d'approvisionnement prévoit d'acheter 50 ordinateurs portables. Avant que l'API d'achat ne soit appelée, la couche de validation de l'intention confirme que l'achat d'ordinateurs portables correspond bien à l'instruction humaine initiale de réapprovisionner le matériel informatique.