Dernière mise à jour :
Le processus consistant à vérifier que les sous-actions planifiées par un agent d'IA restent conformes à l'objectif initial défini par l'utilisateur.
Dans une chaîne de raisonnement multi-étapes, un agent peut être sujet à une dérive d'objectif (Goal Drift). La validation de l'intention agit comme un double contrôle de sécurité qui évalue chaque étape intermédiaire au regard de la mission globale. Si le plan de l'agent implique une action qui ne s'aligne pas avec l'objectif initial (par exemple, tenter d'accéder aux données de paie lors de la recherche d'un vol), l'action est alors bloquée.
Exemple concret :
Un agent d'approvisionnement prévoit d'acheter 50 ordinateurs portables. Avant que l'API d'achat ne soit appelée, la couche de validation de l'intention confirme que l'achat d'ordinateurs portables correspond bien à l'instruction humaine initiale de réapprovisionner le matériel informatique.
