Last updated:
Le processus consistant à vérifier que les sous-actions planifiées par un agent d'IA restent conformes à l'objectif initial défini par l'utilisateur.
Dans une chaîne de raisonnement multi-étapes, un agent peut subir une dérive d'objectif. La validation d'intention agit comme un contrôle de cohérence secondaire qui évalue chaque étape intermédiaire au regard de la mission globale. Si le plan de l'agent implique une action qui ne s'aligne pas avec l'objectif initial (par exemple, tenter d'accéder aux données de paie lors de la recherche d'un vol), l'action est bloquée.
Real world example:
Un agent d'approvisionnement prévoit d'acheter 50 ordinateurs portables. Avant l'appel de l'API d'achat, la couche de validation de l'intention confirme que l'« Achat d'ordinateurs portables » correspond bien à l'instruction humaine initiale de « Réapprovisionner le matériel informatique ».
