Last updated:
Une vulnérabilité par laquelle un système d'IA se voit accorder une autonomie excessive, un nombre trop important d'outils ou des accès surprivilégiés par rapport à sa fonction initiale.
L'excès d'autonomie (Excessive Agency - LLM06:2025) est le principal catalyseur du détournement d'outils (ASI02 - Tool Misuse). Ce phénomène se produit lorsque les développeurs accordent aux agents un accès élargi aux API ou aux bases de données « au cas où », permettant ainsi à un agent piraté d'exécuter des actions destructrices — telles que la suppression de données de production — qui ne relevaient pas de sa mission initiale.
Real world example:
Un agent conversationnel RH interne dispose d'un accès en écriture à l'ensemble de la base de données des employés ; un attaquant utilise une injection de prompt pour inciter le bot à supprimer les dossiers de l'équipe de direction.
