Dernière mise à jour :
Un mode de défaillance dans lequel une erreur ou une entrée malveillante au sein du raisonnement d'un agent d'IA déclenche une réaction en chaîne de défaillances à travers plusieurs systèmes ou agents connectés.
De nombreux agents d'entreprise fonctionnent désormais sous forme de systèmes multi-agents. Si l'Agent A accepte une entrée de données corrompue et transmet une étiquette de confiance à l'Agent B, l'erreur peut se propager en cascade à l'ensemble du flux de travail de l'entreprise. La gouvernance exige des barrières d'isolation entre les agents afin de garantir qu'une chaîne de raisonnement compromise ne puisse pas paralyser l'ensemble de l'écosystème.
Exemple concret :
Un auditeur d'IA accepte un faux reçu comme valide ; il transmet ce signal de réussite à un agent de paiement qui paie ensuite un fournisseur frauduleux - une défaillance en cascade qui entraîne une perte financière.
