Last updated:
Un mode de défaillance par lequel une erreur ou une entrée malveillante dans le raisonnement d'un agent d'IA déclenche une réaction en chaîne de défaillances sur plusieurs agents ou systèmes connectés.
De nombreux agents d'entreprise opèrent désormais sous forme de systèmes multi-agents. Si l'Agent A accepte une entrée de données corrompue et transmet une étiquette de confiance à l'Agent B, l'erreur peut se propager en cascade dans l'ensemble du flux de travail de l'entreprise. La gouvernance exige des barrières d'isolation entre les agents afin de garantir qu'une chaîne de raisonnement compromise ne puisse pas paralyser l'ensemble de l'écosystème.
Real world example:
Un auditeur d'IA accepte un faux reçu comme valide ; il transmet ce signal de réussite à un agent de paiement qui paie ensuite un fournisseur frauduleux - une défaillance en cascade qui entraîne une perte financière.
