Last updated:
Ein Fehlermodus, bei dem ein Fehler oder eine böswillige Eingabe im Denkprozess eines KI-Agenten eine Kettenreaktion von Ausfällen über mehrere verbundene Agenten oder Systeme hinweg auslöst.
Viele Unternehmens-Agenten agieren mittlerweile als Multi-Agenten-Systeme. Wenn Agent A eine manipulierte Dateneingabe akzeptiert und ein „Vertrauenswürdig“-Label an Agent B weitergibt, kann sich der Fehler wie ein Schneeball durch den gesamten Geschäftsworkflow fortpflanzen. Eine effektive Governance erfordert Isolationsbarrieren zwischen den Agenten, um sicherzustellen, dass eine kompromittierte Argumentationskette nicht das gesamte Ökosystem gefährdet.
Real world example:
Ein KI-Prüfer akzeptiert einen gefälschten Beleg als gültig; er leitet dieses Erfolgssignal an einen Zahlungsagenten weiter, der daraufhin einen betrügerischen Lieferanten bezahlt u2013 ein kaskadierender Fehler, der zu einem finanziellen Verlust führt.
