Zuletzt aktualisiert am:
Ein Fehlermodus, bei dem ein Fehler oder eine böswillige Eingabe im Denkprozess eines einzelnen KI-Agenten eine Kettenreaktion von Ausfällen über mehrere verbundene Agenten oder Systeme hinweg auslöst.
Viele Unternehmens-Agenten agieren mittlerweile als Multi-Agenten-Systeme. Wenn Agent A eine manipulierte Dateneingabe akzeptiert und ein vertrauenswürdiges Label an Agent B weitergibt, kann sich dieser Fehler kaskadenartig durch den gesamten Geschäftsworkflow ziehen. Eine effektive Governance erfordert Isolationsbarrieren zwischen den Agenten, um sicherzustellen, dass eine kompromittierte Argumentationskette nicht das gesamte Ökosystem gefährdet.
Praxisbeispiel:
Ein KI-Auditor akzeptiert einen gefälschten Beleg als gültig; er leitet dieses Erfolgssignal an einen Zahlungsagenten weiter, der daraufhin einen betrügerischen Lieferanten bezahlt – ein Kaskadenfehler (Cascading Failure), der zu finanziellem Verlust führt.
