Last updated:
Nicht autorisierte, autonome KI-Agenten, die ohne das Wissen des Governance-Teams innerhalb einer Organisation bereitgestellt werden und in der Lage sind, Aktionen auszuführen, die sich auf Geschäftssysteme und externe Parteien auswirken.
Shadow Agents sind die agentische Weiterentwicklung von Shadow AI (Schatten-KI). Während unter Shadow AI typischerweise die Nutzung nicht autorisierter generativer Tools durch Mitarbeitende verstanden wird, handelt es sich bei Shadow Agents um autonome Systeme. Diese werden von einzelnen Entwicklern oder Teams in Geschäftsbereichen erstellt oder über eingebettete KI-Funktionen eingeschleust, um eigenständige Aktionen in der realen Welt auszuführen – wie das Versenden von E-Mails, das Abfragen von Datenbanken oder den Aufruf von APIs. Das Risiko ist qualitativ deutlich höher als bei Shadow AI, da die Aktionen von Agenten unumkehrbar sein und sich über mehrere Systeme hinweg potenzieren können.
Real world example:
Ein Kundensupport-Team erstellt einen Agenten auf Basis einer öffentlichen LLM-Plattform, um automatisch auf häufige Tickets zu antworten. Dem Agenten wird API-Zugriff auf das Support-System gewährt, woraufhin er autonom Rückerstattungen an Kunden veranlasst u2013 ohne dass ein Governance-Audit-Trail oder eine Eskalationslogik implementiert sind.
