Zuletzt aktualisiert am:
Nicht autorisierte, autonome KI-Agenten, die ohne das Wissen des Governance-Teams in einer Organisation eingesetzt werden und in der Lage sind, Aktionen durchzuführen, die sich auf Geschäftssysteme und externe Parteien auswirken.
Shadow-Agents sind die agentische Weiterentwicklung von Shadow-AI. Während Shadow-AI typischerweise die Nutzung nicht genehmigter generativer Tools durch Mitarbeiter beschreibt, handelt es sich bei Shadow-Agents um autonome Systeme – erstellt von einzelnen Entwicklern, Teams in Geschäftsbereichen oder eingeschleust über integrierte KI-Funktionen –, die reale Aktionen wie das Senden von E-Mails, das Abfragen von Datenbanken oder das Aufrufen von APIs ausführen. Das Risiko ist qualitativ deutlich höher als bei Shadow-AI, da die Aktionen von Agenten unumkehrbar sein und sich über verschiedene Systeme hinweg potenzieren können.
Praxisbeispiel:
Ein Kundensupport-Team erstellt einen Agenten auf Basis einer öffentlichen LLM-Plattform, um automatisch auf häufige Tickets zu antworten. Der Agent erhält API-Zugriff auf das Support-System und beginnt mit der autonomen Rückerstattung an Kunden – ohne dass ein Governance-Audit-Trail oder eine Eskalationslogik eingerichtet ist.
