Shadow AI ist bereits in jeder großen Organisation vorhanden. Gerade jetzt tippt irgendwo in Ihrem Unternehmen ein Mitarbeiter vertrauliche Vertragsklauseln in ChatGPT ein. Ein Produktmanager speist Kundendaten in ein KI-Zusammenfassungstool ein. Ein Finanzanalyst verwendet ein Copilot-Plugin, das niemand in der IT genehmigt, geschult oder auch nur kennt. All dies ist nicht hypothetisch. Eine Studie von Salesforce aus dem Jahr 2024 ergab, dass mehr als die Hälfte der generativen KI-Nutzer bei der Arbeit Tools verwendete, die ihr Arbeitgeber nicht freigegeben hatte [1]. Schätzungen zufolge liegt die tatsächliche Zahl sogar deutlich höher, da die Natur nicht genehmigter Nutzung eine Messung erschwert.

Dieses Phänomen – Mitarbeitende, die KI-Tools außerhalb der Sicht von IT-, Sicherheits- und Compliance-Teams einsetzen – hat einen Namen erhalten, der von seinem Vorgängerproblem übernommen wurde: Shadow AI. Doch obwohl der Begriff an das vertraute Konzept von Shadow IT erinnert, sind die damit verbundenen Risiken wesentlich anders, die regulatorischen Anforderungen höher, und das Zeitfenster, Governance richtig aufzusetzen, schließt sich rasch.

Wie Shadow AI in der Praxis aussieht

Die erste Herausforderung bei der Steuerung von Shadow AI besteht darin, zu erkennen, wie allgegenwärtig und vielfältig es geworden ist. Die sichtbarste Form ist die direkte Nutzung von KI-Diensten für Endanwender: ChatGPT, Google Gemini, Anthropic's Claude, Perplexity und Dutzende kleinerer Tools. Mitarbeitende registrieren sich mit privaten E-Mail-Adressen, nutzen kostenlose Tarife und beginnen innerhalb weniger Minuten mit der Verarbeitung von Arbeitsdaten. Es wird kein Beschaffungsprozess ausgelöst. Es findet keine Sicherheitsprüfung statt.

Doch die direkte Nutzung ist nur eine Ebene. KI-Funktionen sind mittlerweile in Tools eingebettet, für die Unternehmen bereits bezahlen. Notion, Canva, Grammarly, Slack, Zoom, Microsoft 365 und Google Workspace liefern alle KI-Funktionen aus, die automatisch oder mit einem einzigen Klick aktiviert werden. Wenn ein Mitglied des Marketingteams den KI-Bildgenerator von Canva verwendet oder ein Vertriebsmitarbeiter bei einer Zoom-Aufzeichnung auf „KI-Zusammenfassung“ klickt, setzen sie KI-Modelle mit Unternehmensdaten ein – oft ohne überhaupt zu erkennen, dass dies eine KI-Nutzung darstellt.

Eine dritte Ebene umfasst Browser-Erweiterungen und Plugins. Der Chrome Web Store und ähnliche Marktplätze hosten Tausende von KI-gestützten Erweiterungen für Schreibunterstützung, E-Mail-Entwürfe, Datenextraktion und Codegenerierung. Diese Erweiterungen können Seiteninhalte lesen, Formulardaten abfangen und Informationen an externe Server übertragen. Die meisten Organisationen verfügen über kein Inventar der von ihren Mitarbeitenden installierten Erweiterungen.

Die kumulative Wirkung ist eine Organisation, die Dutzende oder Hunderte von KI-Systemen betreibt, die ihre Funktionen für Governance, Risiko und Compliance weder sehen, noch bewerten, noch kontrollieren können.

Warum Shadow AI nicht einfach Shadow IT unter einem anderen Namen ist

Es wäre verlockend, Shadow AI als Unterkategorie des Shadow-IT-Problems zu betrachten, das Sicherheitsteams seit Jahren managen. Schließlich ist das Muster ähnlich: Mitarbeitende führen Technologie ein, schneller als Governance Schritt halten kann. Doch das Risikoprofil unterscheidet sich in mehreren entscheidenden Punkten.

Datenpersistenz und Modelltraining

Wenn ein Mitarbeiter ein Dokument in einen nicht genehmigten File-Sharing-Dienst hochlädt, liegt das Datenrisiko in der Eindämmung: Wer kann auf diese Datei zugreifen, und kann sie gelöscht werden? Bei vielen KI-Diensten reicht das Risiko weiter. Je nach Nutzungsbedingungen des Anbieters und dem konkreten Tarif, den ein Mitarbeiter verwendet, können Eingabedaten zum Trainieren oder Feinjustieren von Modellen verwendet werden [2]. Sobald Daten in eine Trainingspipeline gelangen, gibt es keinen Mechanismus zur Rückholung. Die Informationen werden Teil des parametrischen Wissens des Modells und verteilen sich über Milliarden von Gewichten. Herkömmliche Maßnahmen zur Verhinderung von Datenverlust setzen voraus, dass Daten lokalisiert und entfernt werden können. Bei der Aufnahme in KI-Trainingsprozesse trifft diese Annahme nicht zu.

Ausgaberisiko

Shadow IT umfasst typischerweise Tools, die Daten speichern, verschieben oder anzeigen. KI-Tools erzeugen neue Inhalte, und diese Inhalte können falsch sein. Wenn ein Mitarbeiter ein nicht genehmigtes KI-Tool nutzt, um einen regulatorischen Bericht zu entwerfen, einen juristischen Vertrag zusammenzufassen oder Finanzprognosen zu erstellen, können halluzinierte Ausgaben in formelle Geschäftsentscheidungen einfließen. Das Unternehmen trägt die Verantwortung für Ausgaben, von denen es nicht wusste, dass sie KI-generiert waren, erstellt von Tools, von denen es nicht wusste, dass sie im Einsatz waren.

Bias- und Diskriminierungsrisiko

KI-Systeme können Ausgaben erzeugen, die auf der Grundlage geschützter Merkmale diskriminieren. Wenn ein HR-Team ein nicht freigegebenes KI-Tool verwendet, um Lebensläufe zu sichten oder Stellenbeschreibungen zu entwerfen, kann das Unternehmen Voreingenommenheit in Beschäftigungsentscheidungen einführen, ohne jeglichen Prüfpfad. Die Haftung trifft das Unternehmen unabhängig davon, ob irgendjemand die Nutzung des Tools autorisiert hat.

Tempo der Einführung

Klassisches Shadow IT verbreitete sich im Tempo von Software-Downloads und Kontoerstellungen. Shadow AI verbreitet sich im Tempo eines Browser-Tabs. Viele KI-Tools erfordern keine Installation, kein Konto und keine Zahlung. Ein Mitarbeiter kann in weniger als sechzig Sekunden von der Neugier zur Verarbeitung sensibler Daten gelangen.

Shadow AI erweitert das Shadow-IT-Problem nicht nur. Es führt eine qualitativ andere Risikokategorie ein, die eine eigene Governance-Reaktion erfordert.

Die regulatorische Notwendigkeit von Transparenz

Selbst Organisationen, die ein gewisses Maß an nicht verwaltbarem Technologierisiko akzeptieren, stellen fest, dass Regulierung inzwischen einen höheren Standard an KI-Transparenz verlangt.

Der EU AI Act, der ab 2024 stufenweise anwendbar wurde, legt sowohl Anbietern als auch Betreibern von KI-Systemen Pflichten auf [3]. Anbieter müssen Systeme nach Risikostufen klassifizieren und die Einhaltung der Artikel 9 bis 15 für Hochrisikosysteme sicherstellen. Betreiber von Hochrisiko-KI-Systemen tragen eigene Pflichten nach Artikel 26 – darunter die Nutzung der Systeme gemäß den Anweisungen des Anbieters, die Zuweisung menschlicher Aufsicht, die Aufbewahrung von Protokollen und die Meldung von Vorfällen. Selbst Betreiber von Systemen mit geringerem Risiko unterliegen Transparenzpflichten nach Artikel 50. Keine dieser Verpflichtungen kann für Systeme erfüllt werden, die außerhalb des Wissens der Organisation existieren.

ISO/IEC 42001, der internationale Standard für KI-Managementsysteme, macht ein KI-Inventar zu einer grundlegenden Anforderung [4]. Eine Organisation kann nicht behaupten, dem Standard zu entsprechen, wenn sie KI-Systeme betreibt, die nicht identifiziert, bewertet oder dokumentiert wurden.

In den Vereinigten Staaten betont das NIST AI Risk Management Framework ebenfalls die Notwendigkeit, KI-Systeme zu „mappen“, als Voraussetzung für das Management ihrer Risiken [5]. Exekutivverordnungen und branchenspezifische Leitlinien von Regulierungsbehörden in den Bereichen Finanzdienstleistungen, Gesundheitswesen und staatliche Auftragsvergabe nähern sich derselben Erwartung an: Organisationen müssen wissen, welche KI sie nutzen.

Die regulatorische Logik ist eindeutig. Risikoklassifizierung ist ohne Erfassung bedeutungslos. Compliance-Pflichten können auf unsichtbare Systeme nicht angewendet werden. Eine Organisation, die kein Inventar ihrer KI-Nutzung vorlegen kann, ist nicht nur unreguliert – sie ist nicht governable. Plattformen wie Enzai existieren genau, um diese Lücke zu schließen, indem sie die kontinuierlichen Erkennungs- und Klassifizierungsfunktionen bereitstellen, die Regulierung inzwischen verlangt.

Erkennen, was Sie nicht wissen

Zu akzeptieren, dass Shadow AI Governance erfordert, ist der leichtere Schritt. Der schwierigere ist, es zu finden. Eine wirksame Erkennung erfordert mehrere ergänzende Methoden, da keine einzelne Technik vollständige Transparenz bietet.

Analyse von Netzwerkverkehr und DNS

KI-Dienste erzeugen charakteristische Muster im Netzwerkverkehr. Die Überwachung von DNS-Abfragen und HTTP/HTTPS-Verkehr auf Verbindungen zu bekannten KI-Domains (api.openai.com, generativelanguage.googleapis.com, api.anthropic.com und so weiter) liefert eine Basisansicht darüber, welche Dienste Mitarbeitende erreichen. Diese Methode ist für die direkte Nutzung von Verbraucher-KI effektiv, jedoch weniger für in genehmigte SaaS-Tools eingebettete KI, bei denen API-Aufrufe serverseitig erfolgen können.

Analyse von SSO- und Authentifizierungsprotokollen

Viele KI-Dienste unterstützen Single Sign-on. Selbst wenn Mitarbeitende private Konten verwenden, können Authentifizierungsprotokolle von Identitätsanbietern OAuth-Zustimmungen für KI-Dienste offenlegen. Die Prüfung von OAuth-Anwendungsberechtigungen, die über Google Workspace oder Microsoft Entra ID erteilt wurden, bringt häufig KI-Tools ans Licht, die Mitarbeitende mit Unternehmenskonten verbunden haben.

Beschaffungs- und Spesenprüfung

Einige Shadow-AI-Nutzungen hinterlassen eine finanzielle Spur. Mitarbeitende oder Verantwortliche für Abteilungsbudgets können Abonnements für KI-Tools abrechnen, Premium-Tarife mit Unternehmenskreditkarten kaufen oder Rechnungen für KI-Dienste einreichen. Eine gezielte Prüfung von Spesenabrechnungen und Beschaffungsunterlagen, insbesondere mit Blick auf bekannte Namen von KI-Anbietern, kann bezahlte Nutzung identifizieren, die den formalen Beschaffungsprozess umgangen hat.

Mitarbeitenden-Programme zur Offenlegung

Technische Ermittlungsmethoden werden stets blinde Flecken haben. Freiwillige Offenlegungsprogramme, bei denen Mitarbeitende eingeladen werden, die von ihnen genutzten KI-Tools ohne Angst vor Sanktionen zu melden, schließen Lücken, die Monitoring nicht erreichen kann. Das Design dieser Programme ist entscheidend: Wenn Mitarbeitende disziplinarische Maßnahmen befürchten, bleiben die Offenlegungsraten minimal. Wenn die Initiative als Inventarisierungsmaßnahme und nicht als Durchsetzungsaktion positioniert wird, erzielt sie bessere Ergebnisse.

Audits von Browser-Erweiterungen

Für Organisationen mit verwalteten Endgeräten oder Endpoint-Management-Plattformen bietet das Audit installierter Browser-Erweiterungen Transparenz über KI-gestützte Plugins. Viele Endpoint-Detection-and-Response-Tools können Erweiterungen auflisten. Der Abgleich installierter Erweiterungen mit einer Datenbank bekannter KI-gestützter Tools identifiziert Schattennutzung, die keinen Netzwerkverkehr zu offensichtlich mit KI verbundenen Domains erzeugt.

Analyse von API-Verkehr und Datenflüssen

Reifere Organisationen können API-Gateways und Data-Loss-Prevention-Tools instrumentieren, um Muster zu erkennen, die mit der Nutzung von KI-Diensten übereinstimmen: große Textlasten, die an externe Endpunkte gesendet werden, Antworten mit Kennzeichen generierter Inhalte oder Verkehr zu IP-Bereichen, die großen KI-Anbietern zugeordnet sind. Dieser Ansatz erfordert Investitionen, erfasst jedoch Nutzung, die einfachere Methoden übersehen.

Kein Erkennungsprogramm sollte sich auf nur eine Methode verlassen. Die wirksamsten Ansätze kombinieren mehrere Techniken und betrachten Erkennung als kontinuierlichen Prozess und nicht als einmaliges Audit. Eine KI-Governance-Plattform wie Enzai kann diese mehrschichtige Erkennung automatisieren und Signale aus Netzwerk-, Identitäts-, Beschaffungs- und Endpoint-Daten korrelieren, um ein lebendes Inventar zu pflegen.

Shadow-AI-Governance ohne Verbote

Erkennung ist notwendig, aber nicht hinreichend. Die anschließende Frage lautet, was mit den Ergebnissen zu tun ist, und genau hier machen viele Organisationen einen strategischen Fehler. Angesichts des Ausmaßes nicht genehmigter KI-Nutzung ist der Reflex, zu verbieten: Domains zu blockieren, Zugriffe zu entziehen, pauschale Verbote auszusprechen. Dieser Ansatz scheitert aus drei Gründen.

Erstens treibt Verbotslogik die Nutzung weiter in den Untergrund. Mitarbeitende, die KI-Tools als wirklich nützlich empfinden, werden Umgehungswege finden – private Geräte, mobile Hotspots, Heimnetzwerke. Das Ergebnis ist weniger Transparenz, nicht weniger Nutzung.

Zweitens sind pauschale Verbote mit Wettbewerbsnachteilen verbunden. Organisationen, die Mitarbeitenden die Nutzung von KI-Tools verwehren, verzichten auf Produktivitätsgewinne, die ihre Wettbewerber realisieren. McKinsey schätzte 2023, dass generative KI jährlich zwischen 2,6 Billionen und 4,4 Billionen US-Dollar zu den globalen Unternehmensgewinnen über alle Branchen hinweg beitragen könnte [6]. Auf diesen Wert zu verzichten, ist selbst ein Risiko.

Drittens signalisiert ein Verbot den Mitarbeitenden, dass die Organisation KI eher als Bedrohung denn als Fähigkeit betrachtet, was den kulturellen Boden vergiftet, der langfristig für eine verantwortungsvolle KI-Einführung erforderlich ist.

Die Alternative ist eine strukturierte Governance, die die Nutzung von KI lenkt, anstatt sie zu blockieren.

Amnestie und Baseline

Ein wirksamer Ausgangspunkt ist eine zeitlich begrenzte Amnestiephase, in der Mitarbeitende aufgefordert werden, alle derzeit genutzten KI-Tools offenzulegen, mit der ausdrücklichen Zusicherung, dass keine disziplinarischen Konsequenzen folgen. Dadurch entsteht eine umfassende Baseline, die technische Erkennung allein nicht erreichen kann. Die Amnestie sollte mit einer klaren Kommunikation verbunden werden, dass nach Ablauf der Frist nicht offengelegte Nutzung als Richtlinienverstoß behandelt wird.

Richtlinien zur zulässigen Nutzung

Anstelle einer binären Unterscheidung zwischen genehmigt und verboten entwickeln reifere Organisationen Richtlinien zur zulässigen Nutzung, die Kategorien der KI-Nutzung definieren: Welche Datenklassifizierungen mit KI-Tools verarbeitet werden dürfen, welche Arten von Ausgaben vor der Verwendung einer menschlichen Prüfung bedürfen und welche Offenlegungspflichten gelten, wenn KI-generierte Inhalte in formellen Lieferobjekten verwendet werden.

Genehmigte Tool-Listen und der Paved Road

Das aus dem Platform Engineering entlehnte Konzept des „Paved Road“ ist für Shadow-AI-Governance besonders wirksam. Anstatt Barrieren zu errichten, baut die Organisation einen gut beleuchteten, gut gepflegten Weg, der leichter zu befolgen ist als die Alternative. Das bedeutet, genehmigte KI-Tools bereitzustellen, die Sicherheits- und Compliance-Anforderungen erfüllen, mit geeigneten Einstellungen für den Umgang mit Daten vorkonfiguriert, in die Unternehmensidentität integriert sowie durch Schulungen und Dokumentation unterstützt sind. Wenn die genehmigte Option tatsächlich gut ist, sinkt der Anreiz, nicht genehmigte Alternativen zu suchen.

Abgeschirmte Umgebungen

Für Experimente mit neuen KI-Tools oder Funktionen, die noch nicht auf der Freigabeliste stehen, können Organisationen abgeschirmte Umgebungen bereitstellen, in denen Mitarbeitende Tools mit synthetischen oder nicht sensiblen Daten testen können. So bleibt der Innovationsvorteil der Erkundung erhalten, während das Datenrisiko begrenzt wird.

Kontinuierliche Überprüfung und Feedback

Governance-Frameworks, die statisch bleiben, werden zu Hindernissen. Die Einführung eines regelmäßigen Rhythmus für die Überprüfung und Aktualisierung der genehmigten Tool-Liste, die Einbeziehung von Mitarbeitenden-Feedback und die Bewertung neuer Tools stellt sicher, dass sich das Governance-Framework in etwa mit dem Tempo der KI-Entwicklung weiterentwickelt.

Das Ziel besteht nicht darin, jedes Risiko aus der KI-Nutzung zu eliminieren, sondern den gouvernierten Weg so klar überlegen zu machen, dass ungesteuerte Nutzung überflüssig wird.

Einen nachhaltigen Erkennungsprozess aufbauen

Einmalige Erkennungsmaßnahmen liefern nur eine Momentaufnahme. Shadow AI ist ein kontinuierliches Phänomen – wöchentlich erscheinen neue Tools, bestehende Tools ergänzen KI-Funktionen, Mitarbeitende wechseln Rollen und übernehmen neue Arbeitsabläufe. Ein nachhaltiger Erkennungsprozess muss kontinuierlich sein und in umfassendere organisatorische Prozesse integriert werden.

Integration in die Beschaffung

Die Erkennung von KI sollte in Beschaffungsprozesse eingebettet werden. Jede Bewertung eines neuen SaaS-Tools sollte eine Prüfung eingebetteter KI-Funktionen, des Datenhandlings für KI-Funktionen und der Richtlinien zum Modelltraining umfassen. Beschaffungsteams benötigen Schulungen und Checklisten, um die richtigen Fragen zu stellen, da Anbieter KI-Funktionen in ihren Vertriebsunterlagen nicht immer hervorheben.

Integration in Onboarding und Rollenwechsel

Neue Mitarbeitende bringen KI-Gewohnheiten von früheren Arbeitgebern mit. Onboarding-Prozesse sollten einen Schritt zur Offenlegung der KI-Nutzung und eine Einführung in das KI-Governance-Framework sowie die genehmigten Tools der Organisation umfassen. Ebenso sollten bei Rollenwechseln, durch die Mitarbeitende Zugang zu neuen Datenklassifizierungen erhalten, ihre Berechtigungen für KI-Tools überprüft werden.

Change Management, nicht nur Compliance

Nachhaltige Shadow-AI-Governance erfordert kulturellen Wandel, nicht nur die Durchsetzung von Richtlinien. Mitarbeitende müssen verstehen, warum KI-Governance existiert – nicht als bürokratischer Mehraufwand, sondern als Schutz für die Organisation, ihre Kunden und sie selbst. Schulungsprogramme sollten praxisnah, szenariobasiert und regelmäßig aktualisiert sein, um die sich wandelnde Tool-Landschaft abzubilden.

Kennzahlen und Berichterstattung

Was gemessen wird, wird gesteuert. Organisationen sollten die Shadow-AI-Erkennungsraten im Zeitverlauf, die Zeit bis zur Governance neu entdeckter Tools, die Zufriedenheit der Mitarbeitenden mit genehmigten KI-Tools und das Volumen von Anträgen auf Richtlinienausnahmen erfassen. Diese Kennzahlen liefern frühzeitig Warnsignale, wenn die Governance der Einführung hinterherhinkt und wenn genehmigte Tools die Bedürfnisse der Mitarbeitenden nicht erfüllen.

Verantwortung der Führungsebene

Shadow-AI-Governance kann nicht ausschließlich in IT oder Informationssicherheit verankert sein. Sie erfordert ein Mandat der Führungsebene, idealerweise durch einen Chief AI Officer oder eine vergleichbare Funktion, mit klarer Verantwortlichkeit für die Vollständigkeit des KI-Inventars und die Abdeckung der Governance. Berichterstattung auf Vorstandsebene zur Governance-Position bei KI wird bei Organisationen, die das Risiko ernst nehmen, zunehmend zum Standard.

Ein Erkennungsprozess, der kontinuierlich, integriert, messbar und geführt ist, entdeckt, was ein einmaliges Audit übersieht, und passt sich an die KI-Landschaft des nächsten Quartals an.

Praktische Implikationen

Shadow AI ist kein Problem, das sich von selbst löst. Wenn es unbehandelt bleibt, verstärkt es sich: mehr Tools, mehr Datenexposition, mehr regulatorisches Risiko, mehr Entscheidungen, die von ungeprüften KI-Ausgaben beeinflusst werden. Die Organisationen, die dies gut managen, werden diejenigen sein, die Erkennung als kontinuierliche operative Fähigkeit und nicht als Projekt betrachten, die Governance über Befähigung statt über Verbote steuern und in die kulturelle und prozessuale Infrastruktur investieren, um beides nachhaltig zu verankern.

Der praktische Weg nach vorn ist klar. Schaffen Sie Transparenz durch mehrschichtige Erkennung. Bauen Sie Governance auf, der Mitarbeitende folgen wollen. Integrieren Sie KI-Aufsicht in die Abläufe von Beschaffung, Onboarding und Change Management. Messen Sie den Fortschritt und machen Sie die Führungsebene verantwortlich.

Für Organisationen, die bereit sind, von ad hoc Reaktionen zu strukturierter Shadow-AI-Governance überzugehen, bietet Enzai die Plattform, um nicht genehmigte KI-Nutzung unter Kontrolle zu bringen – von kontinuierlicher Erkennung und Inventarisierung bis hin zu Richtlinienmanagement und Compliance-Berichterstattung. Buchen Sie eine Demo, um zu sehen, wie dies in der Praxis funktioniert.

Enzai ist die führende Plattform für Enterprise-KI-Governance, speziell entwickelt, um Unternehmen dabei zu unterstützen, von abstrakten Richtlinien zu operativer Aufsicht überzugehen. Unsere KI-Risikomanagement-Plattform bietet die spezialisierte Infrastruktur, die erforderlich ist, um agentische KI-Governance zu steuern, ein umfassendes KI-Inventar zu pflegen und die EU AI Act Compliance sicherzustellen. Durch die Automatisierung komplexer Workflows befähigt Enzai Unternehmen, die KI-Einführung mit Zuversicht zu skalieren und gleichzeitig die Ausrichtung an globalen Standards wie ISO 42001 und NIST aufrechtzuerhalten.

Referenzen

[1] Salesforce, „The Promises and Pitfalls of AI at Work“, Salesforce Research, 2024.

[2] OpenAI, „How your data is used to improve model performance“, OpenAI Help Centre, aktualisiert 2025.

[3] Europäisches Parlament und Rat, Verordnung (EU) 2024/1689 mit harmonisierten Vorschriften für künstliche Intelligenz (EU AI Act), 2024.

[4] International Organization for Standardization, ISO/IEC 42001:2023 Information technology - Artificial intelligence - Management system, 2023.

[5] National Institute of Standards and Technology, „AI Risk Management Framework (AI RMF 1.0)“, NIST AI 100-1, Januar 2023.

[6] McKinsey Global Institute, „The economic potential of generative AI: The next productivity frontier“, McKinsey & Company, Juni 2023.