Zuletzt aktualisiert am:
Die nicht genehmigte Nutzung von KI-Modellen, Agenten oder Tools durch Mitarbeiter ohne IT-Freigabe, was durch Datenabfluss und unbefugte autonome Aktionen verborgene Sicherheitsrisiken schafft.
Shadow AI stellt eine bedeutende Weiterentwicklung der klassischen „Schatten-IT“ dar. Während die traditionelle Schatten-IT ungenehmigte SaaS-Anwendungen umfasste (was zu Datensilos führte), birgt Shadow AI aktive Risiken: den Abfluss geschützter Unternehmensdaten in die Trainingsdatensätze öffentlicher KI-Modelle sowie den Einsatz autonomer Agenten, die Aktionen außerhalb der Governance-Strukturen des Unternehmens ausführen. Ein effektives Management erfordert eine Erkennung auf Netzwerkesbene (Überwachung des API-Verkehrs zu bekannten KI-Anbietern), die Schulung der Mitarbeitenden sowie die Bereitstellung genehmigter, sicherer Alternativen anstelle von pauschalen Blockierungen.
Praxisbeispiel:
Ein Software-Engineering-Team nutzt einen kostenlosen, öffentlichen Programmierassistenten zur Behebung von Fehlern in einem proprietären Algorithmus. Die Entwickler fügen sensiblen Quellcode in das Eingabefeld ein, ohne sich darüber im Klaren zu sein, dass die Nutzungsbedingungen des Tools es dem Anbieter erlauben, Eingaben für das Modelltraining zu verwenden. Der proprietäre Code wird in das öffentliche Modell integriert, wodurch Mitbewerber potenziell in die Lage versetzt werden, den Algorithmus zu reproduzieren, oder Sicherheitslücken der breiten Öffentlichkeit preisgegeben werden.
