Die meisten Organisationen können eine täuschend einfache Frage nicht beantworten: Wie viele KI-Systeme sind derzeit im gesamten Unternehmen im Einsatz? Die Unfähigkeit, eine verlässliche Antwort zu liefern – und das Fehlen eines umfassenden KI-Inventars – ist nicht nur eine administrative Lücke. Sie ist ein Compliance-Risiko, ein blinder Fleck im Risikomanagement und eine zunehmend unhaltbare Position, da Regulierungsrahmen weltweit von freiwilligen Leitlinien zu verbindlichen Verpflichtungen übergehen.

Der EU AI Act, der im August 2024 in Kraft trat und dessen Verpflichtungen bis 2027 schrittweise wirksam werden, verlangt von Betreibern von Hochrisiko-KI-Systemen, diese Systeme in der EU-Datenbank zu registrieren (Artikel 71) und Dokumentation zu führen, die eine vollständige Erfassung aller relevanten Systeme voraussetzt [1]. ISO/IEC 42001, der internationale Standard für KI-Managementsysteme, fordert von Organisationen, den Umfang und Kontext ihrer KI-Systeme als Voraussetzung für eine Zertifizierung zu dokumentieren, wodurch eine systematische Katalogisierung zur praktischen Notwendigkeit wird [2]. Das NIST AI Risk Management Framework behandelt die Identifizierung und Klassifizierung von KI-Systemen als grundlegende Aktivität innerhalb seiner Map-Funktion, auf der alle nachgelagerten Risikoanalysen und -steuerungen aufbauen [3]. Ohne ein umfassendes KI-Inventar ist die Einhaltung eines dieser Rahmenwerke strukturell unmöglich.

Dennoch ist die Aufgabe, jedes KI-System in einem Unternehmen zu katalogisieren, deutlich komplexer, als es zunächst erscheint. Dieser Leitfaden bietet einen systematischen Ansatz, um ein KI-Inventar von Grund auf aufzubauen – einschließlich dessen, was erfasst werden sollte, wie Systeme entdeckt werden können, die für zentrale Governance unsichtbar sind, und wie das Inventar langfristig korrekt gehalten wird.

Warum ein KI-Inventar die Grundlage von Governance ist

Unabhängig von regulatorischen Vorgaben ist ein vollständiges Inventar von KI-Systemen die Voraussetzung für nahezu jede nachgelagerte Governance-Aktivität. Risikobewertungen können nicht für Systeme durchgeführt werden, die unbekannt sind. Bias-Audits erreichen keine KI-Tools, die vom Einkauf nie erfasst wurden. Incident-Response-Pläne können KI-gestützte Prozesse nicht berücksichtigen, in die die IT keinen Einblick hat.

Die praktischen Folgen des Betriebs ohne Inventar sind bereits sichtbar. Organisationen, die dem EU AI Act unterliegen, müssen Hochrisiko-Systeme in der europäischen Datenbank registrieren [1]. Unternehmen, die eine ISO-42001-Zertifizierung anstreben, müssen einen systematischen Prozess zur Identifizierung und Steuerung von KI-Systemen in der gesamten Organisation nachweisen [2]. Finanzaufsichtsbehörden, darunter die Bank of England, die FCA und die Europäische Zentralbank, formulieren zunehmend aufsichtsrechtliche Erwartungen, die voraussetzen, dass Unternehmen genau wissen, welche Entscheidungen durch algorithmische oder KI-basierte Tools beeinflusst werden [4].

Die Herausforderung wird durch die Geschwindigkeit der KI-Einführung verstärkt. McKinseys Global Survey on AI 2024 ergab, dass 72 % der Organisationen KI in mindestens einer Geschäftsfunktion eingeführt haben, wobei sich die Einführung im Jahresvergleich nahezu verdoppelt hat und ein großer Teil auf Abteilungsebene ohne zentrale Aufsicht erfolgt [5]. Plattformen wie Enzai sind gezielt entstanden, um die Komplexität eines lebenden KI-Inventars im Enterprise-Maßstab zu bewältigen, indem sie Discovery, Risikoklassifizierung und kontinuierliches Monitoring in einer einzigen Governance-Ebene verbinden.

Ein KI-Inventar ist kein Compliance-Kontrollkästchen. Es ist das zentrale Artefakt, von dem jede weitere Governance-Aktivität abhängt.

Die Discovery-Herausforderung

Bevor versucht wird, das Inventar selbst aufzubauen, ist es entscheidend zu verstehen, warum KI-Systeme schwer zu katalogisieren sind. KI verhält sich in Bezug auf Sichtbarkeit nicht wie traditionelle Software. Sie ist in bestehende Tools eingebettet, arbeitet über Drittanbieter-APIs und verbreitet sich durch individuelle Entscheidungen von Mitarbeitenden, die nie den Beschaffungsprozess durchlaufen.

Shadow AI

Die größte Discovery-Herausforderung ist Shadow AI: Systeme, die von Mitarbeitenden oder Teams ohne formale Freigabe eingeführt werden. Eine Marketing-Analystin, die ein KI-gestütztes Copywriting-Tool mit privater Kreditkarte abonniert, ein Vertriebsteam, das einen KI-Meeting-Transkriptionsdienst nutzt, ein Finanzteam, das über eine Browser-Erweiterung mit einem Large Language Model experimentiert. Jeder dieser Fälle steht für ein KI-System, das Organisationsdaten außerhalb jedes Governance-Rahmens verarbeitet.

Eingebettete KI in SaaS-Plattformen

Große Anbieter von Enterprise-Software haben KI-Funktionen mit außergewöhnlicher Geschwindigkeit in bestehende Produkte integriert. Eine CRM-Plattform mit eingeführtem Predictive Lead Scoring, ein HR-System mit hinzugefügtem Resume-Screening, ein Customer-Support-Tool mit automatisierter Antwortgenerierung. Das sind KI-Systeme, sie erscheinen jedoch häufig als Feature-Updates statt als neue Beschaffungen und bleiben dadurch für traditionelle Software-Audits unsichtbar.

Anbieter- und Drittanbieter-KI

Wenn eine Organisation mit einem Anbieter zusammenarbeitet, der KI in seiner Leistungserbringung nutzt, kann die Organisation unter Regulierungsrahmen wie dem EU AI Act zum Betreiber dieses KI-Systems werden. Ein Anbieter für Background Checks, der KI zur Kandidatenprüfung einsetzt, ein Claims-Processing-Outsourcer, der KI zur Triage von Einreichungen nutzt, ein Logistikpartner, der KI zur Routenoptimierung verwendet. Jeder Fall erzeugt eine Governance-Verpflichtung, die damit beginnt, zu wissen, dass das System existiert.

Intern entwickelte KI

Data-Science-Teams, Innovationslabore und Software-Engineering-Abteilungen können KI-Modelle entwickeln und bereitstellen, die nie einen formalen Release-Management-Prozess durchlaufen. Jupyter-Notebooks, die in die Produktion überführt werden, Machine-Learning-Modelle auf Servern einzelner Abteilungen, automatisierte Entscheidungsskripte, die sich von Proof-of-Concept zu geschäftskritischen Anwendungen entwickeln, ohne dass sie jemals formell beauftragt wurden.

Die Discovery-Herausforderung ist im Kern eine Frage der Sichtbarkeit. Traditionelles IT-Asset-Management wurde nicht für KI konzipiert, und die Tools und Prozesse, auf die sich die meisten Organisationen verlassen, erfassen den Großteil ihres KI-Footprints nicht.

Was in Ihrem KI-Inventar erfasst werden sollte

Ein nützliches KI-Inventar muss Vollständigkeit und Praktikabilität ausbalancieren. Zu wenig zu erfassen macht das Inventar für Risikobewertung und Compliance unzureichend. Zu viel zu erfassen erzeugt einen Pflegeaufwand, der zum Verfall des Inventars führt. Das folgende Template-Framework deckt die Felder ab, die regulatorische Anforderungen, Industriestandards und praktische Governance-Erfordernisse verlangen.

Zentrale Identifikationsfelder

Verantwortung und Rechenschaft

Risiko- und Compliance-Klassifizierung

Technische und operative Details

Lebenszyklus und Status

Nicht jedes Feld wird beim ersten Durchlauf für jedes System befüllt sein. Ein praxistauglicher Ansatz ist, festzulegen, welche Felder beim Intake verpflichtend sind (Systemname, Owner, Bereitstellungstyp, Risikoklassifizierung) und welche bis zum ersten Governance-Review-Zyklus aufgeschoben werden können. Das KI-Inventarschema von Enzai setzt diesen gestuften Ansatz um, indem es verpflichtende Intake-Felder von Feldern zur schrittweisen Anreicherung unterscheidet, um zu verhindern, dass Teams entweder alles überspringen oder durch ein Formular mit 22 Feldern für jeweils 200 Systeme gelähmt werden. Das Ziel ist, die Struktur zu etablieren und Lücken systematisch zu schließen, statt das Inventar zu verzögern, bis jedes Feld perfekt ausgefüllt werden kann.

Discovery-Methoden

Mit einem klaren Bild dessen, was erfasst werden soll, lautet die nächste Frage, wie sich jedes im Unternehmen betriebene KI-System finden lässt. Keine einzelne Methode wird eine vollständige Abdeckung erreichen. Ein wirksames Discovery-Programm nutzt mehrere Ansätze in Kombination.

Automatisiertes Scanning und technische Discovery

Die Analyse des Netzwerkverkehrs kann API-Aufrufe zu bekannten KI-Service-Anbietern identifizieren, einschließlich großer Cloud-KI-Endpunkte von Anbietern wie OpenAI, Google, Anthropic und AWS. DNS-Logs, Proxy-Server-Protokolle und Cloud Access Security Broker (CASB)-Tools können Verbindungen zu KI-Diensten markieren, die nicht formell freigegeben wurden. Software-Composition-Analysis kann KI-Bibliotheken und Frameworks innerhalb intern entwickelter Anwendungen identifizieren.

Organisationen, die Plattformen wie Enzai nutzen, können automatisierte Discovery-Funktionen direkt in ihren Governance-Workflow integrieren, den erforderlichen manuellen Aufwand reduzieren und sicherstellen, dass neu erkannte Systeme sofort zur Klassifizierung und Überprüfung markiert werden.

Beschaffungs- und Anbieteraudit

Eine systematische Prüfung von Beschaffungsunterlagen, Software-Lizenzvereinbarungen und Anbieterverträgen bringt KI-Systeme ans Licht, die über formale Kanäle beschafft wurden. Dies sollte eine rückwirkende Prüfung bestehender Verträge einschließen, da viele Anbieter KI-Funktionen zu zuvor nicht KI-basierten Produkten hinzugefügt haben. Beschaffungsteams sollten angewiesen werden, jede neue Anschaffung zu kennzeichnen, die KI- oder Machine-Learning-Fähigkeiten enthält.

Mitarbeitendenbefragungen und Selbstauskunft

Die direkte Ansprache von Geschäftsbereichen bleibt eine der effektivsten Discovery-Methoden für Shadow AI. Eine strukturierte Umfrage, die Teams auffordert, alle von ihnen genutzten Tools, Services oder Modelle zu benennen, die KI, Machine Learning, Natural Language Processing oder automatisierte Entscheidungsfindung beinhalten, deckt konsistent Systeme auf, die keine technische Scan-Methode erfassen würde. Die Umfrage sollte konstruktiv formuliert sein und Governance-Unterstützung statt Durchsetzung betonen, um ehrliche Offenlegung zu fördern.

Anbieterfragebögen

Für bestehende Drittanbieterbeziehungen identifiziert ein gezielter Fragebogen, der Anbieter fragt, ob KI in der Leistungserbringung eingesetzt wird und falls ja, welcher Typ und zu welchem Zweck, eingebettete und Drittanbieter-KI. Das ist besonders wichtig bei ausgelagerten Geschäftsprozessen, bei denen KI vom Anbieter ohne ausdrückliche Benachrichtigung des Kunden eingeführt werden kann.

Analyse von Netzwerk- und API-Traffic

Über das Scannen nach bekannten KI-Endpunkten hinaus kann eine tiefere Analyse von API-Traffic-Mustern KI-Systeme aufdecken, die über nicht offensichtliche Kanäle kommunizieren. Das Monitoring von Mustern, die zu Modell-Inferenzaufrufen passen – etwa strukturierte JSON-Payloads an externe Endpunkte mit für ML-Inferenz typischen Latenzprofilen –, kann Systeme sichtbar machen, die andere Methoden übersehen.

Die robustesten Discovery-Programme führen diese Methoden parallel aus und wiederholen sie in einem regelmäßigen Zyklus. Ein einmaliger Sweep erfasst die Mehrheit der Systeme, aber kontinuierliche Discovery ist notwendig, um mit der Geschwindigkeit Schritt zu halten, mit der neue KI-Tools in die Organisation gelangen.

Den Inventarprozess aufbauen

Ein KI-Inventar ist nur so belastbar wie der Prozess und die Governance-Struktur, die es tragen. Ohne klare Verantwortlichkeiten, funktionsübergreifende Beteiligung und definierte Workflows wird selbst ein gründlicher Erstkatalog innerhalb weniger Monate veralten.

Verantwortung etablieren

Eine einzelne Funktion muss das KI-Inventar als Unternehmenswert verantworten. In den meisten Organisationen fällt dies einer von drei Rollen zu: dem Chief AI Officer (sofern diese Rolle existiert), dem Chief Information Security Officer oder dem Chief Compliance Officer. Die zentrale Anforderung ist, dass die verantwortliche Person ausreichende Autorität hat, um Offenlegung aus allen Geschäftsbereichen einzufordern, und zugleich ausreichende technische Glaubwürdigkeit, um mit Engineering-Teams zur Klassifizierung und Risikobewertung zusammenzuarbeiten.

Funktionsübergreifende Beteiligung

Der Inventarprozess erfordert aktive Beteiligung mehrerer Funktionen:

• IT und Engineering stellen technische Discovery-Fähigkeiten bereit und können intern entwickelte KI-Systeme, Infrastrukturdetails und Integrationspunkte identifizieren.

• Beschaffung kennzeichnet neue KI-Anschaffungen und prüft bestehende Anbieterbeziehungen rückwirkend.

• Legal und Compliance klassifizieren Systeme anhand regulatorischer Anforderungen, einschließlich der Risikokategorien des EU AI Act und datenschutzrechtlicher Verpflichtungen.

• Leitungen der Geschäftsbereiche identifizieren in ihren Teams genutzte KI-Tools und weisen jedem System eine Business-Verantwortung zu.

• Datenschutz / Privacy bewertet die Verarbeitung personenbezogener Daten und stellt die Ausrichtung an der DSGVO und gleichwertigen Rahmenwerken sicher.

• Interne Revision validiert periodisch Vollständigkeit und Richtigkeit des Inventars.

Den Intake-Workflow definieren

Jedes neue KI-System – unabhängig davon, ob es beschafft, entwickelt oder durch Scanning entdeckt wurde – sollte einen standardisierten Intake-Workflow durchlaufen. Dieser Workflow sollte eine Erstregistrierung (Befüllung der zentralen Identifikationsfelder), eine vorläufige Risikoklassifizierung, die Zuordnung von Business- und Technical Ownern sowie die Terminierung einer vollständigen Governance-Überprüfung umfassen. Der Intake-Prozess sollte so leichtgewichtig sein, dass er keinen Anreiz zur Umgehung schafft, und zugleich so belastbar, dass kein System ohne grundlegende Governance-Dokumentation in Produktion geht.

Governance-Kadenz festlegen

Das Inventar sollte mindestens vierteljährlich formell überprüft werden. Jede Überprüfung sollte Vollständigkeit (wurden seit dem letzten Zyklus neue Systeme hinzugefügt?), Richtigkeit (sind die Angaben zu bestehenden Systemen noch korrekt?) und Compliance-Status (arbeiten Systeme außerhalb ihrer genehmigten Risikoparameter?) bewerten.

Ein Prozess ohne klare Verantwortlichkeit ist eine Absichtserklärung. Ein Prozess mit Verantwortlichkeit, funktionsübergreifender Akzeptanz und definierter Kadenz ist ein Governance-Programm.

Das Inventar langfristig pflegen

Der initiale Aufbau ist die leichtere Hälfte der Herausforderung. Die Pflege eines korrekten, lebenden Inventars erfordert Trigger, Automatisierung und Integration in ein umfassenderes organisationales Change Management.

Trigger für Inventaraktualisierungen

Das Inventar sollte aktualisiert werden, sobald eines der folgenden Ereignisse eintritt:

• Ein neues KI-System wird beschafft, entwickelt oder bereitgestellt

• Ein bestehendes System wird wesentlich geändert (neue Datenquellen, veränderter Entscheidungsumfang, Modell-Retraining)

• Ein System wird außer Betrieb genommen oder ausgesetzt

• Ein Anbieter informiert die Organisation über KI-Funktionserweiterungen in einem bestehenden Produkt

• Eine regulatorische Änderung verändert die Risikoklassifizierung eines bestehenden Systems

• Ein Vorfall mit Beteiligung eines KI-Systems wird gemeldet

• Eine organisatorische Umstrukturierung verändert die Business-Verantwortung für ein System

Kontinuierliche Discovery

Technische Discovery-Methoden sollten kontinuierlich statt nur periodisch durchgeführt werden. Automatisiertes Scanning von KI-API-Traffic, CASB-Alerts für neue KI-SaaS-Tools und die Integration in Software-Deployment-Pipelines zur Kennzeichnung von KI-Komponenten in neuen Releases tragen dazu bei, die Zeitspanne zwischen Eintritt eines Systems in die Organisation und seinem Erscheinen im Inventar zu reduzieren.

Integration in Change Management

Das KI-Inventar sollte in bestehende Change-Management- und IT-Service-Management-Prozesse eingebettet sein. Change Advisory Boards sollten Auswirkungen auf das KI-Inventar als standardmäßiges Bewertungskriterium aufnehmen. Software-Deployment-Prozesse sollten eine Prüfung auf KI-Komponenten enthalten. Vendor-Management-Workflows sollten KI-Offenlegung als vertragliche Standardanforderung und als Standardanforderung in Reviews umfassen.

Versionshistorie und Audit-Trail

Jede Änderung an einem Inventareintrag sollte mit Zeitstempel, der Identität der ändernden Person und dem Grund für die Aktualisierung protokolliert werden. Dieser Audit-Trail ist nicht nur Best Practice. Er ist unter mehreren Regulierungsrahmen ausdrücklich erforderlich und wird von Prüfern und Aufsichtsbehörden erwartet.

Bei der Pflege scheitern die meisten KI-Inventare. Erfolgreich sind jene Organisationen, die das Inventar als lebendes System behandeln, das in operative Workflows integriert ist – nicht als statisches Dokument, das jährlich erneut betrachtet wird.

Häufige Fallstricke

Selbst gut ausgestattete Organisationen begegnen beim Aufbau und bei der Pflege eines KI-Inventars vorhersehbaren Fehlermustern. Diese Muster frühzeitig zu erkennen, erhöht die Wahrscheinlichkeit eines dauerhaften Ergebnisses erheblich.

KI zu eng definieren. Organisationen, die ihr Inventar auf „Machine-Learning-Modelle“ beschränken, übersehen regelbasierte automatisierte Entscheidungssysteme, robotergestützte Prozessautomatisierung mit kognitiven Elementen und generative KI-Tools, die informell im Unternehmen genutzt werden. Die Definition dessen, was für Inventurzwecke als KI-System gilt, sollte bewusst breit sein und an regulatorischen Definitionen ausgerichtet werden, etwa an der weiten Fassung des EU AI Act [1].

Das Inventar als IT-Projekt behandeln. Wenn das Inventar ausschließlich der IT gehört, wird die KI-Einführung auf Business-Seite systematisch untererfasst. Umgekehrt gilt: Liegt die Verantwortung ausschließlich bei Compliance, sind technische Details spärlich und unzuverlässig. Funktionsübergreifende Verantwortlichkeit ist nicht optional.

Beim ersten Durchlauf Perfektion anstreben. Organisationen, die darauf bestehen, jedes Feld für jedes System zu vervollständigen, bevor das Inventar veröffentlicht wird, werden das Inventar nie veröffentlichen. Ein pragmatischer Ansatz akzeptiert im initialen Aufbau unvollständige Datensätze und implementiert ein strukturiertes Programm, um Lücken in nachfolgenden Review-Zyklen zu schließen.

Anbieter-KI vernachlässigen. Die KI-Systeme mit der größten Wirkung auf eine Organisation werden häufig von Dritten betrieben. Die KI eines Background-Screening-Anbieters, das Modell einer Bonitätsauskunftei, die automatisierte Security-Tooling einer Cloud-Plattform. Diese erfordern dieselbe Governance-Aufmerksamkeit wie intern entwickelte Systeme – oft sogar mehr, angesichts der reduzierten Sichtbarkeit.

Das Inventar nicht mit Maßnahmen verknüpfen. Ein KI-Inventar, das als Tabellenkalkulation existiert, jährlich überprüft wird und von Risikobewertung, Incident Management und regulatorischen Reporting-Prozessen entkoppelt ist, liefert nur vernachlässigbaren Governance-Wert. Das Inventar muss das operative Rückgrat des KI-Governance-Programms sein, nicht dessen Anhang.

Den Pflegeaufwand unterschätzen. Das Tempo der KI-Einführung in den meisten Organisationen bedeutet, dass ein heute abgeschlossenes Inventar innerhalb von drei bis sechs Monaten ohne aktive Pflegeprozesse materiell unvollständig sein wird. Organisationen sollten fortlaufenden Aufwand für die Pflege des Inventars budgetieren, nicht nur für den initialen Aufbau.

Der Unterschied zwischen einem KI-Inventar, das Governance-Wert liefert, und einem, das Staub ansetzt, liegt nicht in der Raffinesse des Erstkatalogs. Er liegt in der Stringenz des Prozesses, der das Inventar aktuell hält und mit Entscheidungen verknüpft.

Praktische Implikationen

Die regulatorische Entwicklung ist eindeutig. Der EU AI Act, ISO 42001, das NIST AI RMF und ein wachsender Satz sektorspezifischer aufsichtsrechtlicher Erwartungen konvergieren alle auf dieselbe Grundanforderung: Organisationen müssen wissen, welche KI sie haben, wo sie betrieben wird, wer dafür verantwortlich ist und welche Risiken sie darstellt. Die Kosten für den Aufbau dieser Fähigkeit steigen mit jeder Verzögerung, da die Anzahl der KI-Systeme in einem Unternehmen schneller wächst als die Kapazität, sie rückwirkend zu katalogisieren.

Organisationen, die jetzt beginnen – selbst mit einem unvollkommenen ersten Durchlauf –, sind wesentlich besser positioniert als jene, die auf eine regulatorische Frist warten, die zum Handeln zwingt. Das in diesem Leitfaden skizzierte Template-Framework, die Discovery-Methoden und die Prozessstrukturen bieten einen konkreten Ausgangspunkt.

Für Organisationen, die ihr KI-Inventar in einer speziell für KI-Governance, Risiko und Compliance entwickelten Plattform operationalisieren möchten, bietet Enzai einen strukturierten Ansatz für Discovery, Klassifizierung und laufende Pflege. Demo buchen, um zu sehen, wie dies in der Praxis funktioniert.

Referenzen

[1] Europäisches Parlament und Rat der Europäischen Union, „Verordnung (EU) 2024/1689 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz (Artificial Intelligence Act)“, Amtsblatt der Europäischen Union, August 2024.

[2] International Organization for Standardization, „ISO/IEC 42001:2023 - Information technology - Artificial intelligence - Management system“, Dezember 2023.

[3] National Institute of Standards and Technology, „Artificial Intelligence Risk Management Framework (AI RMF 1.0)“, NIST AI 100-1, Januar 2023.

[4] Bank of England, FCA, PRA und PSR, „Artificial intelligence and machine learning“, DP5/22, Oktober 2022; PRA, Supervisory Statement SS1/23, 2023.

[5] McKinsey and Company, „The State of AI in Early 2024: Gen AI Adoption Spikes and Starts to Generate Value“, Mai 2024.