Ein strukturierter Rahmen zur Risikobewertung von KI-Anbietern – Fragebögen, Warnsignale, vertragliche Schutzmaßnahmen und fortlaufende Überwachung im Rahmen des EU-KI-Gesetzes.
•
•
16 Minuten Lesezeit
Die meiste Enterprise-KI wird nicht im eigenen Haus entwickelt. Laut Gartner wurde erwartet, dass bis 2025 über 70 % der Organisationen mindestens eine Form von KI einführen würden, die von einem Drittanbieter bereitgestellt wird [1]. Diese Zahl ist seitdem nur noch gestiegen. Dennoch wurden die Governance-Frameworks, auf die sich die meisten Organisationen verlassen, für Software entwickelt, die sie selbst kontrollieren, und nicht für probabilistische Systeme, die auf Daten trainiert wurden, die sie nie gesehen haben, die nach Zeitplänen aktualisiert werden, die sie nicht festlegen, und die nach einer Logik arbeiten, die selbst für den Anbieter undurchsichtig sein kann.
Die Regulierungslandschaft hat diese Realität mittlerweile eingeholt. Das EU-KI-Gesetz (EU AI Act), dessen stufenweise Durchsetzungsphase im Jahr 2025 begann, zieht eine klare Trennlinie zwischen Anbietern (denen, die ein KI-System entwickeln oder auf dem Markt bereitstellen) und Betreibern (denen, die es unter eigener Verantwortung nutzen). Diese Linie entbindet die Betreiber jedoch nicht von ihrer Verantwortung. Artikel 26 stellt klar, dass Betreiber von hochriskanten KI-Systemen spezifische Pflichten in Bezug auf menschliche Aufsicht, Qualität der Eingangsdaten, Überwachung und Aufzeichnungspflichten tragen [2]. Die unangenehme Wahrheit für Beschaffungs- und Compliance-Teams lautet: Die regulatorische Haftung geht nicht einfach auf den Anbieter über, nur weil dieser das Modell entwickelt hat.
Dieser Leitfaden bietet ein strukturiertes Framework für die Risikobewertung von KI-Drittanbietern, von der ersten Due Diligence bis hin zur laufenden Überwachung.
Warum das KI-Risiko durch Drittanbieter einen anderen Ansatz erfordert
Das traditionelle Risikomanagement für Anbieter bewertet Betriebszeit, Datensicherheit und vertragliche SLAs. Diese sind für KI-Anbieter weiterhin notwendig, reichen jedoch nicht aus. KI-Systeme führen eine Risikokategorie ein, für deren Bewältigung die konventionelle IT-Beschaffung nie ausgelegt war.
Drei Eigenschaften unterscheiden KI von Drittanbietern grundlegend von anderer Software:
Undurchsichtigkeit der Entscheidungslogik. Eine konventionelle SaaS-Anwendung führt deterministischen Code aus. Ein KI-System kann Ergebnisse liefern, die durch Trainingsdaten, Feinabstimmungen und Parameter zur Laufzeit (Inferenz) geprägt sind, in die das betreibende Unternehmen keinen Einblick hat. Wenn ein Kreditprüfungsmodell einen Antrag ablehnt oder ein HR-Auswahltool Bewerber bewertet, muss der Betreiber diese Entscheidung begründen können. Wenn der Anbieter keine aussagekräftige Erklärung liefern kann, bleibt der Betreiber für Ergebnisse verantwortlich, die er selbst nicht interpretieren kann.
Nicht-statisches Verhalten. Traditionelle Software ändert sich durch versionierte Releases. Das Verhalten von KI-Modellen kann sich durch erneutes Training, Feinabstimmung oder Änderungen an den zugrundeliegenden Datenpipelines verschieben – manchmal ohne einen formellen Release-Zyklus. Ein Modell, das während der Beschaffung innerhalb akzeptabler Parameter funktionierte, kann im Laufe der folgenden Monate abweichen (Model Drift). Der Betreiber erfährt davon unter Umständen erst, wenn bereits ein Schaden entstanden ist.
Vererbtes Datenrisiko. Die Trainingsdaten, die das Verhalten eines Modells prägen, können Verzerrungen (Biases), urheberrechtlich geschütztes Material oder personenbezogene Daten enthalten, die ohne angemessene Rechtsgrundlage verarbeitet wurden. Der Betreiber erbt die Folgen dieser vorgelagerten Entscheidungen, obwohl er an deren Entstehung nicht beteiligt war. Wenn ein KI-System personenbezogene Daten in einer Weise verarbeitet, die nicht mit den Datenverarbeitungsvereinbarungen des Betreibers vereinbar ist, trägt der Betreiber gemäß DSGVO das Durchsetzungsrisiko an der Seite des Anbieters [3].
Herkömmliche Scorecards für Anbieter erfassen diese Dynamiken nicht. Ein speziell entwickeltes Bewertungs-Framework ist daher unerlässlich.
Ein strukturiertes Framework für die Risikobewertung von KI-Anbietern
Das folgende Framework gliedert die Bewertung von KI-Anbietern in sieben Bereiche. Jeder Bereich bezieht sich auf ein bestimmtes Governance-Anliegen und kann bei der Beschaffung, der regelmäßigen Überprüfung oder einer anlassbezogenen Neubewertung bewertet werden.
Organisationen, die Plattformen wie Enzai nutzen, können dieses Framework in bestehende Workflows für den Lebenszyklus von Anbietern integrieren. Dadurch wird sichergestellt, dass KI-spezifische Kriterien neben traditionellen IT-Risikoindikatoren stehen und nicht in einem separaten, isolierten Prozess behandelt werden.
Bewertungsfragebogen
Bereich | Bewertungskriterien | Leitfaden zur Bewertung |
|---|---|---|
Modelltransparenz | Offenbart der Anbieter Modelltyp, Architekturfamilie und Version? Kann der Anbieter Model Cards oder Datenblätter vorlegen? Gibt es eine Dokumentation bekannter Einschränkungen? | Vollständige Offenlegung mit Model Cards = Hoch. Teilweise Offenlegung = Mittel. „Proprietär, kann nicht weitergegeben werden“ = Niedrig. |
Data Governance | Welche Daten wurden für das Training verwendet? Bestätigt der Anbieter die rechtmäßige Grundlage für die Datenverarbeitung? Sind Aufzeichnungen zur Datenherkunft verfügbar? Wie werden personenbezogene Daten bei der Inferenz behandelt? | Dokumentierte Datenherkunft mit Rechtsgrundlage = Hoch. Allgemeine Erklärungen ohne Belege = Mittel. Keine Informationen verfügbar = Niedrig. |
Prüfung auf Bias und Fairness | Hat der Anbieter Audits zur Überprüfung von Verzerrungen (Biases) durchgeführt? In Bezug auf welche geschützten Merkmale? Sind die Ergebnisse verfügbar? Welche Korrekturprozesse gibt es? | Unabhängiges Audit durch Dritte mit veröffentlichten Ergebnissen = Hoch. Interne Tests mit Dokumentation = Mittel. Keine Tests oder „darauf testen wir nicht“ = Niedrig. |
Sicherheit | Über welche Sicherheitszertifizierungen verfügt der Anbieter (SOC 2, ISO 27001)? Wie werden Modelle vor adversarialen Angriffen, Prompt Injection oder Datenextraktion geschützt? Gibt es ein Programm zur Offenlegung von Schwachstellen? | Relevante Zertifizierungen plus KI-spezifische Sicherheitsmaßnahmen = Hoch. Nur allgemeine Zertifizierungen = Mittel. Keine Zertifizierungen = Niedrig. |
Compliance und Zertifizierungen | Kann der Anbieter die Einhaltung des EU-KI-Gesetzes, der DSGVO oder branchenspezifischer Vorschriften nachweisen? Gibt es eine Konformitätsbewertung für hochriskante Systeme? | Abgeschlossene Konformitätsbewertung mit Dokumentation = Hoch. Compliance-Programm in Arbeit = Mittel. Keine Compliance-Aktivitäten = Niedrig. |
Reaktion auf Vorfälle (Incident Response) | Verfügt der Anbieter über einen dokumentierten Plan zur Reaktion auf KI-Vorfälle? Wie sehen die Fristen für Benachrichtigungen aus? Gibt es einen Prozess zur Überprüfung nach einem Vorfall? | Dokumentierter Plan mit definierten SLAs und Überprüfung nach dem Vorfall = Hoch. Allgemeiner Vorfallsprozess, der nicht KI-spezifisch ist = Mittel. Kein Prozess = Niedrig. |
Update- und Änderungsmanagement | Wie kommuniziert der Anbieter Modell-Updates? Gibt es eine Frist zur Vorabankündigung von Änderungen? Kann der Betreiber Updates vor dem Live-Gang testen? Ist ein Rollback möglich? | Vorabankündigung mit Testfenster und Rollback = Hoch. Benachrichtigung erst nach der Bereitstellung = Mittel. Kein Benachrichtigungsprozess = Niedrig. |
Abhängigkeit von Unterauftragsverarbeitern und Basismodellen | Verlässt sich der Anbieter auf vorgelagerte KI-Anbieter (z. B. OpenAI, Anthropic, Google)? Was passiert, wenn der vorgelagerte Anbieter Bedingungen ändert, Modelle aktualisiert oder einen Ausfall hat? Werden vertragliche Schutzmaßnahmen weitergegeben? | Vollständige Offenlegung von vorgelagerten Anbietern mit vertraglicher Weitergabe und Notfallplänen = Hoch. Teilweise Offenlegung = Mittel. Keine Offenlegung oder Abhängigkeit von einem einzigen Anbieter ohne Alternative = Niedrig. |
Diese Tabelle sollte als dynamisches Instrument behandelt werden. Die Bewertungsschwellen variieren je nach Anwendungsfall: Ein hochriskantes KI-System, das bei der Triage im Gesundheitswesen eingesetzt wird, erfordert weitaus strengere Transparenz als ein Tool für Inhaltsempfehlungen mit geringem Risiko.
Wichtige Fragen an Anbieter
Ein Fragebogen funktioniert nur, wenn die Fragen spezifisch genug sind, um tatsächliche Risiken aufzudecken. Vage Fragen laden zu vagen Antworten ein. Die folgenden, nach Kategorien geordneten Fragen sind so konzipiert, dass sie verwertbare Antworten liefern.
Modelltransparenz und Erklärbarkeit
Welche Modellarchitektur nutzt dieses System und welche Version ist derzeit in der Produktionsumgebung im Einsatz?
Können Sie eine Model Card oder ein technisches Datenblatt vorlegen, das die beabsichtigten Anwendungsfälle, bekannten Einschränkungen und Leistungsbenchmarks beschreibt?
Welche Methoden stehen zur Verfügung, um betroffenen Personen einzelne Vorhersagen oder Entscheidungen zu erklären?
Wenn das Modell auf einem Basismodell eines Dritten basiert (z. B. eines LLM-Anbieters), können Sie offenlegen, auf welchem Basismodell und welcher Version Sie aufbauen?
Data Governance und Datenschutz
Welche Datensätze wurden verwendet, um dieses Modell zu trainieren und zu validieren, und können Sie einen Nachweis über die Datenherkunft vorlegen?
Was ist die Rechtsgrundlage gemäß DSGVO (oder einer gleichwertigen Regelung) für die Verarbeitung personenbezogener Daten beim Training?
Speichert, merkt sich oder reproduziert das Modell Trainingsdaten während der Inferenz? Welche Sicherheitsvorkehrungen verhindern Datenlecks?
Wie werden Kundendaten nach der Bereitstellung verwendet – fließen sie in das Modelltraining zurück und kann der Kunde dem widersprechen (Opt-out)?
Bias, Fairness und Sicherheit
Wurde dieses Modell auf Verzerrungen (Biases) im Hinblick auf geschützte Merkmale im Sinne des geltenden Antidiskriminierungsrechts geprüft?
Wer hat das Audit durchgeführt und stehen die Ergebnisse zur Überprüfung bereit?
Welche fortlaufende Überwachung ist eingerichtet, um neu auftretende Verzerrungen oder Leistungsabfälle bei Untergruppen zu erkennen?
Für generative KI-Systeme: Welche Schutzvorkehrungen (Guardrails) verhindern die Generierung schädlicher, irreführender oder rechtlich problematischer Ergebnisse?
Sicherheit und Resilienz
Welche spezifischen Schutzmaßnahmen bestehen gegen adversariale Angriffe, Prompt Injection, Modellinversion oder die Extraktion von Trainingsdaten?
Wurde das System KI-spezifischen Penetrationstests oder Red-Teaming unterzogen, die über Standardtests zur Anwendungssicherheit hinausgehen?
Wie sieht der Disaster-Recovery- und Business-Continuity-Plan aus, der speziell auf die KI-Komponenten dieses Dienstes zugeschnitten ist?
Compliance und regulatorische Bereitschaft
Wurde dieses System in die Risikokategorien des EU-KI-Gesetzes eingestuft, und wenn ja, welche Einstufung hat es erhalten?
Können Sie die Dokumentation einer Konformitätsbewertung für hochriskante KI-Systeme gemäß Artikel 43 vorlegen?
Wie sieht Ihr Zeitplan für die vollständige Einhaltung der geltenden KI-Vorschriften in den für uns relevanten Rechtsordnungen aus?
Reaktion auf Vorfälle und Rechenschaftspflicht
Wie sieht Ihr KI-spezifischer Plan zur Reaktion auf Vorfälle aus und was löst die Einstufung eines Vorfalls aus?
Wie hoch ist die vertragliche Benachrichtigungsfrist für KI-bezogene Vorfälle, die unsere Bereitstellung betreffen?
Können Sie Beispiele für frühere KI-Vorfälle nennen und beschreiben, wie diese gelöst wurden?
Nicht jede Frage wird auf jeden Anbieter zutreffen. Aber das Fehlen glaubwürdiger Antworten auf Fragen, die eindeutig anwendbar sind, ist an sich schon ein wichtiges Ergebnis.
Warnsignale (Red Flags) bei Antworten von Anbietern
Bei der Bewertung von Anbietern geht es ebenso sehr darum, wie Unternehmen Antworten erhalten, wie um den Inhalt dieser Antworten selbst. Bestimmte Muster in den Antworten von Anbietern sollten eine genauere Prüfung auslösen.
Vagheit unter dem Deckmantel der Vertraulichkeit
Es gibt eine berechtigte Grundlage für den Schutz von Geschäftsgeheimnissen. Aber ein Anbieter, der sich weigert, die allgemeine Architekturfamilie eines Modells, die verwendeten Kategorien von Trainingsdaten oder das Vorhandensein von Bias-Tests offenzulegen, schützt nicht sein geistiges Eigentum. Er verschleiert Risiken. Ein Anbieter, der auf jede Frage zur Transparenz mit „unser Modell ist proprietär und wir können keine Details weitergeben“ antwortet, ist kein Anbieter, der die regulatorischen Verpflichtungen eines Betreibers unterstützen kann.
Fehlen einer Dokumentation
Wenn ein Anbieter keine Model Card, keine Data-Governance-Richtlinie oder keinen Plan zur Reaktion auf Vorfälle vorlegen kann, ist die wahrscheinlichste Erklärung, dass diese nicht existieren. Das Fehlen einer Dokumentation ist kein neutraler Befund. Es zeigt, dass der Anbieter nicht in die Governance-Infrastruktur investiert hat, die für eine verantwortungsvolle Bereitstellung erforderlich ist.
Keine Prozesse zur Reaktion auf Vorfälle
Wenn die Antwort des Anbieters auf die Frage „Wie sieht Ihr Plan zur Reaktion auf KI-Vorfälle aus?“ aus Schweigen, einem Verweis auf das allgemeine IT-Incident-Management oder dem Versprechen besteht, einen solchen Plan zu entwickeln, sollte das Unternehmen abwägen, ob es bereit ist, das volle Gewicht eines KI-Ausfalls ohne Unterstützung des Anbieters zu tragen.
Verschiebung von Haftungsklauseln
Achten Sie auf Vertragssprache, die versucht, die gesamte Haftung für KI-Ergebnisse auf den Betreiber zu übertragen. Obwohl Betreiber Pflichten tragen, signalisiert ein Anbieter, der keinerlei Verantwortung für Modellleistung, Bias oder Fehler übernimmt, damit etwas über das Vertrauen in seine eigenen Systeme.
Das Gesamtbild ist wichtiger als eine einzelne Antwort. Ein Anbieter, der transparent mit tatsächlichen Einschränkungen umgeht, ist weitaus weniger risikoreich als einer, der Perfektion behauptet, ohne Beweise zu liefern.
Vertragliche Schutzmaßnahmen für die KI-Beschaffung
Eine Bewertung ist notwendig, aber nicht ausreichend. Die Ergebnisse müssen in verbindlichen vertraglichen Vereinbarungen verankert werden. Standardverträge für die Softwarebeschaffung enthalten selten Bestimmungen, die dem spezifischen KI-Risiko gerecht werden. Die folgenden Klauseln sollten für die Aufnahme in jede KI-Anbietervereinbarung in Betracht gezogen werden.
Prüfungsrechte (Audit Rights)
Die Vereinbarung sollte dem Betreiber das Recht einräumen, die KI-Systeme des Anbieters entweder direkt oder durch einen unabhängigen Dritten in angemessenen Abständen sowie beim Auftreten bestimmter auslösender Ereignisse (wie einem gemeldeten Vorfall oder einer behördlichen Anfrage) zu prüfen. Dieses Recht sollte sich auf Daten zur Modellleistung, Ergebnisse von Bias-Tests und Data-Governance-Praktiken erstrecken.
Benachrichtigung bei Vorfällen
Die Vereinbarung sollte maximale Benachrichtigungsfristen für KI-spezifische Vorfälle festlegen, die sich von allgemeinen Dienstvorfällen unterscheiden. Für hochriskante Systeme ist eine Benachrichtigung innerhalb von 24 Stunden nach der Entdeckung eine angemessene Ausgangsbasis. Die Benachrichtigung sollte die Art des Vorfalls, die betroffenen Systeme, die geschätzten Auswirkungen und die Schritte zur Behebung enthalten.
Datenhandhabung und -aufbewahrung
In der Vereinbarung sollte genau festgelegt werden, wie Kundendaten im Zusammenhang mit dem KI-System verwendet werden: ob sie zur Modellverbesserung genutzt werden, wie sie gespeichert werden, wann sie gelöscht werden und ob der Kunde verlangen kann, dass sie aus den Trainingsdatensätzen entfernt werden. Dies ist angesichts der anhaltenden Aufmerksamkeit der Aufsichtsbehörden für die Schnittstelle zwischen KI-Training und Datenschutzrechten besonders kritisch [5].
Benachrichtigung bei Modelländerungen
Die Vereinbarung sollte den Anbieter verpflichten, wesentliche Änderungen am Modell im Voraus anzukündigen. Dazu gehören das erneute Training mit neuen Daten, Änderungen der Architektur und wesentliche Anpassungen von Parametern. Die Ankündigungsfrist sollte es dem Betreiber ermöglichen, Tests durchzuführen, bevor das aktualisierte Modell in seiner Umgebung in die Produktion geht. Eine 30-tägige Ankündigungsfrist für nicht dringende Änderungen ist eine angemessene Richtlinie.
Leistungsbenchmarks und SLAs
Über traditionelle Verfügbarkeits-SLAs hinaus sollte die Vereinbarung messbare Leistungsbenchmarks für das KI-System festlegen, einschließlich Genauigkeitsschwellen, Fairness-Metriken und Latenzanforderungen. Eine Verletzung dieser Benchmarks sollte definierte Behebungsverpflichtungen und gegebenenfalls Kündigungsrechte auslösen.
Haftungsverteilung
Die Vereinbarung sollte die Haftung für KI-bezogene Schäden in einer Weise verteilen, die das Maß an Kontrolle der jeweiligen Partei widerspiegelt. Ein Anbieter, der das Modell, die Trainingsdaten und den Update-Zyklus kontrolliert, sollte eine angemessene Haftung für Mängel an diesen Komponenten tragen. Eine pauschale Freistellung zugunsten des Anbieters ist für KI-Bereitstellungen nicht angemessen.
Starke Verträge ersetzen keine Governance, aber sie bieten den Durchsetzungsmechanismus, der Governance erst wirksam macht.
Fortlaufende Überwachung: Mehr als eine einmalige Bewertung
Eine KI-Anbieterbewertung, die einmal bei der Beschaffung durchgeführt und dann abgeheftet wird, ist ein reines Compliance-Artefakt und kein echtes Risikomanagement. KI-Systeme verändern sich, und damit auch die Risiken, die sie bergen.
Indikatoren für eine kontinuierliche Überwachung
Unternehmen sollten eine kontinuierliche Überwachung in mehreren Dimensionen einrichten:
Leistungsabfall (Performance Drift). Verfolgen Sie die Ausgabequalität des KI-Systems im Vergleich zu den bei der Beschaffung festgelegten Benchmarks. Ein Qualitätsabfall kann auf Model Drift, Probleme mit der Datenpipeline oder nicht offengelegte Modelländerungen hindeuten.
Häufigkeit und Schwere von Vorfällen. Protokollieren Sie alle KI-bezogenen Vorfälle, einschließlich Beinaheunfälle, und analysieren Sie deren Entwicklung im Laufe der Zeit. Eine zunehmende Häufigkeit anomaler Ergebnisse erfordert eine Untersuchung.
Regulatorische Entwicklungen. Überwachen Sie Änderungen der geltenden KI-Regulierung, die die Risikoeinstufung des Systems verändern oder den Betreibern neue Pflichten auferlegen könnten.
Finanzielle und betriebliche Stabilität des Anbieters. Ein Anbieter in finanziellen Schwierigkeiten investiert möglicherweise weniger in Modellpflege, Sicherheit und Compliance – was sich direkt auf den Betreiber auswirkt.
Auslöser für eine Neubewertung
Bestimmte Ereignisse sollten außerhalb des regulären Überprüfungszyklus eine vollständige Neubewertung des Anbieters auslösen:
Der Anbieter kündigt ein wichtiges Modell-Update oder eine Änderung der Architektur an.
Es kommt zu einem schwerwiegenden KI-Vorfall, der entweder die eigene Bereitstellung betrifft oder öffentlich gemeldet wird.
Regulatorische Leitlinien ändern die Risikoeinstufung des KI-Systems.
Das Unternehmen ändert die Nutzung des KI-Systems in einer Weise, die das Risikoprofil wesentlich verändert.
Der Anbieter wird übernommen, fusioniert oder es kommt zu einem wesentlichen Wechsel in der Führungsebene.
Einbettung der Überwachung in Governance-Workflows
Eine effektive laufende Überwachung erfordert mehr als nur gute Absichten. Sie erfordert Tools, die die Überwachung von Anbietern in bestehende Governance-Rhythmen integrieren. Enzai bietet die Infrastruktur für eine kontinuierliche KI-Überwachung von Drittanbietern, indem es Bewertungsergebnisse, vertragliche Verpflichtungen und Echtzeit-Leistungsindikatoren in einem einzigen Governance-Workflow verbindet. Ohne diese Integration lässt die Überwachung im Laufe der Zeit oft nach, was Unternehmen genau dann unvorbereitet trifft, wenn Wachsamkeit am wichtigsten ist.
Governance ist kein einmaliges Ereignis, sondern eine kontinuierliche Praxis.
Die Falle von Artikel 25: Wenn Betreiber zu Anbietern werden
Eine der folgenreichsten und am wenigsten verstandenen Bestimmungen des EU-KI-Gesetzes betrifft die Umstände, unter denen ein Betreiber als Anbieter neu eingestuft wird. Artikel 25 legt fest, dass ein Betreiber als Anbieter gilt, wenn er seinen Namen oder seine Marke auf einem bereits auf dem Markt befindlichen hochriskanten KI-System anbringt, eine wesentliche Modifikation an einem hochriskanten System vornimmt, die Zweckbestimmung eines KI-Systems so ändert, dass es als hochriskant eingestuft wird, oder ein hochriskantes System auf dem Markt bereitstellt, nachdem ein Dritter dies bereits im Rahmen einer Vereinbarung mit dem ursprünglichen Anbieter getan hat [6].
Dies hat direkte Auswirkungen auf Unternehmen, die KI von Drittanbietern anpassen. Die Feinabstimmung (Fine-Tuning) des Modells eines Anbieters mit proprietären Daten, die Modifikation seiner Ergebnisse durch zusätzliche Verarbeitungsschritte oder seine Bereitstellung für einen Anwendungsfall, der sich wesentlich von der vom Anbieter angegebenen Zweckbestimmung unterscheidet, können jeweils ausreichen, um eine Neueinstufung auszulösen.
Die Folgen einer Neueinstufung sind erheblich. Ein Anbieter trägt die volle Last der Pflichten des EU-KI-Gesetzes für hochriskante Systeme, einschließlich Konformitätsbewertungen, technischer Dokumentation, Überwachung nach dem Inverkehrbringen und der Registrierung in der EU-Datenbank. Diese Pflichten sind wesentlich anspruchsvoller als die für Betreiber geltenden.
Praktische Schritte zur Vermeidung der Falle
Die Zweckbestimmung dokumentieren. Führen Sie klare Aufzeichnungen über die vom Anbieter angegebene Zweckbestimmung des KI-Systems und den tatsächlichen Anwendungsfall Ihres Unternehmens. Jede Abweichung sollte von Rechts- und Compliance-Teams überprüft werden.
Umfang der Anpassung bewerten. Führen Sie vor der Feinabstimmung, dem erneuten Training oder einer wesentlichen Änderung eines KI-Systems von Drittanbietern eine Bewertung durch, ob die Änderung eine „wesentliche Modifikation“ im Sinne des Gesetzes darstellt. Die Leitlinien der Europäischen Kommission zu diesem Punkt sollen weitere Klarheit schaffen, aber das Risiko besteht bereits heute [7].
Vertragliche Klarheit schaffen. Stellen Sie sicher, dass die Anbietervereinbarung klar abgrenzt, welche Partei der Anbieter und welche der Betreiber ist, und legen Sie die Bedingungen fest, unter denen sich diese Einstufung ändern könnte.
Frühzeitig rechtlichen Rat einholen. Die Grenze zwischen Anbieter und Betreiber ist eine Frage des tatsächlichen Sachverhalts, nicht der vertraglichen Bezeichnungen. Sich in einem Vertrag als Betreiber zu bezeichnen, setzt eine faktische Feststellung, dass man als Anbieter agiert, nicht außer Kraft.
Die Falle von Artikel 25 ist kein theoretisches Szenario. Da Unternehmen zunehmend KI-Systeme von Anbietern anpassen und verfeinern, wird die Grenze zwischen Bereitstellung (Deployment) und Bereitstellung auf dem Markt (Provision) voraussichtlich zu einem der am aktivsten umstrittenen Bereiche der KI-Regulierung werden.
Aufbau eines rechtssicheren Programms für Drittanbieter-KI
Die Risikobewertung von KI-Drittanbietern ist kein bloßes Häkchen im Beschaffungsprozess. Es ist eine fortlaufende Governance-Disziplin, die rechtliche, technische und betriebliche Bereiche umfasst. Unternehmen, die dieses Risiko effektiv managen, werden diejenigen sein, die die Aufsicht über KI-Anbieter mit derselben Sorgfalt behandeln, die sie auch bei Finanzkontrollen oder dem Datenschutz anwenden.
Das hier skizzierte Framework bietet einen Ausgangspunkt: strukturierte Bewertung, spezifische Fragen, vertragliche Schutzmaßnahmen, kontinuierliche Überwachung und das Bewusstsein für die regulatorischen Fallen, die einen Betreiber über Nacht in einen Anbieter verwandeln können. Nichts davon ist für Unternehmen, die hochriskante KI-Systeme in regulierten Umgebungen einsetzen, optional.
Für Unternehmen, die die Governance von KI-Drittanbietern skalierbar umsetzen möchten, bietet Enzai die Plattform-Infrastruktur, um Anbieterbewertungen zu verwalten, Verpflichtungen zu verfolgen und eine kontinuierliche Aufsicht über das gesamte KI-Portfolio hinweg aufrechterhalten zu können. Fordern Sie eine Demo an, um zu sehen, wie dies in der Praxis funktioniert.
Enzai ist die führende Plattform für Enterprise-KI-Governance, die speziell dafür entwickelt wurde, Unternehmen beim Übergang von abstrakten Richtlinien zur operativen Aufsicht zu unterstützen. Unsere Plattform für das KI-Risikomanagement bietet die spezialisierte Infrastruktur, die erforderlich ist, um agentische KI-Governance zu steuern, ein umfassendes KI-Inventar zu führen und die Einhaltung des EU-KI-Gesetzes sicherzustellen. Durch die Automatisierung komplexer Workflows ermöglicht Enzai es Unternehmen, die Einführung von KI mit Vertrauen zu skalieren und gleichzeitig die Ausrichtung an globalen Standards wie ISO 42001 und NIST zu wahren.
Referenzen
[1] Gartner, „Gartner Predicts 70% of Organisations Will Shift Focus to AI Governance“, 2024.
[2] Europäisches Parlament und Rat, Verordnung (EU) 2024/1689 (EU-KI-Gesetz), Artikel 26 – Pflichten der Betreiber von hochriskanten KI-Systemen, 2024.
[3] Europäischer Datenschutzausschuss, „Opinion on the Interplay Between the AI Act and the GDPR“, 2024.
[4] Europäisches Parlament und Rat, Verordnung (EU) 2024/1689 (EU-KI-Gesetz), Artikel 13 (Transparenz und Bereitstellung von Informationen für Betreiber) und Artikel 26 (Pflichten der Betreiber), 2024.
[5] Europäischer Datenschutzausschuss, „Guidelines on the Use of Personal Data in AI Model Training“, 2025.
[6] Europäisches Parlament und Rat, Verordnung (EU) 2024/1689 (EU-KI-Gesetz), Artikel 25 – Verantwortlichkeiten entlang der KI-Wertschöpfungskette, 2024.
[7] Europäische Kommission, „Guidelines on Substantial Modification of AI Systems“ (demnächst verfügbar), verwiesen in Erwägungsgrund 88 des EU-KI-Gesetzes.
Ermöglichen Sie Ihrer Organisation die Einführung, Steuerung und Überwachung von KI mit unternehmensgerechtem Vertrauen. Entwickelt für regulierte Organisationen, die im großen Maßstab operieren.