Blog
•
6 Min. Lesezeit
Im April 2021 legte die Europäische Kommission ihren mit Spannung erwarteten, richtungsweisenden Verordnungsvorschlag zur Regulierung künstlicher Intelligenz vor. Der allgemein als Gesetz über künstliche Intelligenz (Artificial Intelligence Act, kurz „AI Act“) bezeichnete Vorschlag ist der weltweit erste umfassende Versuch, KI-Systeme horizontal zu regulieren. Der AI Act soll den schädlichen Risiken von KI und ihren konkreten Anwendungen begegnen und zugleich verantwortungsvolle Innovation in diesem Bereich fördern. Tritt er in Kraft, wird er die Art und Weise, wie Unternehmen KI-Technologien entwickeln, bereitstellen, warten und nutzen, dauerhaft verändern.
Die wichtigsten Merkmale des AI Act
Definition von „System der künstlichen Intelligenz“ (KI-System):
Die Kommission hat eine weit gefasste Definition eines KI-Systems vorgeschlagen. Sie erstreckt sich auf softwarebasierte Technologien, die eines von mehreren breit definierten KI-Konzepten und -Verfahren nutzen: „maschinelles Lernen“, „logik- und wissensgestützte“ Systeme sowie „statistische Ansätze“.
Risikobasierter Ansatz:
Die Verordnung wird KI-Risiken mit einem risikobasierten, pyramidenförmigen Ansatz begegnen: Die Anforderungen und Pflichten der Marktteilnehmer richten sich nach der Höhe des Risikos, das von ihren KI-Systemen ausgeht. Die vier Risikokategorien werden im Folgenden näher erläutert.
1. Unannehmbares Risiko. An der Spitze dieser Pyramide steht eine Kategorie von KI-Anwendungsfällen, denen ein unannehmbares Risiko für Nutzer und die Gesellschaft insgesamt zugeschrieben wird und die daher vollständig verboten sind. Zu den verbotenen Systemen gehören unter anderem KI-Technologien, die mit unterschwelliger Manipulation, biometrischer Echtzeit-Identifizierung, der Bewertung des sozialen Verhaltens durch Behörden oder der Ausnutzung schutzbedürftiger Gruppen verbunden sind.
2. Hohes Risiko. Hochrisiko-KI-Systeme sind zwar zulässig, doch für eine Vielzahl solcher Systeme, die die Sicherheit oder die Grundrechte einzelner Personen beeinträchtigen können, sind strengere Anforderungen vorgesehen. Zu dieser Kategorie gehören Systeme in den Bereichen Infrastruktur, Bildung, Beschäftigung und Strafverfolgung sowie Systeme, die eine Sicherheitskomponente eines Produkts darstellen, das bereits den EU-Rechtsvorschriften für Gesundheit und Sicherheit unterliegt. Die für Hochrisiko-Systeme geltenden Vorschriften verlangen unter anderem, dass Organisationen:
• Risikomanagementsysteme einrichten, damit für jedes System eine angemessene Risikobewertung durchgeführt wird;
• eine umfassende technische Dokumentation zu ihren Systemen erstellen;
• ihre Anwendungen vor der Inbetriebnahme einer Konformitätsbewertung unterziehen;
• hochwertige Verfahren für Daten-Governance und Datenmanagement aufrechterhalten; und
• sicherstellen, dass das System hohe Anforderungen an Robustheit, Cybersicherheit und Genauigkeit erfüllt.
3. Begrenztes Risiko. Anwendungen, die weder ausdrücklich verboten noch als hochriskant eingestuft sind, bleiben weitgehend unreguliert. Für Systeme mit begrenztem Risiko gelten weniger strenge Transparenzpflichten: Nutzer müssen lediglich darüber informiert werden, dass sie mit einem KI-Tool interagieren.
4. Minimales Risiko. Für Anwendungen, die in keine der anderen Kategorien fallen und daher nur ein minimales Risiko darstellen, gelten zwar keine besonderen Anforderungen. Dennoch wird Unternehmen empfohlen, bei allen KI-Systemen unabhängig vom jeweiligen Risiko einen ethikbasierten Ansatz zu verfolgen. So dient Artikel 69 des AI Act als „Auffangbestimmung“, die Anbieter und Nutzer von KI-Systemen mit geringerem Risiko ermutigt, freiwillig und in verhältnismäßiger Weise dieselben Standards einzuhalten wie Hochrisiko-Systeme.
Verantwortung für die Compliance und Folgen von Verstößen:
Welche Pflichten für einen Marktteilnehmer gelten, hängt von seiner Rolle im KI-Lebenszyklus ab. Der AI Act unterscheidet zwischen „Anbietern“, „Nutzern“, „Einführern“ und „Händlern“ und sieht für jede dieser Gruppen unterschiedliche Pflichten vor. Die Sanktionen im aktuellen Entwurf des EU AI Act sind hoch: Bei den schwerwiegendsten Verstößen drohen Geldbußen von bis zu 6 Prozent des Jahresumsatzes.
Der aktuelle Stand
Seit seiner Veröffentlichung haben die anderen Gesetzgebungsorgane der Europäischen Union und interessierte Dritte den Entwurf ausführlich kommentiert. Einige der wichtigsten offenen Punkte werden im Folgenden erläutert.
Definition des Begriffs „System der künstlichen Intelligenz“:
Was als „KI-System“ gilt, ist entscheidend für die Zuweisung der Verantwortung nach dem AI Act. Der weite Definitionsrahmen von Artikel 3 Absatz 1, der den Begriff bestimmen soll, ist unter Branchenvertretern stark umstritten. Ein Kompromissvorschlag der tschechischen Ratspräsidentschaft soll die Unklarheiten beseitigen, die durch die weit gefasste Definition entstanden sind. Diese engere Definition nimmt herkömmliche Softwaresysteme vom Anwendungsbereich der Verordnung aus, indem sie zwei zusätzliche Voraussetzungen einführt: (1) Die Systeme werden mithilfe von Techniken des maschinellen Lernens und wissensbasierten Ansätzen entwickelt, und (2) die betreffenden Anwendungen sind „generative Systeme“, die die Umgebungen beeinflussen, mit denen sie interagieren.
Verteilung der Verantwortung zwischen „Anbietern“ und „Nutzern“ von KI:
Der AI Act legt die Compliance-Pflichten weitgehend den Anbietern auf (also denjenigen, die ein KI-System entwickeln) und weniger den Nutzern. Branchenverbände wenden ein, dass diese Verteilung der Verantwortung von oben nach unten problematisch sein kann, wenn KI-Dienste nachgelagert für unvorhersehbare Zwecke eingesetzt werden und sich nur schwer feststellen lässt, wer genau der Anbieter ist.
KI mit allgemeinem Verwendungszweck:
Ob eine Anwendung als KI-System mit allgemeinem Verwendungszweck eingestuft wird, hängt davon ab, ob sie mehrere Aufgaben in unterschiedlichen Kontexten erfüllen kann. Im Mai dieses Jahres kündigten die EU-Gesetzgeber an, die Anforderungen des EU AI Act auf sämtliche KI mit allgemeinem Verwendungszweck auszuweiten, auch bei Einsätzen mit geringem Risiko. Das ist umstritten: Kritiker wenden ein, dies sei eine grundlegende Abkehr vom risikobasierten Ansatz, der den Kern des Vorschlags bildet, und drohe Innovationen zu ersticken. Im September dieses Jahres schlug der Rat einen Kompromiss vor: KI mit allgemeinem Verwendungszweck soll ein umfassendes Risikobewertungsverfahren durchlaufen, sodass Systeme mit geringem Risiko von den strengeren Anforderungen des AI Act ausgenommen wären. Dieser Vorschlag wurde überwiegend positiv aufgenommen.
Verbindliche Grundprinzipien:
Mitglieder des Europäischen Parlaments haben empfohlen, für alle KI-Systeme (unabhängig von der Risikostufe) verbindliche Grundprinzipien der Fairness, Transparenz und Rechenschaftspflicht einzuführen. Eine abschließende Entscheidung steht noch aus.
Normen:
Parallel zum Gesetzgebungsverfahren hat die Kommission die europäischen Normungsorganisationen CEN und CENELEC beauftragt, technische Normen zu entwickeln, an denen sich die Einhaltung des AI Act messen lässt. Die Anwendung dieser Normen ist zwar freiwillig, doch für Organisationen, die nachweisen, dass ihre Systeme die Normen erfüllen, gilt die Vermutung der Konformität mit dem AI Act.
Die Herausforderung
Der AI Act durchläuft noch das komplexe Gesetzgebungsverfahren der EU. Viele Organisationen bereiten sich jedoch bereits darauf vor. Mit zunehmender Reife des Marktes bringen proaktive Schritte wie die Einführung von Risikomanagementsystemen und detaillierte technische Prüfungen den Organisationen klare Vorteile, unabhängig davon, ob eine regulatorische Pflicht dazu besteht.
Der Weg dorthin birgt noch viele Herausforderungen. Die eigene Rolle als Marktteilnehmer im Ökosystem zu verstehen, die komplexe Bestimmung der Risikostufen zu bewältigen und anschließend festzustellen, welche Pflichten des AI Act gelten, und diese zu erfüllen, ist für die Akteure in diesem Bereich zweifellos eine Belastung. Die Enzai-Plattform wurde genau dafür entwickelt. Sie hilft Organisationen, sich schnell und effizient in diesem Umfeld zurechtzufinden, damit sie sich auf die Entwicklung zukunftssicherer KI-Technologien konzentrieren können.
Enzai ist die führende Plattform für KI-Governance in Unternehmen, eigens dafür entwickelt, Organisationen den Schritt von abstrakten Richtlinien zu operativer Aufsicht zu ermöglichen. Unsere Plattform für KI-Risikomanagement stellt die spezialisierte Infrastruktur bereit, um Governance für agentische KI umzusetzen, ein umfassendes KI-Inventar zu pflegen und die Konformität mit dem EU AI Act sicherzustellen. Durch die Automatisierung komplexer Workflows ermöglicht Enzai Unternehmen, den Einsatz von KI mit Zuversicht zu skalieren und dabei im Einklang mit globalen Standards wie ISO 42001 und NIST zu bleiben.
Seit 2023 nach ISO 27001 zertifiziert, jährlich von NQA auditiert
An der DSGVO ausgerichtete Datenverarbeitung
Kundendaten auf AWS in mehreren Regionen gehostet
Eigenes KI-Modell über eine private Verbindung nutzen
Finden Sie die KI, die Ihre Teams nutzen, prüfen Sie sie vor der Einführung, bewerten Sie sie anhand der geltenden Vorschriften und kontrollieren Sie, was Agenten tun dürfen. Entwickelt für regulierte Organisationen.



