Zuletzt aktualisiert am:
Die beiden Klassifizierungen von Hochrisiko-KI-Systemen gemäß dem EU-KI-Gesetz: eigenständige Systeme, die in Anhang III aufgeführt sind (umfassend Biometrie, kritische Infrastrukturen, Beschäftigung, Bildung, Strafverfolgung und andere genannte Verwendungszwecke), und in regulierte Produkte eingebettete KI, die in Anhang I aufgeführt sind (umfassend Medizinprodukte, Fahrzeuge, Maschinen und andere regulierte Produktkategorien).
Die EU-KI-Verordnung stuft bestimmte KI-Systeme als hochriskant ein, da sie das Potenzial haben, Grundrechte, die Sicherheit oder kritische gesellschaftliche Funktionen zu beeinträchtigen. Anhang III führt acht eigenständige Kategorien auf, in denen das System selbst aufgrund seines Verwendungszwecks als hochriskant eingestuft wird, während Anhang I KI-Komponenten abdeckt, die in Produkte integriert sind, die bereits der bestehenden EU-Sicherheitsgesetzgebung für bestimmte Sektoren unterliegen. Nach der Einigung zum Digital Omnibus vom 7. Mai 2026 gelten die Verpflichtungen aus Anhang III ab dem 2. Dezember 2027 und die Verpflichtungen aus Anhang I ab dem 2. August 2028. Beide Kategorien erfordern eine Konformitätsbewertung, eine technische Dokumentation, eine Marktüberwachung nach dem Inverkehrbringen sowie die Einhaltung der Anforderungen der KI-Verordnung an das Risikomanagement und die menschliche Aufsicht.
Praxisbeispiel:
Das KI-System einer Privatkundenbank zur Analyse von Lebensläufen wird gemäß Anhang III in der Kategorie Beschäftigung und Arbeitnehmermanagement als hochriskant eingestuft. Das in die Zahlungsabwicklungsinfrastruktur integrierte, KI-gestützte Betrugserkennungsmodell derselben Bank kann ebenfalls als hochriskant gemäß Anhang I eingestuft werden, sofern das zugrunde liegende Zahlungssystem den bestehenden EU-Sicherheitsvorschriften für Finanzdienstleistungen unterliegt. Jedes System erfordert eine eigene Klassifizierung nach Artikel 6 sowie eine separate Konformitätsbewertung.
