Zuletzt aktualisiert am:
KI-Anwendungen, die ein erhebliches Potenzial zur Gefährdung der Gesundheit, Sicherheit oder der Grundrechte von Personen aufweisen und somit die strengsten Compliance-Anforderungen unter dem EU-KI-Gesetz auslösen.
Hochrisikosysteme werden entweder durch ihre Integration in Produkte des Anhangs I oder durch ihre Verwendung in sensiblen Bereichen gemäß Anhang III (z. B. Bildung, Beschäftigung, kritische Infrastrukturen) bestimmt. Anbieter dieser Systeme müssen ein kontinuierliches Risikomanagementsystem (RMS) implementieren, qualitativ hochwertige Datensätze pflegen und vor der Bereitstellung eine umfassende technische Dokumentation erstellen.
Praxisbeispiel:
Ein Fintech-Unternehmen setzt ein KI-System zur Bewertung der Kreditwürdigkeit für Hypotheken ein; dies wird gemäß Anhang III des EU-KI-Gesetzes in der Kategorie „Grundlegende private Dienstleistungen“ als Hochrisiko-System eingestuft.
