Last updated:
KI-Anwendungen, die ein erhebliches Potenzial zur Gefährdung der Gesundheit, Sicherheit oder der Grundrechte von Personen aufweisen und somit die strengsten Compliance-Anforderungen gemäß dem EU-Gesetz über künstliche Intelligenz (EU AI Act) auslösen.
Hochrisikosysteme werden entweder durch ihre Integration in Produkte des Anhangs I oder durch ihre Verwendung in den in Anhang III definierten sensiblen Bereichen (z. B. Bildung, Beschäftigung, kritische Infrastrukturen) bestimmt. Anbieter dieser Systeme müssen ein fortlaufendes Risikomanagementsystem (RMS) implementieren, qualitativ hochwertige Datensätze pflegen und vor der Bereitstellung eine umfassende technische Dokumentation erstellen.
Real world example:
Ein Fintech-Unternehmen setzt ein KI-System zur Bewertung der Kreditwürdigkeit für Hypotheken ein. Dies wird gemäß Anhang III des EU-KI-Gesetzes in der Kategorie „Grundlegende private Dienstleistungen“ als Hochrisiko-System eingestuft.
