Anwendungsbereich
Ein Support-Chatbot und ein Modell zur Preisgestaltung von Krankenversicherungen unterliegen unterschiedlichen Pflichten. Herauszufinden, welche Kontrollen zu welchem System passen, ist langsame Handarbeit.
Risikominderung
Eine Prüfung findet ein Risiko und trägt es in eine Tabelle ein. Ob es behoben wurde, kontrolliert niemand.
Audit
Testergebnisse, Richtlinien und Freigaben liegen in geteilten Laufwerken und Chatverläufen, bis ihnen jemand vor einem Audit hinterherläuft.
Jedes Risiko wird vor und nach der Behandlung bewertet.
Warum das wichtig ist
Die Einhaltung von KI-Vorschriften ist keine einmalige Abnahme. Für ein Hochrisiko-KI-System behandelt der EU AI Act das Risikomanagement als Prozess, der über den gesamten Lebenszyklus des Systems läuft und regelmäßig überprüft wird.1 Sein Anbieter muss die technische Dokumentation zehn Jahre nach dem Inverkehrbringen aufbewahren.2 Sobald diese Vorschriften ab Dezember 2027 gelten, können Verstöße bis zu 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes kosten.3 Die Dokumentation muss mit der Arbeit Schritt halten.
Was ist KI-Risiko- und Compliance-Management?
KI-Risiko- und Compliance-Management bedeutet, KI-Systeme anhand der für sie geltenden Gesetze und Normen zu prüfen, ihre Risiken zu behandeln und nachzuweisen, dass diese Arbeit erledigt wurde. Es macht aus Frameworks wie dem EU AI Act Aufgaben mit Verantwortlichen und Fristen.
Welche Frameworks deckt Enzai ab?
Enzai führt Bewertungen anhand des EU AI Act, der ISO 42001 und des NIST AI RMF durch. Sie können auch eigene Frameworks erstellen, etwa eine interne KI-Richtlinie, mit eigenen Kontrollen und Klassifizierungen.
Sind wir durch Enzai automatisch konform?
Enzai übernimmt die Organisation: Bewertungen, Risiken und Nachweise an einem Ort, freigegeben durch Ihre eigenen Prüfer. Ob Sie ein Gesetz einhalten oder ein Audit bestehen, entscheiden Ihre Auditoren und Aufsichtsbehörden.
Was gilt als Nachweis?
Das hängt von der Kontrolle ab: ein ausgefülltes Formular, ein Dokument oder Metriken, die zu einem System oder seinen Modellen erfasst werden und sich automatisch eintragen. Bei Risiken sind Nachweise die Links, Notizen oder Dateien, die belegen, dass eine Minderungsmaßnahme umgesetzt ist.
Wie werden Risiken bewertet?
Jedes Risiko wird nach Auswirkung und Eintrittswahrscheinlichkeit bewertet, vor und nach der Behandlung, damit Sie sehen, was eine Minderungsmaßnahme bewirkt hat. Das Register zeigt beide Werte nebeneinander.
Was passiert, wenn sich ein Framework ändert?
Die Bewertung zeigt an, dass eine neue Version verfügbar ist, und Sie wechseln, wenn Sie bereit sind. Behalten Sie Ihre bisherigen Antworten oder beginnen Sie neu. Neue oder geänderte Kontrollen werden gekennzeichnet.
