Last updated:
KI-Anwendungen, deren Ausfälle erheblichen Schaden verursachen könnten (z. B. medizinische Diagnosen, autonome Fahrzeuge), erfordern verstärkte Governance und Aufsicht.
Systeme, bei denen Fehler zu körperlichen Verletzungen, finanziösem Ruin oder gesellschaftlichem Schaden führen können. KI mit hohem Risikopotenzial erfordert eine umfassende Governance-Strenge: Wirkungs- und Risikobewertungen, formale Verifikation oder klinische Studien, Human-in-the-Loop-Kontrollen sowie Echtzeitüberwachung. Zertifizierungen und behördliche Zulassungen (FDA, FAA, EU AI Act) sind vor der Bereitstellung in der Regel erforderlich, und laufende Compliance-Audits sind vorgeschrieben.
Real world example:
Ein autonomer Drohneninspektionsdienst für Stromleitungen wird als hochkritisch eingestuft. Governance-Protokolle erfordern Tests im Flugsimulator, eine formale Sicherheitsfalldokumentation, verpflichtende Fernübersteuerungsfunktionen für menschliche Bediener sowie vierteljährliche Sicherheitsaudits, bevor Live-Inspektionsmissionen genehmigt werden.
