Zuletzt aktualisiert am:
KI-Anwendungen, deren Fehlfunktionen erheblichen Schaden verursachen könnten (z. B. in der medizinischen Diagnostik oder bei autonomen Fahrzeugen) und die daher einer verstärkten Governance und Aufsicht bedürfen.
Systeme, bei denen Fehler zu physischen Verletzungen, finanziellem Ruin oder gesellschaftlichem Schaden führen können. Hochrisiko-KI erfordert lückenlose Governance-Strenge: Wirkungs- und Risikoanalysen, formale Verifizierung oder klinische Studien, Human-in-the-Loop-Kontrollen sowie Echtzeit-Monitoring. Zertifizierungen und behördliche Genehmigungen (FDA, FAA, EU AI Act) sind vor dem Einsatz in der Regel zwingend erforderlich, und fortlaufende Compliance-Audits sind gesetzlich vorgeschrieben.
Praxisbeispiel:
Ein autonomer Drohnen-Inspektionsdienst für Stromleitungen wird als hochriskant eingestuft. Die Governance-Protokolle erfordern Flugsimulator-Tests, eine formelle Dokumentation des Sicherheitskonzepts, zwingend vorgeschriebene Remote-Override-Steuerungen durch menschliche Bediener sowie vierteljährliche Sicherheitsaudits, bevor Live-Inspektionsmissionen genehmigt werden können.
