Glossar
Aktualisiert
Systeme, bei denen Fehler zu physischen Verletzungen, finanziellem Ruin oder gesellschaftlichem Schaden führen können. Hochrisiko-KI erfordert lückenlose Governance-Strenge: Wirkungs- und Risikoanalysen, formale Verifizierung oder klinische Studien, Human-in-the-Loop-Kontrollen sowie Echtzeit-Monitoring. Zertifizierungen und behördliche Genehmigungen (FDA, FAA, EU AI Act) sind vor dem Einsatz in der Regel zwingend erforderlich, und fortlaufende Compliance-Audits sind gesetzlich vorgeschrieben.
Beispiel
Ein autonomer Drohnen-Inspektionsdienst für Stromleitungen wird als hochriskant eingestuft. Die Governance-Protokolle erfordern Flugsimulator-Tests, eine formelle Dokumentation des Sicherheitskonzepts, zwingend vorgeschriebene Remote-Override-Steuerungen durch menschliche Bediener sowie vierteljährliche Sicherheitsaudits, bevor Live-Inspektionsmissionen genehmigt werden können.
