KI mit hohen Einsätzen
KI-Anwendungen, deren Ausfall erheblichen Schaden anrichten könnte (z. B. medizinische Diagnosen, autonome Fahrzeuge), die eine verstärkte Steuerung und Überwachung erfordern.
Definition
Systeme, in denen Fehler zu körperlichen Verletzungen, finanziellem Ruin oder gesellschaftlichen Schäden führen können. KI, bei der viel auf dem Spiel steht, erfordert eine strikte Steuerung: Folgenabschätzungen und Risikoabschätzungen, formelle Verifizierungen oder klinische Studien, „Human in the Loop“ -Kontrollen und Überwachung in Echtzeit. Vor dem Einsatz sind in der Regel eine Zertifizierung und behördliche Zulassung (FDA, FAA, EU AI Act) erforderlich, und es sind laufende Compliance-Audits vorgeschrieben.
Real-World Example
Ein autonomer Drohneninspektionsdienst für Stromleitungen wird als riskant eingestuft. Zu den behördlichen Vorschriften gehören Tests im Flugsimulator, eine formelle Dokumentation der Sicherheitsfälle, obligatorische Steuerungen durch den menschlichen Bediener per Fernbedienung und vierteljährliche Sicherheitsaudits, bevor Inspektionen vor Ort genehmigt werden.
.svg)
