KI-Risikomanagement
Der Prozess der Identifizierung, Bewertung und Minderung von Risiken im Zusammenhang mit KI-Systemen.
Definition
Ein kontinuierlicher, strukturierter Zyklus — Identifizierung, Bewertung, Planung, Implementierung und Überwachung von Risiken —, der in die Praktiken des KI-Lebenszyklus eingebettet ist, um neu auftretende Bedrohungen in Schach zu halten.
Real-World Example
Vor der Einführung eines autonomen Lagerrobotersystems identifiziert ein Logistikunternehmen Gefahren (Kollisionen, Diebstahl, Systemausfälle), bewertet Wahrscheinlichkeit und Schwere, wendet Schutzmaßnahmen an (Sicherheitszonen, verschlüsselte Kommunikation, Ausfallsicherheitsüberschreibungen) und verfolgt wichtige Risikoindikatoren über ein Live-Dashboard.
.svg)
