Zuletzt aktualisiert am:
Das Potenzial für seltene, extreme Ergebnisse im Verhalten oder in der Entscheidungsfindung von KI, die außerhalb der normalen Erwartungen liegen und eine spezielle Risikominderungsplanung erfordern.
Konzentriert sich auf Ereignisse mit geringer Wahrscheinlichkeit, aber weitreichenden Auswirkungen – katastrophales Modellversagen, gegnerische Exploits (Adversarial Exploits) oder emergentes Verhalten in komplexen Systemen. Die Tail-Risk-Governance umfasst das Stresstesting von Modellen in Extremszenarien, die Definition von Notfallplänen (Abschaltmechanismen, ausfallsichere Modi) und die Vorhaltung von Reserven (finanzieller, operativer Art) zur Abfederung von Schocks. Risikokennzahlen (z. B. Value at Risk) werden auf KI-gesteuerte Entscheidungskontexte ausgeweitet.
Praxisbeispiel:
Ein Inspektionsdienst für autonome Drohnen simuliert seltene Fehlerszenarien – wie GPS-Spoofing oder extreme Wetterbedingungen – und verifiziert, dass das System sicher landet, anstatt einen instabilen Flug fortzusetzen. Der Tail-Risk-Plan des Unternehmens umfasst Notlandeverfahren sowie redundante Kommunikationsverbindungen, um potenzielle Schäden zu minimieren.
