Das Potenzial für seltene, extreme Ergebnisse im Verhalten oder in der Entscheidungsfindung von KI, die außerhalb normaler Erwartungen liegen und spezielle Maßnahmenplanung erfordern.
Konzentriert sich auf Ereignisse mit geringer Eintrittswahrscheinlichkeit, aber hoher Auswirkung – katastrophale Modellfehler, adversarielle Angriffe oder emergentes Verhalten in komplexen Systemen. Die Governance von Tail-Risiken umfasst Stresstests von Modellen anhand extremer Szenarien, die Definition von Notfallplänen (Kill Switches, ausfallsichere Modi) sowie die Vorhaltung von Reserven (finanziell, operativ), um Schocks abzufedern. Risikokennzahlen (z. B. Value at Risk) werden erweitert, um KI-gestützte Entscheidungskontexte abzudecken.
Ein Inspektionsdienst für autonome Drohnen simuliert seltene Ausfallmodi – GPS-Spoofing, extreme Wetterbedingungen – und überprüft, dass das System sicher landet, anstatt einen instabilen Flug fortzusetzen. Der Tail-Risk-Plan des Unternehmens umfasst Notfallverfahren zur sofortigen Bodenstilllegung sowie redundante Kommunikationsverbindungen, um potenzielle Schäden zu minimieren.
