Le potentiel de résultats rares et extrêmes dans le comportement ou la prise de décision de l'IA qui dépassent les attentes normales et nécessitent une planification spéciale d'atténuation.
Se concentre sur des événements à faible probabilité mais à fort impact — défaillances catastrophiques des modèles, exploits adversariaux ou comportements émergents dans des systèmes complexes. La gouvernance du risque de queue comprend des tests de résistance des modèles sur des scénarios extrêmes, la définition de plans de contingence (interrupteurs d’arrêt d’urgence, modes de sûreté), et le maintien de réserves (financières, opérationnelles) pour absorber les chocs. Les indicateurs de risque (par ex., la Value at Risk) sont étendus afin de couvrir les contextes décisionnels pilotés par l’IA.
Un service d’inspection par drones autonomes simule des modes de défaillance rares — usurpation de signal GPS, conditions météorologiques extrêmes — et vérifie que le système effectue un atterrissage en toute sécurité plutôt que de poursuivre un vol instable. Le plan de gestion des risques extrêmes de l’entreprise comprend des procédures d’immobilisation d’urgence au sol et des liaisons de communication redondantes afin de minimiser les dommages potentiels.
