Glossaire
Mis à jour
Se concentre sur les événements à faible probabilité mais à fort impact : défaillances catastrophiques des modèles, attaques adverses ou comportements émergents dans les systèmes complexes. La gouvernance des risques extrêmes comprend des tests de résistance des modèles sur des scénarios extrêmes, la définition de plans d'urgence (mécanismes d'arrêt d'urgence, modes de sécurité intégrés) et le maintien de réserves (financières, opérationnelles) pour absorber les chocs. Les indicateurs de risque (par exemple, la valeur à risque) sont élargis pour couvrir les contextes décisionnels pilotés par l'IA.
Exemple
Un service d'inspection par drones autonomes simule des modes de défaillance rares, tels que l'usurpation de signal GPS ou des conditions météorologiques extrêmes, et vérifie que le système atterrit en toute sécurité plutôt que de poursuivre un vol instable. Le plan de gestion des risques extrêmes de l'entreprise comprend des procédures d'atterrissage d'urgence et des liaisons de communication redondantes afin de minimiser les dommages potentiels.