Dernière mise à jour :
La possibilité d'obtenir des résultats rares et extrêmes dans le comportement ou la prise de décision de l'IA, qui sortent du cadre des attentes normales et nécessitent une planification d'atténuation spécifique.
Se concentre sur les événements à faible probabilité mais à fort impact : défaillances catastrophiques des modèles, failles contradictoires ou comportements émergents dans les systèmes complexes. La gouvernance du risque de queue comprend des tests de résistance des modèles sur des scénarios extrêmes, la définition de plans d'urgence (mécanismes d'arrêt d'urgence, modes de sécurité intégrés) et le maintien de réserves (financières, opérationnelles) pour absorber les chocs. Les indicateurs de risque (par exemple, la valeur à risque) sont élargis pour couvrir les contextes décisionnels pilotés par l'IA.
Exemple concret :
Un service d'inspection par drones autonomes simule des modes de défaillance rares — usurpation de signal GPS, conditions météorologiques extrêmes — et vérifie que le système atterrit en toute sécurité plutôt que de poursuivre un vol instable. Le plan de gestion des risques extrêmes de l'entreprise comprend des procédures d'atterrissage d'urgence et des liaisons de communication redondantes afin de minimiser les dommages potentiels.
