Garantir que les systèmes d'IA fonctionnent en toute sécurité dans toutes les conditions, en particulier dans des secteurs tels que l'automobile ou la santé, souvent par le biais de redondances et de vérifications.
Implique la conception de systèmes capables de détecter, de tolérer et de corriger les défaillances matérielles/logicielles sans causer de préjudice. Les normes de sécurité fonctionnelle (ISO 26262, IEC 61508) exigent des analyses de dangers, des mécanismes de repli sûr, de la redondance, une vérification formelle des exigences de sécurité, ainsi qu’une documentation du cycle de vie de la sécurité. La gouvernance garantit que les niveaux d’intégrité de sécurité (SIL) sont attribués et maintenus tout au long du développement et de l’exploitation.
Un OEM de véhicules autonomes conçoit des piles de perception redondantes (LiDAR + radar + caméras). Chaque chaîne de fusion de capteurs fonctionne de manière indépendante, et un moniteur de sécurité recoupe les résultats. En cas d’écart, le véhicule passe en mode d’arrêt sécurisé. Toutes les activités et tous les essais liés à la sécurité sont documentés conformément à la norme ISO 26262 afin d’obtenir la certification ASIL-D.
