Dernière mise à jour :
Garantir que les systèmes d'IA fonctionnent en toute sécurité dans toutes les conditions, en particulier dans des secteurs tels que l'automobile ou la santé, souvent grâce à la redondance et à des processus de contrôle.
Consiste à concevoir des systèmes capables de détecter, de tolérer et de corriger les défaillances matérielles et logicielles sans causer de préjudice. Les normes de sécurité fonctionnelle (ISO 26262, IEC 61508) imposent des analyses de risques, des mécanismes de sécurité intégrée, de la redondance, une vérification formelle des exigences de sécurité ainsi qu'une documentation sur le cycle de vie de la sécurité. La gouvernance garantit que les niveaux d'intégrité de sécurité (SIL) sont attribués et maintenus tout au long du développement et de l'exploitation.
Exemple concret :
Un équipementier de véhicules autonomes conçoit des architectures de perception redondantes (LiDAR + radar + caméras). Chaque chaîne de fusion de capteurs fonctionne de manière indépendante, et un contrôleur de sécurité vérifie les données de sortie par recoupement. En cas de divergence, le véhicule passe en mode d'arrêt sécurisé. L'ensemble des activités de sécurité et des essais est documenté conformément à la norme ISO 26262 afin d'obtenir la certification ASIL-D.
