Sécurité fonctionnelle
Veiller à ce que les systèmes d'IA fonctionnent en toute sécurité dans toutes les conditions, en particulier dans des secteurs tels que l'automobile ou la santé, souvent par le biais de la redondance et des contrôles.
Définition
Implique la conception de systèmes permettant de détecter, de tolérer et de réparer les défaillances matérielles/logicielles sans causer de dommages. Les normes de sécurité fonctionnelle (ISO 26262, IEC 61508) exigent des analyses des dangers, des mécanismes de sécurité, une redondance, une vérification formelle des exigences de sécurité et une documentation du cycle de vie de sécurité. La gouvernance garantit que les niveaux d'intégrité de sécurité (SIL) sont attribués et maintenus tout au long du développement et de l'exploitation.
Exemple concret
Un constructeur de véhicules autonomes construit des piles de perception redondantes (LiDAR + radar + caméras). Chaque pipeline de fusion de capteurs fonctionne indépendamment et un moniteur de sécurité recoupe les sorties. En cas de divergence, le véhicule passe en mode arrêt sécurisé. Toutes les activités et tous les tests de sécurité sont documentés conformément à la norme ISO 26262 pour obtenir la certification ASIL-D.
.svg)
