Vérification formelle
Prouver mathématiquement que les algorithmes d'IA sont conformes à des propriétés d'exactitude spécifiées, souvent utilisées dans les systèmes critiques pour la sécurité.
Définition
Applique des méthodes formelles (vérification de modèles, démonstration de théorèmes) pour vérifier des propriétés telles que les invariants, l'absence d'erreurs d'exécution ou les contraintes de sécurité. La vérification formelle est gourmande en ressources et convient parfaitement aux composants critiques (par exemple, les systèmes de contrôle dans l'automobile, l'avionique). La gouvernance nécessite de définir des spécifications formelles, de sélectionner des outils de preuve appropriés et de maintenir les preuves parallèlement aux mises à jour du code.
Exemple concret
Une entreprise aérospatiale utilise la vérification formelle sur son module d'évitement des collisions pour drones autonomes. Ils spécifient des invariants de sécurité (« la distance par rapport aux obstacles ne doit jamais descendre en dessous de 2 mètres ») et utilisent un vérificateur de modèles pour prouver que le logiciel des commandes de vol respecte ces invariants dans toutes les conditions de vol modélisées, garantissant ainsi la préparation à la certification.
.svg)
