Dernière mise à jour :
Les applications d'IA dont les défaillances pourraient causer des préjudices importants (par exemple, le diagnostic médical ou les véhicules autonomes), nécessitant ainsi une gouvernance et une surveillance renforcées.
Systèmes où les erreurs peuvent entraîner des blessures physiques, la ruine financière ou des préjudices sociétaux. L'IA à fort enjeu exige une rigueur absolue en matière de gouvernance : évaluations d'impact et des risques, vérification formelle ou essais cliniques, contrôles avec intervention humaine et surveillance en temps réel. L'obtention de certifications et d'approbations réglementaires (FDA, FAA, Loi de l'UE sur l'IA) est généralement requise avant tout déploiement, et des audits de conformité réguliers sont obligatoires.
Exemple concret :
Un service d'inspection par drone autonome pour les lignes électriques est classé comme une activité à enjeux majeurs. Les protocoles de gouvernance exigent des essais sur simulateur de vol, une documentation formelle de l'analyse de sécurité, des commandes de reprise de contrôle à distance obligatoires par un opérateur humain et des audits de sécurité trimestriels avant d'autoriser toute mission d'inspection sur le terrain.
