Last updated:
Les applications d'IA dont les défaillances pourraient causer des préjudices significatifs (par exemple, les diagnostics médicaux, les véhicules autonomes), nécessitant une gouvernance et une supervision accrues.
Des systèmes dans lesquels des erreurs peuvent entraîner des blessures physiques, la ruine financière ou des préjudices sociétaux. L’IA à enjeux élevés exige une rigueur de gouvernance totale : évaluations d’impact et des risques, vérification formelle ou essais cliniques, contrôles humains dans la boucle et supervision en temps réel. La certification et l’approbation réglementaire (FDA, FAA, règlement européen sur l’IA) sont généralement requises avant le déploiement, et des audits de conformité continus sont imposés.
Real world example:
Un service d’inspection des lignes électriques par drones autonomes est classé comme étant à enjeux élevés. Les protocoles de gouvernance exigent des essais sur simulateur de vol, une documentation formelle du dossier de sécurité, des contrôles obligatoires de reprise en main à distance par un opérateur humain, ainsi que des audits de sécurité trimestriels avant d’autoriser toute mission d’inspection en conditions réelles.
