IA à enjeux élevés
Les applications d'IA dont les défaillances pourraient causer des dommages importants (par exemple, diagnostic médical, véhicules autonomes), nécessitant une gouvernance et une supervision renforcées.
Définition
Des systèmes dans lesquels les erreurs peuvent entraîner des blessures physiques, la ruine financière ou un préjudice sociétal. L'IA aux enjeux élevés exige une rigueur de gouvernance totale : évaluations de l'impact et des risques, vérification formelle ou essais cliniques, contrôles intégrés et surveillance en temps réel. Une certification et une approbation réglementaire (FDA, FAA, loi européenne sur l'IA) sont généralement requises avant le déploiement, et des audits de conformité continus sont obligatoires.
Exemple concret
Un service d'inspection des lignes à haute tension par drone autonome est considéré comme un enjeu majeur. Les protocoles de gouvernance nécessitent des tests sur simulateur de vol, une documentation officielle des dossiers de sécurité, des commandes à distance obligatoires pour l'opérateur humain et des audits de sécurité trimestriels avant d'autoriser toute mission d'inspection en direct.
.svg)
