Matrice Jacobienne
En termes d'explicabilité de l'IA, la matrice de toutes les dérivées partielles d'ordre un des sorties d'un modèle par rapport à ses entrées, utilisée pour évaluer la sensibilité et l'importance des caractéristiques.
Un outil mathématique qui quantifie comment de légers changements dans chaque dimension d'entrée affectent chaque dimension de sortie—dans les réseaux neuronaux, il peut être utilisé pour calculer des cartes de saillance ou mesurer la sensibilité locale. La gouvernance utilise des métriques basées sur le Jacobien pour identifier les vulnérabilités (par exemple, la sensibilité aux attaques adverses) et pour générer des explications mettant en évidence les caractéristiques d'entrée qui influencent le plus une décision donnée.
Dans un système d'IA pour l'imagerie médicale, les ingénieurs calculent le Jacobien pour chaque pixel par rapport à la probabilité de "tumeur". Les régions de grande magnitude sur la carte de saillance révèlent quelles zones de l'image influencent le diagnostic, aidant ainsi les radiologues à vérifier que le modèle se concentre sur des caractéristiques anatomiques plausibles plutôt que sur des artefacts.
Nous vous aidons à trouver des réponses
Quel problème Enzai résout-il ?
Enzai fournit une infrastructure de niveau entreprise pour gérer les risques et la conformité de l'IA. Il crée un système centralisé où les systèmes d'IA, les modèles, les ensembles de données et les décisions de gouvernance sont documentés, évalués et audités.
Pour qui Enzai est-il conçu ?
En quoi Enzai se distingue-t-il des autres outils de gouvernance ?
Pouvons-nous commencer si nous n'avons pas de processus de gouvernance de l'IA existant ?
La gouvernance de l'IA freine-t-elle l'innovation ?
Comment Enzai s'aligne-t-il avec l'évolution des réglementations en matière d'IA ?
Recherche, perspectives et mises à jour
Donnez à votre organisation les moyens d'adopter, de gérer et de surveiller l'IA avec une confiance de niveau entreprise. Conçu pour les organisations réglementées opérant à grande échelle.