Glossaire
Mis à jour
L’AI TRiSM va bien au-delà de la simple conformité réglementaire pour répondre aux réalités techniques de l’IA en production. Selon Gartner, il repose sur quatre piliers : l'explicabilité (compréhension de la logique du modèle), le ModelOps (gestion du cycle de vie), la sécurité des applications d'IA (défense contre les attaques) et la confidentialité des données. Pour les équipes de gouvernance d’entreprise, adopter l’AI TRiSM signifie passer d'une simple vérification de conformité à la mise en œuvre de défenses actives contre des menaces telles que l’empoisonnement de modèles et les attaques contradictoires.
Exemple
Une entreprise de technologie financière adopte l'AI TRiSM pour son modèle de notation de crédit. Au lieu de simplement documenter le modèle pour les autorités de régulation (Gouvernance), elle met en œuvre un « Entraînement contradictoire » pour s'assurer que les pirates ne peuvent pas contourner le score (Sécurité) ainsi qu'une « Détection de dérive » pour garantir la précision du modèle au fil du temps (Fiabilité), créant ainsi une boucle de confiance continue.