Dernière mise à jour :
Un acronyme créé par Gartner signifiant AI Trust, Risk, and Security Management (gestion de la confiance, des risques et de la sécurité de l'IA) ; un cadre de référence qui unifie la gouvernance, la fiabilité et la sécurité au sein d'une stratégie opérationnelle unique.
L’AI TRiSM va bien au-delà de la simple conformité réglementaire pour répondre aux réalités techniques de l’IA en production. Selon Gartner, il repose sur quatre piliers : l'explicabilité (compréhension de la logique du modèle), le ModelOps (gestion du cycle de vie), la sécurité des applications d'IA (défense contre les attaques) et la confidentialité des données. Pour les équipes de gouvernance d’entreprise, adopter l’AI TRiSM signifie passer d'une simple vérification de conformité à la mise en œuvre de défenses actives contre des menaces telles que l’empoisonnement de modèles et les attaques contradictoires.
Exemple concret :
Une entreprise de technologie financière adopte l'AI TRiSM pour son modèle de notation de crédit. Au lieu de simplement documenter le modèle pour les autorités de régulation (Gouvernance), elle met en œuvre un « Entraînement contradictoire » pour s'assurer que les pirates ne peuvent pas contourner le score (Sécurité) ainsi qu'une « Détection de dérive » pour garantir la précision du modèle au fil du temps (Fiabilité), créant ainsi une boucle de confiance continue.
