Un acronyme inventé par Gartner signifiant Gestion de la Confiance, des Risques et de la Sécurité de l'IA ; un cadre qui unifie la gouvernance, la fiabilité et la sécurité en une seule stratégie opérationnelle.
L’AI TRiSM va au-delà de la simple conformité réglementaire pour traiter les réalités techniques de l’IA en production. Selon Gartner, il repose sur quatre piliers : l’explicabilité (compréhension de la logique du modèle), le ModelOps (gestion du cycle de vie), la sécurité des applications d’IA (protection contre les attaques) et la confidentialité des données. Pour les équipes de gouvernance d’entreprise, adopter l’AI TRiSM signifie passer d’une logique de « cases à cocher » à la mise en œuvre de défenses actives contre des menaces telles que l’empoisonnement de modèles et les attaques adversariales.
Une entreprise fintech adopte l’IA TRiSM pour son modèle de notation de crédit. Au lieu de simplement documenter le modèle à destination des régulateurs (gouvernance), elle met en œuvre un « entraînement antagoniste » afin de garantir que des pirates ne puissent pas tromper le score (sécurité), ainsi qu’une « détection de dérive » pour assurer que le modèle conserve sa précision dans le temps (fiabilité), créant ainsi une boucle continue de confiance.
