Dernière mise à jour :
Les principes FEAT de la MAS sont quatre principes couvrant l'équité, l'éthique, la responsabilité et la transparence, publiés par l'Autorité monétaire de Singapour le 12 novembre 2018, afin d'encadrer l'utilisation responsable de l'intelligence artificielle et de l'analyse des données dans le secteur financier singapourien. Il s'agit de directives non contraignantes, et non de règles exécutoires, qui s'appuient sur la méthodologie d'évaluation Veritas.
Que signifie le sigle FEAT ?
Les principes FEAT définissent quatre domaines d'attentes pour les institutions financières qui utilisent l'intelligence artificielle et l'analyse de données (AIDA) :
Équité (Fairness). Les décisions fondées sur l'AIDA ne doivent pas désavantager systématiquement des personnes ou des groupes sans justification. Les décisions doivent être justifiables, les données et les modèles doivent être régulièrement révisés afin d'en vérifier l'exactitude et d'éviter les biais involontaires, et les critères utilisés doivent être pertinents par rapport à la décision.
Éthique (Ethics). L'utilisation de l'AIDA doit être conforme aux normes éthiques, aux valeurs et aux codes de conduite de l'institution, et doit être soumise à des exigences au moins équivalentes à celles appliquées aux décisions prises par des personnes physiques.
Responsabilité (Accountability). Une responsabilité interne pour les décisions fondées sur l'AIDA, approuvée par une autorité compétente, et une responsabilité externe envers les clients concernés par ces décisions.
Transparence (Transparency). Une communication proactive auprès des personnes concernées concernant l'utilisation de l'AIDA, ainsi qu'une explication claire des décisions fondées sur l'AIDA sur simple demande.
Les principes FEAT sont-ils obligatoires ?
Non. Les principes FEAT constituent des lignes directrices non contraignantes émises par la MAS (l'Autorité monétaire de Singapour), et non une réglementation assortie de sanctions directes. Ils s'apparentent à des attentes de nature prudentielle. La MAS les utilise comme point de référence pour encadrer la gouvernance de l'IA par les institutions financières singapouriennes, et les entreprises sont invitées à expliciter leur approche au regard de ces principes. Ils fonctionnent davantage comme une norme que comme une règle. Les entreprises ne se voient pas infliger d'amendes en cas de non-respect, mais elles doivent être en mesure de justifier leur position.
Comment les entreprises démontrent-elles leur conformité aux principes FEAT ?
La MAS a complété ces principes par l'initiative Veritas, un effort de consortium qui a produit des méthodologies d'évaluation traduisant chaque principe FEAT en étapes vérifiables, ainsi que des boîtes à outils open source. Le cadre AI Verify de Singapour propose une méthode d'évaluation complémentaire. Ensemble, ces dispositifs permettent de passer des principes théoriques du FEAT à des preuves documentées, ce que les autorités de contrôle exigent de consulter.
Quelles sont les implications du FEAT pour les programmes de gouvernance de l'IA ?
Le FEAT met l'accent sur la première ligne de défense. Le responsable métier qui déploie un modèle est responsable de ses résultats, et non pas uniquement la fonction de gestion des risques de modèles ou de conformité. Par conséquent, les registres d'intégration et d'attribution des responsabilités sont tout aussi importants que la validation. La plupart des entreprises opérationnalisent cette démarche en consignant, pour chaque cas d'usage de l'AIDA, un responsable désigné, l'évaluation d'équité réalisée, les attributs de données utilisés ainsi que les informations communiquées aux clients. Il s'agit de la même base de données probantes requise pour une gouvernance automatisée de l'IA.
Exemple concret :
Une banque de Singapour évalue son modèle d'aide à la décision en matière de prêts hypothécaires basé sur l'IA au regard du principe d'équité, en utilisant la méthodologie Veritas. L'examen révèle que le modèle utilise le code postal comme variable, ce qui est corrélé à l'origine ethnique dans certains quartiers et fait office de variable de substitution. La banque supprime cette variable, teste à nouveau les résultats disparates entre les différents groupes de demandeurs, consigne la justification de chaque attribut restant et attribue la responsabilité des résultats du modèle au responsable désigné de l'activité hypothécaire, plutôt qu'à l'équipe de science des données qui l'a conçu.
