Transparence
Pratique consistant à rendre les processus des systèmes d'IA, la logique de décision et l'utilisation des données clairs et compréhensibles pour les parties prenantes à des fins de responsabilisation.
Définition
Comprend des divulgations destinées au public ou aux parties prenantes (fiches modèles, fiches techniques, documentation d'API) qui décrivent comment les données sont collectées, comment les modèles sont entraînés, quelles hypothèses ils intègrent et comment les décisions sont prises. La transparence comprend également des explications conviviales des décisions individuelles et des historiques de versions clairs. La gouvernance intègre des exigences de transparence dans les chartes de projet et impose des mises à jour régulières de la documentation à mesure que les systèmes évoluent.
Exemple concret
Une agence de santé publique publie une « fiche modèle » pour son prédicteur des hospitalisations liées à la COVID-19, détaillant les sources de données de formation, les indicateurs de performance par région, les limites connues et les journaux de mise à jour, permettant aux cliniciens et aux décideurs de comprendre les résultats du modèle et de s'y fier.
.svg)
