Des systèmes d'IA conçus et exploités de manière éthique, fiable, sûre et en adéquation avec les valeurs humaines et les normes sociétales.
Elle englobe la robustesse technique, l’équité, la transparence, la protection de la vie privée et la supervision humaine. Les programmes d’IA dignes de confiance définissent des critères mesurables pour chaque dimension (p. ex., seuils de biais, garanties de disponibilité), les intègrent aux pipelines de développement (évaluations d’impact, audits) et suivent des KPI éthiques dans des tableaux de bord de gouvernance. Un engagement continu des parties prenantes, des audits externes et la publication de rapports de transparence renforcent la fiabilité au fil du temps.
Un gouvernement utilise un cadre de confiance pour son IA dédiée aux prestations de chômage : il exige des examens éthiques formels, publie un tableau de bord de transparence présentant les erreurs et les biais du modèle, impose une supervision humaine pour les dérogations d’éligibilité et commande des audits annuels réalisés par des tiers, garantissant ainsi que le système demeure digne de confiance aux yeux des citoyens et des autorités de régulation.
