Last updated:
Un processus formel visant à évaluer les conséquences potentielles du déploiement d'un système d'intelligence artificielle sur les individus, les groupes et la société dans son ensemble.
Requise par la clause 6.1.4 de la norme ISO 42001, cette évaluation se distingue d'une analyse de risques classique en se concentrant sur les préjudices externes plutôt que sur les risques organisationnels internes. Elle impose aux équipes d'examiner des dimensions telles que les libertés civiles, l'impact environnemental et les bouleversements économiques, afin de cartographier la manière dont un système d'IA pourrait altérer la vie d'un utilisateur final ou d'une communauté.
Real world example:
Une entreprise de véhicules autonomes réalise une évaluation de l'impact du système d'IA afin de déterminer comment son modèle de navigation influence les conditions de circulation dans les quartiers à faibles revenus par rapport aux zones à hauts revenus.
