Dernière mise à jour :
La menace que les systèmes d'IA ne soient exploités à des fins de surveillance intrusive d'individus ou de groupes, portant ainsi atteinte à la vie privée et aux libertés civiles.
Le risque que l'IA, en particulier les outils de vision par ordinateur et d'analyse comportementale, puisse être utilisée pour suivre, profiler ou discriminer des personnes sans leur consentement. L'atténuation de ce risque passe par des définitions strictes des cas d'usage, des exigences d'anonymisation, des contrôles d'accès et des mesures de transparence (par exemple, la signalisation publique des zones de surveillance). La gouvernance comprend des audits réguliers de l'utilisation de la surveillance, des évaluations d'impact sur les libertés civiles et des examens juridiques pour garantir la conformité avec les lois sur la protection de la vie privée.
Exemple concret :
Un conseil municipal a débattu de l'installation d'une IA de détection d'objets par caméra intelligente. Afin de pallier les risques liés à la surveillance, il a été exigé que les caméras floutent les visages en temps réel, ne stockent que les comptages agrégés de piétons et affichent une signalétique publique expliquant l'utilisation de l'IA, garantissant ainsi la conformité avec les réglementations sur la confidentialité et les attentes des citoyens.
