La menace que les systèmes d'IA puissent être exploités pour une surveillance intrusive des individus ou des groupes, portant atteinte à la vie privée et aux libertés civiles.
Le potentiel de l’IA — en particulier des outils de vision par ordinateur et d’analyse comportementale — à être utilisée pour suivre, profiler ou discriminer des personnes sans leur consentement. L’atténuation repose sur des définitions strictes des cas d’usage, des exigences d’anonymisation, des contrôles d’accès et des mesures de transparence (p. ex., avis public des zones sous surveillance). La gouvernance comprend des audits réguliers de l’usage de la surveillance, des évaluations de l’impact sur les droits civils et des examens juridiques afin de garantir la conformité aux lois sur la protection de la vie privée.
Un conseil municipal a débattu de l’installation d’une IA de détection d’objets par caméras intelligentes. Afin de réduire les risques liés à la surveillance, il a imposé que les caméras floutent les visages en temps réel, ne conservent que des comptages agrégés de piétons et affichent une signalétique publique expliquant l’usage de l’IA — garantissant ainsi la conformité aux réglementations sur la protection de la vie privée et aux attentes citoyennes.
