Risque de surveillance
La menace que les systèmes d'IA puissent être exploités pour surveiller de manière invasive des individus ou des groupes, portant ainsi atteinte à la vie privée et aux libertés civiles.
Définition
La possibilité que l'IA, en particulier les outils de vision par ordinateur et d'analyse du comportement, puisse être utilisée pour suivre, profiler ou discriminer des personnes sans leur consentement. L'atténuation implique des définitions de cas d'utilisation strictes, des exigences d'anonymisation, des contrôles d'accès et des mesures de transparence (par exemple, notification publique des zones de surveillance). La gouvernance comprend des audits réguliers de l'utilisation de la surveillance, des analyses d'impact sur les droits civils et des examens juridiques pour garantir le respect des lois sur la confidentialité.
Exemple concret
Un conseil municipal a débattu de l'installation d'une IA de détection d'objets par caméra intelligente. Pour faire face aux risques liés à la surveillance, ils ont exigé que les caméras floutent les visages en temps réel, enregistrent uniquement le nombre total de piétons et affichent des panneaux publics expliquant l'utilisation de l'IA, garantissant ainsi la conformité aux réglementations en matière de confidentialité et aux attentes civiques.
.svg)
