Überwachungsrisiko
Die Gefahr, dass KI-Systeme zur invasiven Überwachung von Einzelpersonen oder Gruppen ausgenutzt werden können, wodurch die Privatsphäre und die bürgerlichen Freiheiten verletzt werden.
Definition
Das Potenzial, dass KI — insbesondere Tools zur Computervision und Verhaltensanalyse — genutzt werden könnte, um Menschen ohne Einwilligung zu verfolgen, zu profilieren oder zu diskriminieren. Zur Schadensbegrenzung gehören strenge Definitionen von Anwendungsfällen, Anonymisierungsanforderungen, Zugangskontrollen und Transparenzmaßnahmen (z. B. öffentliche Bekanntmachung von Überwachungszonen). Zur Unternehmensführung gehören regelmäßige Prüfungen des Einsatzes von Überwachungsmaßnahmen, Folgenabschätzungen in Bezug auf Bürgerrechte und rechtliche Überprüfungen, um die Einhaltung der Datenschutzgesetze sicherzustellen.
Real-World Example
Ein Stadtrat diskutierte über die Installation einer KI zur Objekterkennung mit intelligenten Kameras. Um dem Überwachungsrisiko zu begegnen, verordneten sie, dass Kameras Gesichter in Echtzeit verwischen, nur die Gesamtzahl der Fußgänger speichern und öffentliche Schilder anzeigen, die den Einsatz von KI erklären, um die Einhaltung der Datenschutzbestimmungen und der Erwartungen der Bürger sicherzustellen.
.svg)
