Die Bedrohung, dass KI-Systeme für invasive Überwachung von Einzelpersonen oder Gruppen ausgenutzt werden könnten, wobei die Privatsphäre und bürgerliche Freiheiten verletzt werden.
Das Potenzial, dass KI – insbesondere Computer-Vision- und Verhaltensanalyse-Tools – genutzt werden könnte, um Personen ohne deren Einwilligung zu überwachen, zu profilieren oder zu diskriminieren. Die Risikominderung umfasst strikt definierte Anwendungsfälle, Anforderungen an die Anonymisierung, Zugriffskontrollen und Transparenzmaßnahmen (z. B. öffentliche Hinweise auf Überwachungszonen). Zur Governance gehören regelmäßige Audits der Überwachungsnutzung, Folgenabschätzungen hinsichtlich der Bürgerrechte sowie rechtliche Prüfungen, um die Einhaltung von Datenschutzgesetzen sicherzustellen.
Ein Stadtrat diskutierte die Einführung einer KI zur Objekterkennung mittels intelligenter Kameras. Um Überwachungsrisiken zu begegnen, schrieb er vor, dass Kameras Gesichter in Echtzeit unkenntlich machen, ausschließlich aggregierte Fußgängerzahlen speichern und öffentliche Hinweisschilder zur Erläuterung der KI-Nutzung anzeigen – und so die Einhaltung von Datenschutzvorschriften und gesellschaftlichen Erwartungen sicherstellen.
