Zuletzt aktualisiert am:
Die Gefahr, dass KI-Systeme für eine invasive Überwachung von Einzelpersonen oder Gruppen missbraucht werden könnten, was die Privatsphäre und die bürgerlichen Freiheiten verletzt.
Das Potenzial, dass KI – insbesondere Werkzeuge zur Bilderkennung und Verhaltensanalyse – dazu verwendet werden könnte, Personen ohne deren Zustimmung zu verfolgen, zu profilieren oder zu diskriminieren. Die Risikominderung umfasst strenge Definitionen von Anwendungsfällen, Anforderungen zur Anonymisierung, Zugriffskontrollen sowie Transparenzmaßnahmen (z. B. öffentliche Hinweise in Überwachungszonen). Die Governance beinhaltet regelmäßige Audits des Überwachungseinsatzes, Folgenabschätzungen bezüglich der Bürgerrechte sowie rechtliche Prüfungen zur Gewährleistung der Konformität mit Datenschutzgesetzen.
Praxisbeispiel:
Ein Stadtrat debattierte über die Installation von KI-gestützter Objekterkennung mittels intelligenter Kameras. Um Überwachungsrisiken zu begegnen, wurde vorgeschrieben, dass die Kameras Gesichter in Echtzeit verpixeln, ausschließlich aggregierte Fußgängerzahlen speichern und öffentliche Hinweisschilder zur Erläuterung der KI-Nutzung anbringen – um so die Einhaltung von Datenschutzvorschriften und gesellschaftlichen Erwartungen zu gewährleisten.
