Glossar
Aktualisiert
Das Potenzial, dass KI, insbesondere Werkzeuge zur Bilderkennung und Verhaltensanalyse, dazu verwendet werden könnte, Personen ohne deren Zustimmung zu verfolgen, zu profilieren oder zu diskriminieren. Die Risikominderung umfasst strenge Definitionen von Anwendungsfällen, Anforderungen zur Anonymisierung, Zugriffskontrollen sowie Transparenzmaßnahmen (z. B. öffentliche Hinweise in Überwachungszonen). Die Governance beinhaltet regelmäßige Audits des Überwachungseinsatzes, Folgenabschätzungen bezüglich der Bürgerrechte sowie rechtliche Prüfungen zur Gewährleistung der Konformität mit Datenschutzgesetzen.
Beispiel
Ein Stadtrat debattierte über die Installation von KI-gestützter Objekterkennung mittels intelligenter Kameras. Um Überwachungsrisiken zu begegnen, wurde vorgeschrieben, dass die Kameras Gesichter in Echtzeit verpixeln, ausschließlich aggregierte Fußgängerzahlen speichern und öffentliche Hinweisschilder zur Erläuterung der KI-Nutzung anbringen, um so die Einhaltung von Datenschutzvorschriften und gesellschaftlichen Erwartungen zu gewährleisten.