Ethische Folgenabschätzung
Ein systematischer Bewertungsprozess zur Identifizierung und Behandlung der ethischen Implikationen und potenziellen gesellschaftlichen Auswirkungen von KI-Systemen vor dem Einsatz.
Definition
Eine strukturierte Bewertung — ähnlich einer Umweltverträglichkeitsstudie —, bei der beabsichtigte Anwendungsfälle, betroffene Interessengruppen, Datenquellen, potenzielle Vorurteile und nachgelagerte gesellschaftliche Auswirkungen untersucht werden. Sie gipfelt in einem Aktionsplan zur Risikominderung, in Konsultationen mit Interessenträgern und in der Überwachung nach dem Einsatz. Ethik-KIA wird häufig durch behördliche Rahmenbedingungen vorgeschrieben und hilft dabei, unbeabsichtigte Schäden aufzudecken.
Real-World Example
Vor der Einführung einer KI zur prädiktiven Polizeiarbeit führt eine Gemeinde eine ethische Folgenabschätzung durch: Sie bezieht die Gemeindeleiter mit ein, simuliert Einsatzszenarien, identifiziert Risiken einer übermäßigen Überwachung von Minderheitengebieten und passt die Risikoschwellen und Aufsichtsprotokolle des Modells an, um die bürgerlichen Freiheiten zu schützen.
.svg)
