Zuletzt aktualisiert am:
Ein formelles Verfahren zur Bewertung der potenziellen Folgen des Einsatzes eines KI-Systems auf Einzelpersonen, Gruppen und die Gesellschaft als Ganzes.
Diese gemäß ISO 42001 Klausel 6.1.4 erforderliche Folgenabschätzung unterscheidet sich von einer Standard-Risikobewertung dadurch, dass sie sich auf externe Schäden statt auf interne organisatorische Risiken konzentriert. Sie zwingt Teams dazu, Dimensionen wie bürgerliche Freiheiten, Umweltauswirkungen und wirtschaftliche Verdrängung zu berücksichtigen und abzubilden, wie ein KI-System das Leben eines Endnutzers oder einer Gemeinschaft verändern könnte.
Praxisbeispiel:
Ein Unternehmen für autonome Fahrzeuge führt eine Folgenabschätzung für KI-Systeme (AI System Impact Assessment) durch, um zu ermitteln, wie sich sein Navigationsmodell auf die Verkehrsmuster in einkommensschwachen Vierteln im Vergleich zu einkommensstarken Gebieten auswirkt.
