Last updated:
Ein formelles Verfahren zur Bewertung der potenziellen Folgen des Einsatzes eines KI-Systems auf Einzelpersonen, Gruppen und die Gesellschaft als Ganzes.
Diese gemäß ISO 42001 Klausel 6.1.4 erforderliche Folgenabschätzung unterscheidet sich von einer Standard-Risikoanalyse dadurch, dass sie den Fokus auf externe Schäden anstelle von internen organisatorischen Risiken legt. Sie zwingt Teams dazu, Dimensionen wie bürgerliche Freiheiten, Umweltauswirkungen und wirtschaftliche Verdrängung zu berücksichtigen und systematisch zu erfassen, wie ein KI-System das Leben eines Endnutzers oder einer Gemeinschaft verändern könnte.
Real world example:
Ein Unternehmen für autonome Fahrzeuge führt eine KI-System-Folgenabschätzung durch, um zu ermitteln, wie sich sein Navigationsmodell auf die Verkehrsmuster in einkommensschwachen Vierteln im Vergleich zu einkommensstarken Gebieten auswirkt.
