Last updated:
Ein Gesetz der Stadt New York, das jährliche Audits zur Überprüfung von Voreingenommenheit bei KI-Tools vorschreibt, die für Personalentscheidungen eingesetzt werden.
LL144 schreibt vor, dass in New York City eingesetzte automatisierte Systeme zur Entscheidungsfindung im Beschäftigungsbereich (Automated Employment Decision Tools, AEDT) einer unabhängigen Voreingenommenheitsprüfung (Bias Audit) auf unverhältnismäßige Auswirkungen (Disparate Impact) gegenüber geschützten Gruppen unterzogen werden müssen. Arbeitgeber sind verpflichtet, eine Zusammenfassung der Auditergebnisse zu veröffentlichen und Bewerber darüber zu informieren, dass ein automatisiertes System verwendet wird.
Real world example:
Ein in NYC ansässiges Unternehmen, das eine KI-gestützte Software zur Bewertung von Lebensläufen nutzt, beauftragt einen externen Prüfer mit der Verifizierung der Impact-Ratio des Tools. Anschließend veröffentlicht es die Zusammenfassung des Audits auf seiner Website, um die Anforderungen von LL144 im vollen Umfang zu erfüllen.
