KI von Drittanbietern ist riskant.
Minimiere dieses Risiko.

Das EU-Gesetz über künstliche Intelligenz schafft den weltweit ersten umfassenden Rechtsrahmen für künstliche Intelligenz. Es kategorisiert KI-Systeme nach Risikostufen (minimales, begrenztes, hohes und inakzeptables Risiko), wobei strengere Anforderungen für Anwendungen mit höherem Risiko gelten. Das Gesetz verbietet bestimmte KI-Anwendungen, die als schädlich für Grundrechte angesehen werden, verlangt Transparenz für generative KI und erlegt KI-Anbietern mit hohem Risiko Verpflichtungen auf. Die meisten Bestimmungen, die im März 2024 verabschiedet wurden, werden bis 2026 gelten, sodass Unternehmen Zeit haben, ihre KI-Systeme an die neuen Vorschriften anzupassen.

Das seit Juli 2023 geltende Local Law 144 von New York City regelt den Einsatz automatisierter Tools zur Beschäftigungsentscheidung (AEDTs) bei Einstellungs- und Beförderungsentscheidungen. Es verpflichtet Arbeitgeber, jährliche Bias-Audits dieser KI-Tools durchzuführen, Ergebnisse zu veröffentlichen und Bewerber über den Einsatz von KI in ihrem Bewerbungsprozess zu informieren. Das Gesetz zielt darauf ab, algorithmische Diskriminierung zu verhindern, indem Fairness und Transparenz in beschäftigungsbezogenen KI-Systemen gewährleistet werden. Verstöße werden mit zivilrechtlichen Sanktionen von bis zu 1.500 USD pro Tag geahndet.

Das 2021 in Kraft getretene SB21-169 von Colorado befasst sich mit algorithmischer Diskriminierung in Versicherungspraktiken. Das Gesetz verbietet Versicherern, externe Verbraucherdaten, Algorithmen oder Prognosemodelle zu verwenden, die aufgrund von Rasse, Hautfarbe, nationaler Herkunft, Religion, Geschlecht, sexueller Orientierung, Behinderung oder anderen geschützten Merkmalen unfair diskriminieren. Versicherer müssen nachweisen, dass ihre KI-Systeme und Datenquellen nicht zu unfairer Diskriminierung führen, und sie müssen Aufzeichnungen über die Einhaltung der Vorschriften führen, damit sie behördlich überprüft werden können.

Der Artificial Intelligence and Data Act (AIDA) ist Teil der 2022 eingeführten kanadischen Gesetzesvorlage C-27 und zielt darauf ab, hochwirksame KI-Systeme durch Anforderungen an Risikobewertung, Minderungsmaßnahmen und Transparenz zu regulieren. Das Gesetz legt einen Rahmen für die Klassifizierung von KI-Systemen auf der Grundlage des Wirkungsgrads fest, verpflichtet Unternehmen dazu, den Betrieb ihrer KI-Systeme zu dokumentieren, und gibt der Regierung die Befugnis, die Einstellung des Einsatzes von KI mit hohem Risiko, der ernsthafte Schäden verursachen könnte, anzuordnen. Die Strafen für Verstöße können Millionen von Dollar erreichen.

Das NIST AI Risk Management Framework (RMF), das im Januar 2023 veröffentlicht wurde, bietet einen freiwilligen, flexiblen Ansatz für das Management von KI-Risiken im gesamten KI-Lebenszyklus. Es umreißt vier Kernfunktionen: Steuern, Kartieren, Messen und Verwalten. Es hilft Unternehmen dabei, Vertrauensfragen wie Fairness, Rechenschaftspflicht, Transparenz und Datenschutz zu lösen. Das Framework umfasst Implementierungsleitlinien für Unternehmen aller Größen und Sektoren, die es ihnen ermöglichen, KI-Systeme verantwortungsbewusst zu entwerfen, zu entwickeln, einzusetzen und zu evaluieren und gleichzeitig Innovationen zu fördern.

ISO 42001, veröffentlicht im April 2023, ist die erste internationale Norm für Managementsysteme für künstliche Intelligenz. Es bietet Unternehmen einen strukturierten Rahmen für die Entwicklung, Implementierung und kontinuierliche Verbesserung von KI-Managementpraktiken bei gleichzeitiger Bewältigung der damit verbundenen Risiken. Der Standard legt Anforderungen an Unternehmensführung, Transparenz, Fairness, Datenschutz, Sicherheit und technische Robustheit während des gesamten KI-Lebenszyklus fest. Durch die Einhaltung von ISO 42001 können Unternehmen ihr Engagement für eine verantwortungsvolle Entwicklung und Nutzung von KI unter Beweis stellen, das Vertrauen der Interessengruppen stärken, die Einhaltung gesetzlicher Vorschriften sicherstellen und eine Unternehmenskultur schaffen, die ethische KI-Innovationen fördert. Die Norm gilt für Unternehmen aller Größen und Branchen, unabhängig davon, ob sie KI-Systeme entwickeln oder einsetzen.

Das Aufsichtsschreiben SR 11-7 der Federal Reserve zum „Model Risk Management“ ist zu einem wichtigen Standard für die KI-Governance in Finanzinstituten geworden. Obwohl die moderne KI schon vor ihrer Bekanntheit entwickelt wurde, gelten ihre Prinzipien direkt für KI-Systeme: solide Modellentwicklung, Implementierung, Nutzung, Validierung durch qualifizierte unabhängige Parteien und Steuerung einschließlich Richtlinien, Rollen und Dokumentation. Finanzinstitute nutzen diesen Rahmen zunehmend, um die mit ihren KI-Anwendungen verbundenen Risiken zu managen, insbesondere solche, die sich auf Kreditentscheidungen auswirken.