Am Montagmorgen, dem 30. Oktober, erließ Präsident Biden eine lang erwartete Executive Order („EO“) zum Thema KI. Insbesondere zielt die EO darauf ab, die Art und Weise zu erweitern, wie die USA Künstliche Intelligenz nutzen werden, um bereits bestehende Ziele zu erreichen, und zugleich strengere Vorschriften für den privaten Einsatz von KI einzuführen, um potenzielle Risiken zu steuern. 

‍

Die EO ist bemerkenswert für ihren Umfang und ihre Ambition, wobei das Weiße Haus seine Absicht erklärt, weltweit eine Führungsrolle bei der Regulierung von KI zu übernehmen. Seit Präsident Biden am Montag unterzeichnet hat, gelten die Bestimmungen der EO in der größten Volkswirtschaft der Welt.

‍

Solch weitreichende Executive Orders sind selten. Eine entsprechende EO zum Datenschutz gab es nicht, was mit ein Grund dafür ist, dass die EU-Datenschutzgrundverordnung (DSGVO) rasch zum globalen Standard werden und den „Brussels Effect“ auslösen konnte. Diesmal scheint Präsident Biden entschlossen, dass die USA die weltweiten Bemühungen zur Regulierung von KI und zur Verbesserung der Governance anführen sollen. Dass die EO in der Woche des britischen AI Safety Summit veröffentlicht wurde, ist wahrscheinlich ein bewusster Versuch der Vereinigten Staaten, die Agenda zu setzen.

‍

Wenn Sie KI in Ihrem Unternehmen einsetzen, besteht eine gute Chance, dass Sie von der EO betroffen sind. Um Ihnen zu helfen, die möglichen Auswirkungen besser zu verstehen, hat Enzai nachfolgend die wichtigsten Erkenntnisse entlang von acht Säulen zusammengefasst, die jeweils auf gezielte strategische Bereiche ausgerichtet sind.

‍

Neue Standards für KI-Sicherheit und -Schutz

‍

Die erste Säule legt eine Reihe neuer Maßnahmen fest, um Standards für KI-Sicherheit und -Schutz zu setzen, mit dem Ziel, die Menschen in den USA vor potenziellen Risiken zu schützen.

‍

• Verpflichtende Weitergabe von Sicherheitstests: Entwickler leistungsstarker KI-Systeme werden verpflichtet, die Bundesregierung zu benachrichtigen, wenn sie neue Modelle testen, sowie Ergebnisse von Red-Team-Sicherheitstests und andere entscheidende Informationen weiterzugeben. Dieser Fokus auf Tests ist zu begrüßen – robuste Tests und die Überwachung von KI-Systemen können dazu beitragen, schädliche Ergebnisse bei der Einführung und Nutzung zu vermeiden.

• Entwicklung von Standards und Tests: Um die Sicherheit und den Schutz von KI-Systemen vor ihrer öffentlichen Freigabe zu gewährleisten, wird das National Institute of Standards and Technology strenge neue Standards für Red-Team-Tests entwickeln. Das Department of Homeland Security wird diese Standards auf kritische Infrastruktursektoren anwenden, indem ein AI Safety and Security Board eingerichtet wird. Darüber hinaus werden das Energieministerium und das Department of Homeland Security Bedrohungen durch KI-Systeme für kritische Infrastrukturen sowie verschiedene Risiken angehen, darunter chemische, biologische, radiologische, nukleare und cybersicherheitsbezogene Risiken.

• Überprüfung biologischer Synthesen: Es werden neue, strenge Standards entwickelt, um dem Missbrauch von KI zur Herstellung gefährlicher biologischer Materialien entgegenzuwirken. Behörden, die Life-Science-Projekte fördern, werden verpflichtet, diese Standards als Voraussetzung für Bundesmittel einzuführen.

• Betrugsprävention mit KI-Unterstützung: Das Handelsministerium wird die Führung bei der Entwicklung von Standards und Best Practices zur Erkennung von KI-generierten Inhalten und zur Authentifizierung offizieller Inhalte durch Wasserzeichen übernehmen. Bundesbehörden werden diese Instrumente einsetzen, um Vertrauen in die Authentizität staatlicher Kommunikation zu schaffen.

• Fortschrittliches Cybersicherheitsprogramm: Aufbauend auf der laufenden AI Cyber Challenge der Biden-Harris-Administration wird ein Programm geschaffen, um Schwachstellen in kritischer Cybersicherheitssoftware zu identifizieren und zu beheben sowie die Netzwerksicherheit zu stärken. 

• National Security Memorandum: Der Nationale Sicherheitsrat und der Stabschef des Weißen Hauses werden ein National Security Memorandum erarbeiten, um weitere Maßnahmen zur Gewährleistung eines sicheren, ethischen und wirksamen Einsatzes von KI durch das US-Militär und die Nachrichtendienste anzuweisen. Das Memorandum wird auch Maßnahmen umfassen, um dem Einsatz von KI durch feindlich gesinnte Mächte entgegenzuwirken.

‍

Schutz der Privatsphäre der Menschen in den USA

‍

Die zweite Säule der EO ist der Schutz der Privatsphäre des Einzelnen vor zunehmend leistungsfähigen, unregulierten KI-Modellen.

‍

• Gesetzgebung zum Datenschutz: Präsident Biden ruft den Kongress auf, überparteiliche Datenschutzgesetzgebung zu verabschieden.

• Datenschutzwahrende Verfahren: Die EO fordert die Priorisierung der bundesstaatlichen Unterstützung für die Entwicklung und Nutzung datenschutzwahrender Verfahren. Diese sollten hochmoderne KI einbeziehen und es ermöglichen, KI-Systeme zu trainieren, ohne den Datenschutz zu beeinträchtigen.

• Forschung und Technologien zum Schutz der Privatsphäre: Es werden Mittel bereitgestellt, um ein Research Coordination Network einzurichten, das die Forschung an kryptografischen Werkzeugen zum Schutz der Privatsphäre des Einzelnen voranbringen wird. Das Netzwerk wird mit der National Science Foundation zusammenarbeiten, um die Einführung modernster datenschutzwahrender Technologien durch Bundesbehörden zu fördern.

• Bewertung kommerziell verfügbarer Informationen: Bundesbehörden werden prüfen, wie sie kommerziell verfügbare Informationen erheben und nutzen, insbesondere Daten mit personenbezogenen Informationen von Datenmaklern. Die Datenschutzleitlinien für Bundesbehörden werden verschärft, um KI-bezogene Risiken angemessen zu berücksichtigen.

• Leitlinien für datenschutzwahrende Verfahren: Bundesbehörden werden Leitlinien entwickeln, um die Wirksamkeit datenschutzwahrender Verfahren für KI zu bewerten.

‍

Förderung von Chancengleichheit und Bürgerrechten

‍

Die dritte Säule der EO besteht darin sicherzustellen, dass KI Chancengleichheit und Bürgerrechte in den USA voranbringt, statt sie zu untergraben.

‍

• Verhinderung von Diskriminierung: Vermietern, Programmen für Bundesleistungen und Bundesauftragnehmern werden klare Leitlinien an die Hand gegeben, um den Einsatz von KI-Algorithmen zu verhindern, die Diskriminierung verstärken.

• Bekämpfung von Diskriminierung: Das Justizministerium und die Bundesstellen für Bürgerrechte werden einen mehrschichtigen Ansatz verfolgen, um Best Practices für die Untersuchung und Verfolgung von mit KI verbundenen Verstößen gegen Bürgerrechte zu etablieren und algorithmische Diskriminierung anzugehen, einschließlich Schulungen und technischer Unterstützung.

• Fairness im Strafjustizsystem: Es werden Best Practices für den Einsatz von KI in verschiedenen Bereichen des Strafjustizsystems entwickelt, darunter Urteilsfindung, Bewährung, Probezeit, vorläufige Freilassung, Haft, Risikobewertungen, Überwachung, Kriminalitätsprognosen, vorausschauende Polizeiarbeit und forensische Analyse.

‍

Schutz und Unterstützung von Verbraucherinnen und Verbrauchern, Patientinnen und Patienten sowie Studierenden

‍

Die vierte Säule der EO stellt sicher, dass KI Verbraucherinnen und Verbrauchern greifbare Vorteile bringt.

‍

• Verantwortungsvoller Einsatz im Gesundheitswesen: Das Department of Health and Human Services wird ein Sicherheitsprogramm einrichten, um Meldungen über Schäden oder unsichere Gesundheitspraktiken im Zusammenhang mit KI entgegenzunehmen und zu beheben.

• Bildung mit KI transformieren: Es werden Ressourcen geschaffen, um Lehrkräfte beim Einsatz KI-gestützter Bildungswerkzeuge zu unterstützen, einschließlich personalisierter Nachhilfe an Schulen.

‍

Unterstützung von Beschäftigten

‍

Die fünfte Säule besteht darin, KI so zu lenken, dass die Produktivität der Beschäftigten steigt, während Risiken wie verstärkte Überwachung am Arbeitsplatz, Verzerrungen und Arbeitsplatzverdrängung minimiert werden.

‍

• Grundsätze und Best Practices: Diese werden entwickelt, um die negativen Auswirkungen zu mindern und die Vorteile von KI für Beschäftigte zu maximieren. Dazu gehören die Themen Arbeitsplatzverdrängung, Arbeitsstandards, Chancengleichheit am Arbeitsplatz, Gesundheit, Sicherheit und Datenerhebung.

• Studie zu Auswirkungen auf den Arbeitsmarkt: Es wird ein Bericht erstellt, um die potenziellen Auswirkungen von KI auf den Arbeitsmarkt zu untersuchen. Dabei werden Optionen zur Stärkung der Bundesunterstützung für Beschäftigte ermittelt, die von arbeitsmarktbezogenen Störungen betroffen sind, einschließlich solcher, die durch KI verursacht werden.

‍

Förderung von Innovation und Wettbewerb

‍

Die sechste Säule würdigt die Stärke der USA bei KI-Innovationen und skizziert Maßnahmen, um Innovation und Wettbewerb weiter zu fördern.

‍

• Beschleunigung der KI-Forschung: Ein Pilotprojekt der National AI Research Resource wird gestartet, um Forschern und Studierenden im Bereich KI Zugang zu wesentlichen KI-Ressourcen und Daten zu verschaffen, sowie zusätzliche Fördermittel für KI-Forschung in kritischen Bereichen wie Gesundheitswesen und Klimawandel bereitzustellen.

• Unterstützung kleiner Entwickler und Unternehmer: Die Regierung wird kleinen Entwicklern und Unternehmern Zugang zu technischer Unterstützung und Ressourcen verschaffen, um ein faires, offenes und wettbewerbsfähiges KI-Ökosystem zu fördern. Die Federal Trade Commission wird ermutigt, in diesem Zusammenhang ihre Befugnisse auszuüben.

• Vereinfachung der Visakriterien: Vorhandene Befugnisse werden genutzt, um hochqualifizierten Einwanderern und Nichteinwanderern mit Fachkenntnissen in kritischen Bereichen die Möglichkeit zu erweitern, in den USA zu studieren, zu arbeiten und zu leben.

‍

Ausbau der amerikanischen Führungsrolle im Ausland

Die siebte Säule besteht darin, die wachsende Kraft der KI zu nutzen, um die amerikanische Führungsrolle und Einflusskraft international auszubauen.

• Internationale Kooperationen: Die Zusammenarbeit im Bereich KI wird durch bilaterale, multilaterale und engagements mit mehreren Interessengruppen erweitert. Das Außenministerium wird in Zusammenarbeit mit dem Handelsministerium den Aufbau robuster internationaler Rahmenwerke anführen, um die Vorteile von KI zu nutzen und die damit verbundenen Risiken zu steuern, mit besonderem Fokus auf Sicherheit.

• Entwicklung zentraler KI-Standards: Die Entwicklung und Umsetzung wesentlicher KI-Standards in Zusammenarbeit mit internationalen Partnern und Normungsorganisationen wird beschleunigt, um sicherzustellen, dass KI auf globaler Ebene sicher, geschützt, vertrauenswürdig und interoperabel ist.

• Förderung verantwortungsvoller KI weltweit: Die verantwortungsvolle, sichere und rechtewahrende Entwicklung und Einführung von KI auf globaler Ebene wird gefördert.

‍

Sicherstellung eines verantwortungsvollen und wirksamen staatlichen Einsatzes von KI

Die achte und letzte Säule von Präsident Bidens EO soll sicherstellen, dass die US-Regierung KI-Technologie verantwortungsvoll und wirksam einsetzt.

• Leitlinien für Behörden: Die Behörden erhalten Leitlinien für den Einsatz von KI, einschließlich klarer Standards zum Schutz von Rechten und Sicherheit, zur Verbesserung der KI-Beschaffung und zur Stärkung der Einführung von KI-Technologien.

• Effiziente KI-Beschaffung: Es werden Maßnahmen umgesetzt, die Behörden helfen sollen, KI-Produkte und -Dienstleistungen schneller, kosteneffizienter und effizienter zu beschaffen.

• KI-Talentoffensive: Das Office of Personnel Management, der U.S. Digital Service, das U.S. Digital Corps und das Presidential Innovation Fellowship werden eine ressortübergreifende schnelle Einstellungsinitiative im Bereich KI anführen.

‍

Wie geht es weiter?

Wie die obige Zusammenfassung deutlich macht, ist die EO außerordentlich umfassend und zielt darauf ab, die Chancen und Risiken von KI über das gesamte Spektrum der sozialen, außenpolitischen und wirtschaftspolitischen US-Politik hinweg zu steuern.

Auf nationaler Ebene muss die Bundesregierung die EO nun durch die Erstellung zahlreicher Leitlinien, Programme und Durchsetzungsmechanismen umsetzen. Neue Verantwortlichkeiten wurden nicht nur vielen Bundesressorts – darunter State, Commerce, Homeland Security und Energy – übertragen, sondern auch einer großen Zahl kleinerer Bundesbehörden. Es ist wahrscheinlich, dass es mindestens einige Monate dauern wird, bis viele der in der EO genannten Punkte weiter konkretisiert und umgesetzt werden. 

Wie bei diesen Arten von Dokumenten üblich, steckt der Teufel im Detail; bislang ist die Reaktion der Branche auf den mutigen Vorstoß des Weißen Hauses in Sachen KI-Regulierung jedoch weitgehend positiv. Der eigentliche Erfolg dieser EO wird davon abhängen, wie wirksam Bundesbehörden und Organisationen die Kernprinzipien und Regeln dieses Rahmens übernehmen und integrieren können.

Da in dieser Woche der britische AI Safety Summit stattfindet und die EU nun die entscheidenden Endphasen ihrer Trilog-Verhandlungen zum EU AI Act erreicht, steht die Welt ganz im Zeichen der KI-Regulierung. Wir hoffen, dass es den Gesetzgebern gelingt, diese supranationalen Regulierungsinitiativen ausreichend aufeinander abzustimmen, damit Unternehmen die notwendige Sicherheit erhalten, um KI mit Zuversicht zu entwickeln, bereitzustellen und zu nutzen.

‍

Enzai ist die führende Unternehmensweite KI-Governance-Plattform, die speziell dafür entwickelt wurde, Organisationen vom abstrakten Regelwerk zur operativen Aufsicht zu führen. Unsere KI-Risikomanagement-Plattform bietet die spezialisierte Infrastruktur, die erforderlich ist, um Governance agentischer KI zu steuern, ein umfassendes KI-Inventar zu pflegen und die Einhaltung des EU AI Act sicherzustellen. Durch die Automatisierung komplexer Workflows ermöglicht Enzai Unternehmen, die Einführung von KI mit Zuversicht zu skalieren und dabei die Ausrichtung an globalen Standards wie ISO 42001 und NIST beizubehalten.