Zeitgleich mit den Ausführungen von US-Vizepräsident JD Vance auf dem AI Action Summit im Grand Palais befand ich mich in der OECD zu einem Tag voller Podiumsdiskussionen über KI-Sicherheit, -Governance und -Ethik. Es war dieselbe Stadt, nur wenige Straßen voneinander entfernt, und doch fühlte es sich wie eine völlig andere Welt an. Im Grand Palais war das Konzept der Regulierung von KI eine politische Zielscheibe, während amerikanische Innovation und Dynamik im Mittelpunkt standen. Bei der OECD hingegen war man der Ansicht, dass die Notwendigkeit einer KI-Regulierung noch nie so dringlich war.

Dies war anders als alle anderen KI-Gipfel, die ich bisher besucht habe. Die Stimmung war anders und gespalten, was meines Erachtens weitgehend die aktuelle westliche Stimmung widerspiegelt. Wir erleben derzeit weltweit einen massiven Wandel der öffentlichen Meinung – Debatten über Einwanderung, internationalen Handel und die Rolle des Staates schaffen (oder verschärfen, je nachdem, wie man es betrachtet) tiefe gesellschaftliche Gräben in den westlichen Demokratien.

Regulatorische Gegenreaktionen

Dieser Bruch war in Paris, wo Regierungsvertreter und Branchenexperten zusammenkamen, um die neuesten Entwicklungen im Bereich der KI zu diskutieren, sehr deutlich zu spüren. Im krassen Gegensatz zum ersten Gipfeltreffen des Vereinigten Königreichs unter dem Titel „AI Safety Summit“ stand in Paris das Thema der schnellen Innovation und die Angst, ins Hintertreffen zu geraten, im Vordergrund. Die Stimmung ist eindeutig – es ist Zeit für „plug, baby, plug“1, und die Idee, bahnbrechende Technologien zu regulieren, steht im direkten Visier. Ist das nur Opportunismus par excellence oder ist es etwas weitaus Gefährlicheres?

Ich verstehe die Stimmung hinter einem Großteil dieser regulatorischen Gegenreaktionen nicht nur, ich teile sie auch. Das mag aus dem Mund des Gründers eines Start-ups für KI-Governance seltsam und kontraproduktiv klingen, aber ich glaube fest daran. Ich bin enorm begeistert von dem Potenzial von KI-Technologien, unser Leben zum Besseren zu verändern. Wir brauchen unermüdliche Innovationen, um dies zu erreichen, und ein Rahmenwerk aus schlecht gestalteten Regeln wird uns nicht dorthin bringen. Unsinnige Regeln, die den Marktteilnehmern unnötige und oft unrealistische Lasten auferlegen, helfen niemandem und stellen eine legitime Bedrohung für Fortschritt und Innovation dar.

Aber stellen Sie sich für eine Sekunde ein alternatives Universum vor, da das Adjektiv „schlecht gestaltet“ im obigen Absatz die gesamte Arbeit leistet. Was wäre, wenn wir stattdessen einige hilfreiche Regeln entwerfen würden? Der Spruch „Gute Gesetze sind gut und schlechte Gesetze sind schlecht“ war im digitalen Zeitalter noch nie so wahr wie heute. Wenn KI-Regulierungen kontextspezifisch formuliert würden und den einzigartigen Attributen der Technologien und dem gesellschaftlichen Kontext, in dem sie eingesetzt werden, Rechnung trügen, wäre dies nicht ein Nettogewinn für die Gesellschaft? Eine gute Regulierung ist ein Weg, um sicherzustellen, dass böswillige Akteure kontrolliert und für Verstöße bestraft werden und dass Organisationen, die die Gesellschaft positiv voranbringen wollen, dies innerhalb eines starken Rahmens mit hohen Standards tun können. Mit dem richtigen Rahmenwerk kann Innovation florieren, da alle Teilnehmer dasselbe Spiel nach denselben Regeln spielen.

Regeln sind nicht per se schlecht

Sind Sie von dieser neuen Sichtweise noch nicht überzeugt? Dann betrachten Sie einige dieser Prinzipien einmal außerhalb des Kontexts. Das Rugbyspiel ist genau wegen der Regeln das, was es ist, unter denen die beiden gegnerischen Mannschaften das Spiel bestreiten. Wir können und sollten über den Nutzen einiger dieser Regeln debattieren (ich denke, die Regel für das Halten über der Linie ist für die angreifende Mannschaft zu hart und nimmt die Spannung), aber niemand fordert, die Spielregeln völlig abzuschaffen. Die jüngsten Regeln zum Schutz des Kopfes eines Spielers beim Tackling waren in der Umsetzung mühsam, sind aber sowohl für das Wohlergehen der Spieler als auch für das langfristige Überleben des Spiels von entscheidender Bedeutung. Tatsächlich ermöglichen diese neuen Regeln dem Spiel nicht nur zu überleben, sondern zu florieren.

Die Ära der sozialen Medien bietet eine ernüchternde Lektion über die Kosten regulatorischer Untätigkeit. Über ein Jahrzehnt lang durften Plattformen auf Milliarden von Nutzern anwachsen, ohne dass ihre Datenpraktiken, Content-Algorithmen oder Auswirkungen auf die psychische Gesundheit von Jugendlichen praktisch kontrolliert wurden. Dies war ein innovationsorientierter Ansatz, bei dem das Mantra buchstäblich lautete: „Schnell sein und Dinge kaputt machen“. Die Ergebnisse dieses Ansatzes wurden schmerzhaft deutlich: beispiellose Datenschutzverletzungen wie bei Cambridge Analytica, unter Druck geratene demokratische Institutionen und dokumentierte Schäden für die psychische Gesundheit von Teenagern. Als die Regulierungsbehörden zu handeln begannen, waren diese Probleme bereits tief verwurzelt und weitaus schwieriger zu lösen.

Anwendung dieser Analyse auf die KI-Regulierung

Und wir können sehen, wie sich dieses Muster bei der KI wiederholen könnte. Wenn wir Schnelligkeit über Rechenschaftssysteme stellen, riskieren wir, die Fundamente zu untergraben, die Fortschritt überhaupt erst ermöglichen. Eine der beständigsten Kritiken an der KI-Regulierung ist das Argument, dass sie Schultern, die diese Last nicht tragen können, zusätzliche, komplexe regulatorische Bürden auferlegt. Das klingt auf den ersten Blick nach einer berechtigten Kritik, ist aber im Fall des EU AI Acts schlichtweg nicht wahr. Die Implementierung von Systemen wie einem Risikomanagementsystem (Artikel 9) („RMS“) und einem Qualitätsmanagementsystem (Artikel 17) („QMS“) für KI-Technologien, die eindeutig sehr risikoreich sind, ist nicht zu viel verlangt. Tatsächlich werden qualitativ hochwertige Unternehmen dies ohnehin tun, da es in ihrem kommerziellen Interesse liegt – es hilft, das Vertrauen der Kunden aufzubauen. Und wenn Sie der Meinung sind, dass der EU AI Act kleinere Unternehmen ungerechtfertigt benachteiligt, sollten Sie auf die kluge KMU-Formulierung in Artikel 99 Absatz 6 bezüglich der Sanktionen achten. Vor allem aber gilt: So wie KI dazu beitragen kann, die Medizin, das Recht und das Finanzwesen zu verändern, so kann sie auch bei der Einhaltung von Vorschriften helfen. Die KI-Governance-Plattform von Enzai ermöglicht es Organisationen, umfassende KI-Compliance-Programme effizient und in großem Maßstab zu implementieren.

Die KI-Haftungsrichtlinie ist ein besonders bedauerliches Opfer des diesjährigen KI-Gipfels. Zur kurzen Erinnerung: Die Haftungsrichtlinie sollte sicherstellen, dass ein Kläger, der durch ein KI-System einen Schaden erlitten hat, den tiefgehenden Kausalzusammenhang zwischen dem KI-System und dem verursachten Schaden nicht nachweisen muss. Die Richtlinie sah zudem eine starke widerlegbare Vermutung zugunsten jedes Beklagten vor, der sein QMS und RMS nachweisen konnte. Unter dem Strich mag dies zwar wie ein pro-innovativer Schritt erscheinen, ist aber in Wahrheit das genaue Gegenteil. Das Ergebnis ist Rechtsunsicherheit, was der Deregulierung nicht hilft, sondern die Lücken darin noch vergrößert.

Ein Blick in die Zukunft

Am Tag nach dem AI Action Summit veranstaltete Anthropic seinen ersten AI Builders Summit in Paris. Es war beruhigend zu hören, wie Anthropic-CEO Dario Amodei die „verpasste Chance“ des Gipfels beschrieb und die Diskussion wieder auf Sicherheit, Transparenz und die Gewährleistung, dass alle am wirtschaftlichen Aufschwung der sehr leistungsfähigen KI teilhaben, lenkte. Die Zukunft der KI wird nicht von denjenigen entschieden werden, die in prunkvollen Palästen am lautesten schreien. Sie wird von denjenigen gestaltet werden, die bereit sind, die ruhige, methodische Arbeit zu leisten, um herauszufinden, wie man diese leistungsstarken Werkzeuge zuverlässig und verantwortungsvoll einsetzen kann.

‍

1 Der französische Präsident Emmanuel Macron prägte diesen Begriff während einer Rede auf dem AI Action Summit

‍

Enzai ist die führende Plattform für Enterprise-KI-Governance, die speziell entwickelt wurde, um Unternehmen beim Übergang von abstrakten Richtlinien zur operativen Aufsicht zu unterstützen. Unsere KI-Risikomanagement-Plattform bietet die spezialisierte Infrastruktur, die für die Verwaltung von agentischer KI-Governance, die Führung eines umfassenden KI-Inventars und die Gewährleistung der Einhaltung des EU AI Acts erforderlich ist. Durch die Automatisierung komplexer Workflows ermöglicht Enzai es Unternehmen, die Einführung von KI vertrauensvoll zu skalieren und gleichzeitig die Ausrichtung an globalen Standards wie ISO 42001 und NIST beizubehalten.