Unsere Antwort auf den 'pro-innovations' KI-Rahmen des Vereinigten Königreichs

Wir freuen uns, unsere Stellungnahme zu dem kürzlich veröffentlichten Grundsatzpapier des Office for Artificial Intelligence der britischen Regierung mit dem Titel „Establishing a pro-innovation approach to regulating AI“ (Etablierung eines innovationsfreundlichen Ansatzes zur Regulierung von KI) zu teilen. Wir möchten dem Office for Artificial Intelligence für seine bisherige Arbeit zu diesem unglaublich wichtigen Thema danken und freuen uns sehr, künftig Teil der Diskussion zu sein. Erfahren Sie, wie Enzai Sie bei der Bewältigung der sich entwickelnden KI-Regulierungen unterstützen kann.

PER E-MAIL: evidence@officeforai.gov.uk

Stellungnahme zum Grundsatzpapier „Establishing a pro-innovation approach to regulating AI“ vom 20. Juli 2022 (das „Grundsatzpapier“)

Zur Einführung: Enzai ist ein neues Startup-Unternehmen mit Sitz in Belfast, Nordirland. Gegründet im August 2021 von Ryan Donnelly (einem führenden Anwalt im Gesellschafts- und Regulierungsrecht) und Jack Carlisle (einem erfahrenen Software-Entwickler), haben wir es uns zur Aufgabe gemacht, dafür zu sorgen, dass leistungsstarke Technologien der künstlichen Intelligenz („KI“) künftig zum Nutzen der gesamten Gesellschaft eingesetzt werden.

Unser besonderes Augenmerk gilt dem Schutz vor den erheblichen Risiken, die mit KI einhergehen. Über unsere Softwareplattform sind unsere Kunden in der Lage, ihre KI-Systeme mit dem Goldstandard der KI-Entwicklungspraktiken zu vergleichen, die aggregierte KI-Governance-Position in ihrem gesamten Unternehmen zu verstehen und ihren Systemen die notwendigen Governance-Kontrollmechanismen aufzuerlegen, um deren Erfolg zu sichern. Auf diese Weise ermöglichen wir unseren Kunden den Aufbau sicherer und robusterer Systeme, die nicht nur den einzelnen Organisationen, die die Technologien nutzen, sondern der gesamten Gesellschaft zugutekommen.

Wir sind fest von der Kraft der Regulierung als ermöglichende Kraft überzeugt, die das Potenzial hat, Innovationen im KI-Bereich voranzutreiben. Technologien dieser Tragweite benötigen vernünftige Leitplanken, um sicherzustellen, dass zukünftige Entwicklungen der Wirtschaft und der Gesellschaft zugutekommen. Dies stellt eine enorme Chance für das Vereinigte Königreich dar. Angesichts des juristischen Hintergrunds unseres Gründers sind wir uns des weltweiten Rufs des Vereinigten Königreichs für seine Regulierungssysteme und seine Rechtsstaatlichkeit sehr wohl bewusst. Wir sind fest davon überzeugt, dass das Vereinigte Königreich in der einzigartigen Position ist, mit einem intelligenten Regulierungsrahmen beträchtliche Talente und Investitionen im KI-Bereich anzuziehen. Um diese Chance optimal zu nutzen, sollte jeder Regulierungsrahmen die folgenden Prinzipien berücksichtigen. Er sollte: (1) zielgerichtet sein, damit die Regulierung mit dem geringsten Maß an Intervention die größte Wirkung erzielt; (2) kontextgesteuert sein, unter Berücksichtigung der einzigartigen Umstände der Technologie und der Bereiche, in denen sie angewendet wird; und (3) klar sein, damit die Marktteilnehmer Gewissheit darüber haben, was von ihnen erwartet wird.

In diesem Sinne begrüßen wir die in diesem Grundsatzpapier vorgelegten Vorschläge als wichtigen Schritt zur Etablierung des Vereinigten Königreichs als innovationsfreundlichen KI-Standort. Wir freuen uns, Ihnen im Folgenden unsere Antworten auf die im Grundsatzpapier aufgeworfenen Einzelfragen vorzulegen.

Was sind die wichtigsten Herausforderungen bei unserem derzeitigen Ansatz zur Regulierung von KI? Haben Sie Ansichten zu den wichtigsten Lücken, Überschneidungen oder Widersprüchen?

Als allgemeine Anmerkung ist der im Grundsatzpapier dargelegte risikobasierte Ansatz ein vernünftiger Ausgangspunkt für diesen Vorschlag – wir möchten betonen, dass jeder regulatorische Eingriff den oben genannten Grundsätzen entsprechen muss.

Wir nehmen den Wunsch der Regierung zur Kenntnis, den Einsatz von KI zu regulieren, nicht die KI selbst. Unserer Ansicht nach ist eine ausschließliche Fokussierung auf die nachgelagerten Auswirkungen der KI bei ihrer Nutzung zu kurz gegriffen. Der Regulierungsrahmen sollte ganzheitlich sein und alle Aspekte des KI-Lebenszyklus berücksichtigen, um sicherzustellen, dass die Systeme sicher und robust sind. Ein Versäumnis, vernünftige Leitplanken für andere Aspekte des Entwicklungslebenszyklus bereitzustellen (wie die vorgelagerten Aufgaben der Kuratierung und Vorbereitung von Datensätzen und die mittleren Aufgaben der Modellierung, des Trainings, des Testens und der Evaluierung), lässt erheblichen Raum für Unklarheiten und Verwirrung. Eine willkommene Ergänzung dieses Ansatzes wäre es, den Marktteilnehmern über den gesamten Entwicklungslebenszyklus hinweg angemessene Erwartungen für Systeme mit hohem Risikopotenzial aufzuerlegen. Dies könnte in Form der Anforderung einer bestimmten technischen Dokumentation und der Einrichtung eines Risikomanagementsystems für diese Formen von KI geschehen. Die von uns entwickelte Softwareplattform würde erheblich dazu beitragen, die administrative Belastung zu verringern, die diese Anforderungen für Marktteilnehmer bedeuten könnten.

Der im Grundsatzpapier dargelegte Ansatz bezüglich der Definition von KI ist interessant und das Konzept einer auf „Kernmerkmalen“ basierenden Interpretation ist vielversprechend. Wir glauben jedoch, dass dies noch weiter gehen könnte – es wäre möglich, eine erschöpfende Liste von Technologien zu erstellen, die eindeutig als KI eingestuft werden können, um die Interpretation zu erleichtern. Die Analyse der Kernmerkmale könnte dann auf Grenzfälle angewendet werden, und jede neue KI-Technologie könnte nach ihrer Erfindung der Liste hinzugefügt werden. Dennoch erkennen wir an, dass dies eine administrative Belastung für die Regulierungsbehörden bedeuten würde. Daher würden wir weitere Diskussionen über das Potenzial dieses spezifischen Vorschlags begrüßen.

Wir haben mit Freude zur Kenntnis genommen, dass dieser Bereich sich derzeit organisch, unstrukturiert und in rasantem Tempo entwickelt hat, was die Orientierung für die Marktteilnehmer extrem erschwert. Es gibt viele Regierungsstellen, die unterschiedliche Rahmenwerke, Roadmaps und Richtlinien veröffentlichen, sodass es schwierig geworden ist, den Überblick zu behalten. Wir sehen darin eine erhebliche Herausforderung und würden uns eine wesentliche Vereinfachung der KI-Gremien und politischen Entscheidungsträger im Vereinigten Königreich wünschen, mit einer zentralen Anlaufstelle (Single Source of Truth) für die Marktteilnehmer. Dieser Vorschlag soll keinen Widerspruch zu dem im Grundsatzpapier befürworteten sektoralen Ansatz darstellen. Vielmehr sollte diese zentrale Anlaufstelle die Teilnehmer bei Bedarf zu den sektorspezifischen Rahmenwerken und Regulierungsbehörden leiten.

‍

Stimmen Sie dem in diesem Dokument dargelegten, kontextgesteuerten Ansatz zu, der durch die etablierten Regulierungsbehörden des Vereinigten Königreichs umgesetzt wird? Was sehen Sie als Vorteile dieses Ansatzes? Was sind die Nachteile?

Der kontextbasierte Ansatz zur Regulierung von KI ist im Prinzip vernünftig. Um sicherzustellen, dass der Ansatz wirklich effektiv ist, betonen wir, dass der Kontext allumfassend ist – er schließt alle Aspekte der Technologie selbst sowie den spezifischen Domänenkontext ein, in dem sie eingesetzt wird. Aus unserer Erfahrung im Austausch mit Marktteilnehmern wissen wir, dass verschiedene Branchen (Gesundheitswesen, Finanzen, Automobilindustrie usw.) unterschiedliche Ansätze beim Aufbau und der Implementierung dieser Technologien verfolgen. Darüber hinaus muss der kontextbasierte Ansatz zielgerichtet sein (um maximale Wirkung bei minimalem Eingriff zu erzielen) und klar (damit Marktteilnehmer ihre Pflichten leicht verstehen können). Um sein Potenzial voll auszuschöpfen, muss der kontextbasierte Ansatz durch zusätzliche Richtlinien und Leitfäden ergänzt werden.

Stimmen Sie zu, dass wir eine Reihe von sektorübergreifenden Prinzipien festlegen sollten, um unseren Gesamtansatz zu leiten? Decken die vorgeschlagenen sektorübergreifenden Prinzipien die allgemeinen Probleme und Risiken ab, die von KI-Technologien ausgehen? Was fehlt gegebenenfalls?

Sorgfältig ausgearbeitete Prinzipien stellen ein starkes Fundament für ein hochfunktionales KI-Ökosystem dar. Nach unserer Erfahrung gehen Prinzipien allein jedoch selten weit genug. Es handelt sich meist um vage Konzepte, die sich nur schwer in praxistaugliche Maßnahmen übersetzen lassen. Beispielsweise würden die meisten zustimmen, dass KI-Systeme fair und sicher sein sollten, aber bei der Frage, was fair und sicher in einem bestimmten praktischen Szenario tatsächlich bedeutet, würden die Meinungen weit auseinandergehen. Marktteilnehmer würden enorm von einem klar definierten, eindeutigen Satz von Verpflichtungen profitieren, der konsistent und mit Sicherheit angewendet werden kann. Daher müssen Prinzipien durch konkretere Anforderungen untermauert werden, um sicherzustellen, dass sie in der Praxis effektiv umgesetzt werden können.

Es gilt, ein Gleichgewicht zu finden, wo das angemessene Maß an Spezifität zwischen den Prinzipien und diesen konkreten Anforderungen liegen sollte. Die Festlegung eines detaillierten Katalogs von Anforderungen zur Regulierung von KI, der für alle Sektoren gilt, könnte zu einer starren Regulierung führen, die in bestimmten Situationen nicht zweckmäßig ist. In Anerkennung dieser Einschränkung unterstützen wir den kontextgesteuerten Ansatz. Wenn man dagegen zu viele Details der Definition auf sektoraler Ebene überlässt, besteht die Gefahr einer inkonsistenten Anwendung, was das Vertrauen in das System untergraben und dem Ruf des Vereinigten Königreichs für Rechtsstaatlichkeit im Bereich der KI schaden würde. Daher ist auch dieser Ansatz nicht ideal.

Es ist wichtig darauf hinzuweisen, dass der letztgenannte Ansatz erhebliche praktische Auswirkungen hat. Trotz der Nuancen zwischen den einzelnen Branchen gibt es keine klaren Trennlinien auf sektoraler Basis – tatsächlich überschneidet sich der Einsatz dieser Technologien in verschiedenen Branchen oft erheblich. Jede sektorale Regulierungsbehörde müsste ihre eigene Interpretation der Kernprinzipien vornehmen, was schnell zu einer Fragmentierung, Inkonsistenz und Unübersichtlichkeit führen würde. Ein Ansatz, der diese Komplexität anerkennt und versucht, auf ganzheitlicher Ebene zusätzliche Klarheit zu schaffen, um Konsistenz zu gewährleisten, wäre eine willkommene Ergänzung des Vorschlags.

Haben Sie erste Vorstellungen davon, wie wir unseren Ansatz am besten umsetzen können? Was sind aus Ihrer Sicht einige der wichtigsten praktischen Erwägungen? Was muss das Regulierungssystem leisten, um unseren Ansatz umzusetzen? Wie können wir die Leitlinien der Regulierungsbehörden zur KI am besten rationalisieren und koordinieren?

Der vorgeschlagene Ansatz, den Vorschlag auf eine nicht-gesetzliche Grundlage zu stellen, ist verständlich. Da dieser Bereich noch sehr neu ist, ist ein kontinuierlicher Entwicklungsprozess für alle Rahmenregelungen erforderlich, und eine nicht-gesetzliche Grundlage würde die schnellen Feedbackschleifen ermöglichen, die eine rasche Entwicklung erfordert. Der Nachteil einer nicht-gesetzlichen Grundlage besteht darin, dass der Vorschlag nicht das gleiche Maß an Engagement und Marktbeteiligung erfahren wird, wie es bei einer gesetzlichen Initiative der Fall wäre. Es besteht die Gefahr, dass nicht-gesetzliche Leitlinien, die bei Nichteinhaltung keine Konsequenzen nach sich ziehen, vom Markt weitgehend ignoriert werden. Die Landschaft freiwilliger Prinzipien und Rahmenwerke für KI-Ethik ist bereits sehr vielfältig und unübersichtlich – angesichts begrenzter Ressourcen und zahlreicher konkurrierender Anforderungen vermuten wir, dass sich die Marktteilnehmer stattdessen auf die Einhaltung anderer globaler Regelungen konzentrieren würden (wie den EU AI Act oder spezifische Rahmenwerke, die in ihrer jeweiligen Branche bereits etabliert sind).

Der Vorteil einer gesetzlichen Grundlage zu Beginn besteht darin, dass der Vorschlag ernster genommen und intensiver diskutiert würde. Die notwendige Feedbackschleife zur Gewährleistung einer schnellen und effektiven Weiterentwicklung des Vorschlags könnte durch Sandboxing-Initiativen realisiert werden. Ob dies auf eine gesetzliche Grundlage gestellt werden sollte, ist letztlich eine politische Entscheidung. Sollte dies jedoch der Fall sein, würden wir einen solchen Schritt unterstützen. Unserer Ansicht nach gibt es Raum, um das Vereinigte Königreich als innovationsfreundlichen Vorreiter für sichere und robuste KI zu etablieren. Ein Parlamentsgesetz, das viele der im Grundsatzpapier aufgeworfenen und hier beantworteten Fragen aufgreift, würde wesentlich zur Erreichung dieses Ziels beitragen.

Erwarten Sie Herausforderungen für Unternehmen, die in mehreren Rechtsordnungen tätig sind? Haben Sie erste Vorstellungen davon, wie unser Ansatz den grenzüberschreitenden Handel und die internationale Zusammenarbeit am effektivsten unterstützen könnte?

Im Grundsatzpapier wird zu Recht darauf hingewiesen, dass in diesem digitalen Zeitalter sorgfältig geprüft werden muss, wie regulatorische Initiativen in diesem Bereich mit anderen nationalen und internationalen Rahmenwerken zusammenwirken. Wie bereits erwähnt, setzen viele andere Rechtsordnungen mittlerweile eigene KI-Vorschriften und -Richtlinien um.

Marktteilnehmer auf der ganzen Welt würden generell von einem harmonisierten Ansatz zur Regulierung von KI über verschiedene Rechtsordnungen hinweg profitieren, und wir gehen davon aus, dass jedes System hier im Vereinigten Königreich diese im Entstehen begriffenen globalen Standards zum Nutzen der Bürger im Vereinigten Königreich ergänzen wird. Alle weitergehenden Erwägungen zum grenzüberschreitenden Handel und zur internationalen Zusammenarbeit sind wahrscheinlich außerhalb der in diesem Grundsatzpapier behandelten Fragen besser aufgehoben.

‍

Sind Ihnen robuste Datenquellen bekannt, die die Überwachung der Wirksamkeit unseres Ansatzes unterstützen können, sowohl auf Ebene der einzelnen Regulierungsbehörde als auch auf Systemebene?

Ja – die von uns entwickelte Softwareplattform wird es Regulierungsbehörden ermöglichen, die Wirksamkeit ihres Ansatzes sowohl auf der gesamten Systemebene als auch auf der Ebene der einzelnen Regulierungsbehörde zu überwachen. Wir arbeiten bereits mit einigen wichtigen Designpartnern zusammen, die unsere Plattform nutzen, um detaillierte KI-Prinzipien zu implementieren, die Einhaltung dieser Prinzipien in ihrer gesamten Organisation zu messen und effektive Governance-Schranken einzurichten, um sicherzustellen, dass ihre Systeme so robust und sicher wie möglich sind. Wir würden uns freuen, den Austausch mit dem Office for Artificial Intelligence weiter zu vertiefen, um unsere Erkenntnisse hier zu teilen.

‍

Enzai ist die führende Plattform für Enterprise-KI-Governance, die speziell dafür entwickelt wurde, Unternehmen beim Übergang von abstrakten Richtlinien zur operativen Aufsicht zu unterstützen. Unsere KI-Risikomanagement-Plattform bietet die spezialisierte Infrastruktur, die erforderlich ist, um agentische KI-Governance zu verwalten, ein umfassendes KI-Inventar zu führen und die Einhaltung des EU AI Acts sicherzustellen. Durch die Automatisierung komplexer Workflows versetzt Enzai Unternehmen in die Lage, die Einführung von KI vertrauensvoll zu skalieren und gleichzeitig die Ausrichtung an globalen Standards wie ISO 42001 und NIST zu wahren.