Wir freuen uns, unsere Antwort auf das jüngste Grundsatzpapier des Office for Artificial Intelligence der britischen Regierung mit dem Titel „Establishing a pro-innovation approach to regulating AI“ (Etablierung eines innovationsfreundlichen Ansatzes zur Regulierung von KI) mitzuteilen. Wir möchten dem Office for Artificial Intelligence für seine bisherige Arbeit zu diesem unglaublich wichtigen Thema danken und freuen sich darauf, Teil der künftigen Diskussion zu sein. Erfahren Sie, wie Enzai Sie bei der Einhaltung der sich entwickelnden KI-Vorschriften unterstützen kann.

PER E-MAIL: evidence@officeforai.gov.uk

Antwort auf das Grundsatzpapier mit dem Titel „Establishing a pro-innovation approach to regulating AI“ vom 20. Juli 2022 (das „Grundsatzpapier“)

Zur Einführung: Enzai ist ein neues Startup-Unternehmen mit Sitz in Belfast, Nordirland. Gegründet im August 2021 von Ryan Donnelly (einem führenden Unternehmens- und Regulierungsjuristen) und Jack Carlisle (einem erfahrenen Software-Ingenieur), haben wir es uns zur Aufgabe gemacht, dafür zu sorgen, dass leistungsstarke Technologien der künstlichen Intelligenz („KI“) in Zukunft zum Nutzen der gesamten Gesellschaft eingesetzt werden.

Unser besonderes Augenmerk gilt dem Schutz vor den erheblichen Risiken, die mit KI einhergehen. Über unsere Softwareplattform sind unsere Kunden in der Lage, ihre KI-Systeme mit den Best Practices der KI-Entwicklung zu vergleichen, die gesamte KI-Governance-Situation in ihrer Organisation zu verstehen und ihren Systemen die erforderlichen Governance-Kontrollen aufzuerlegen, um deren Erfolg zu sichern. Auf diese Weise ermöglichen wir es unseren Kunden, sicherere und robustere Systeme zu entwickeln, von denen nicht nur die einzelnen Organisationen, die diese Technologien nutzen, sondern die gesamte Gesellschaft profitiert.

Wir sind fest von der Kraft der Regulierung als Triebkraft überzeugt, die das Potenzial hat, Innovationen im KI-Bereich voranzutreiben. Derart leistungsstarke Technologien benötigen vernünftige Leitplanken, um sicherzustellen, dass künftige Entwicklungen der Wirtschaft und der Gesellschaft zugutekommen. Dies stellt eine enorme Chance für das Vereinigte Königreich dar. Angesichts des juristischen Hintergrunds unseres Gründers sind wir uns des weltweiten Rufs des Vereinigten Königreichs für seine Regulierungssysteme und seine Rechtsstaatlichkeit sehr wohl bewusst. Wir sind fest davon überzeugt, dass das Vereinigte Königreich in der einzigartigen Position ist, mit einem intelligenten Regulierungsrahmen erhebliche Talente und Investitionen im KI-Bereich anzuziehen. Um diese Chance bestmöglich zu nutzen, sollte jeder Regulierungsrahmen die folgenden Prinzipien berücksichtigen. Er sollte: (1) zielgerichtet sein, damit die Regulierung die größte Wirkung bei geringstem Eingriff erzielt; (2) kontextbezogen sein und die besonderen Umstände der Technologie und der Bereiche, in denen sie angewendet wird, berücksichtigen; und (3) klar sein, damit die Marktteilnehmer Gewissheit darüber haben, was von ihnen erwartet wird.

In diesem Sinne begrüßen wir die in diesem Grundsatzpapier vorgelegten Vorschläge als einen wichtigen Schritt auf dem Weg zur Etablierung des Vereinigten Königreichs als innovationsfreundlicher KI-Standort. Wir freuen uns, im Folgenden unsere Antworten auf die im Grundsatzpapier aufgeworfenen Einzelfragen darzulegen.

Welches sind die wichtigsten Herausforderungen unseres derzeitigen Ansatzes zur KI-Regulierung? Wie beurteilen Sie die wichtigsten Lücken, Überschneidungen oder Widersprüche?

Als allgemeine Bemerkung ist der im Grundsatzpapier dargelegte risikobasierte Ansatz ein sinnvoller Ausgangspunkt für diesen Vorschlag – wir möchten betonen, dass jeder regulatorische Eingriff den oben genannten Grundsätzen entsprechen muss.

Wir nehmen den Wunsch der Regierung zur Kenntnis, den Einsatz von KI zu regulieren und nicht die KI selbst. Unserer Ansicht nach ist eine ausschließliche Fokussierung auf die nachgelagerten Auswirkungen der KI bei ihrer Anwendung zu kurz gegriffen. Der Regulierungsrahmen sollte ganzheitlich sein und alle Aspekte des KI-Lebenszyklus berücksichtigen, um sicherzustellen, dass die Systeme sicher und robust sind. Wenn für andere Aspekte des Entwicklungszyklus keine vernünftigen Leitplanken bereitgestellt werden (wie z. B. die vorgelagerten Aufgaben der Kuratierung und Vorbereitung von Datensätzen und die nachgelagerten Aufgaben der Modellierung, des Trainings, des Testens und der Evaluierung), bleibt erheblicher Raum für Unklarheiten und Verwirrung. Die Auferlegung angemessener Erwartungen an die Marktteilnehmer während des gesamten Entwicklungslebenszyklus für Systeme mit hohem Risikopotenzial wäre eine willkommene Ergänzung dieses Ansatzes. Dies könnte in Form der Anforderung einer technischen Dokumentation und der Einrichtung eines Risikomanagementsystems für diese Formen der KI geschehen. Die von uns entwickelte Softwareplattform würde erheblich dazu beitragen, den administrativen Aufwand zu verringern, den diese Anforderungen für die Marktteilnehmer mit sich bringen könnten.

Der im Grundsatzpapier dargelegte Ansatz zur Definition von KI ist interessant, und das Konzept einer auf „Kernmerkmalen“ basierenden Interpretation ist ansprechend. Wir sind jedoch der Meinung, dass dies noch weiter gehen könnte – es wäre möglich, eine erschöpfende Liste von Technologien aufzustellen, die eindeutig als KI eingestuft werden können, um die Interpretation zu erleichtern. Die Analyse der Kernmerkmale könnte dann auf Grenzfälle angewendet werden, und jede neue KI könnte nach ihrer Erfindung in die Liste der KI-Technologien aufgenommen werden. Dennoch sind wir uns bewusst, dass dies einen administrativen Aufwand für die Regulierungsbehörden bedeuten würde. Daher würden wir weitere Diskussionen über das Potenzial dieses spezifischen Vorschlags begrüßen.

Wir haben mit Freude zur Kenntnis genommen, dass dieser Bereich sich derzeit organisch und ungeplant (in rasantem Tempo) entwickelt hat, was es für die Marktteilnehmer äußerst schwierig macht, sich zurechtzufinden. Es gibt viele staatliche Stellen, die unterschiedliche Rahmenwerke, Roadmaps und Richtlinien veröffentlichen, sodass es schwierig geworden ist, den Überblick zu behalten. Wir sehen darin eine erhebliche Herausforderung und würden uns eine wesentliche Vereinfachung der KI-Gremien und politischen Entscheidungsträger im Vereinigten Königreich wünschen, mit einer einzigen verlässlichen Informationsquelle („Single Source of Truth“), an die sich die Marktteilnehmer wenden und auf die sie sich beziehen können. Dieser Vorschlag soll kein Widerspruch zu dem im Grundsatzpapier befürworteten sektoralen Ansatz sein. Vielmehr sollte dieser Ansatz die Teilnehmer bei Bedarf durch branchenspezifische Rahmenbedingungen und Regulierungsbehörden leiten.

‍

Stimmen Sie dem in diesem Papier dargelegten kontextbezogenen Ansatz zu, der durch die etablierten Regulierungsbehörden des Vereinigten Königreichs umgesetzt wird? Was sind Ihrer Ansicht nach die Vorteile dieses Ansatzes? Was sind die Nachteile?

Der kontextbezogene Ansatz zur Regulierung von KI ist im Prinzip sinnvoll. Um sicherzustellen, dass dieser Ansatz wirklich effektiv ist, möchten wir betonen, dass der Kontext allumfassend ist – er umfasst alle Aspekte der Technologie selbst sowie den spezifischen Domänenkontext, in dem sie eingesetzt wird. Aus unserer Erfahrung im Austausch mit Marktteilnehmern wissen wir, dass verschiedene Industriezweige (Gesundheitswesen, Finanzen, Automobilindustrie usw.) unterschiedliche Ansätze für die Entwicklung und Implementierung der Technologien wählen. Darüber hinaus muss der kontextbasierte Ansatz zielgerichtet (um eine maximale Wirkung bei minimalem Eingriff zu erzielen) und klar sein (damit die Marktteilnehmer ihre Verpflichtungen leicht verstehen können). Um sein Potenzial voll auszuschöpfen, muss der kontextbasierte Ansatz durch zusätzliche Richtlinien und Leitlinien ergänzt werden.

Stimmen Sie zu, dass wir eine Reihe von sektorübergreifenden Prinzipien festlegen sollten, die unseren Gesamtansatz leiten? Decken die vorgeschlagenen sektorübergreifenden Prinzipien die gemeinsamen Probleme und Risiken ab, die von KI-Technologien ausgehen? Was fehlt gegebenenfalls?

Sorgfältig ausgearbeitete Prinzipien stellen ein starkes Fundament für ein hocheffizientes KI-Ökosystem dar. Unserer Erfahrung nach reichen Prinzipien allein jedoch selten aus. Es handelt sich meist um vage Konzepte, die sich nur schwer in praxistaugliche Maßnahmen umsetzen lassen. Beispielsweise würden die meisten zustimmen, dass KI-Systeme fair und sicher sein sollten, aber was fair und sicher in einem bestimmten praktischen Szenario tatsächlich bedeutet, wird sehr unterschiedlich gesehen. Marktteilnehmer würden enorm von klar definierten, eindeutigen Verpflichtungen profitieren, die konsistent und mit Gewissheit angewendet werden können. Daher müssen Prinzipien durch konkretere Anforderungen untermauert werden, um sicherzustellen, dass sie in der Praxis effektiv umgesetzt werden können.

Es gilt, ein ausgewogenes Verhältnis zwischen dem angemessenen Grad an Spezifität der Prinzipien und diesen konkreten Anforderungen zu finden. Die Festlegung detaillierter Anforderungen zur Regulierung von KI, die für alle Sektoren gelten, könnte zu einer starren Regulierung führen, die in bestimmten Situationen nicht zweckmäßig ist. In Anerkennung dieser Einschränkung unterstützen wir den kontextbezogenen Ansatz. Wenn man jedoch andererseits zu viele Details der Definition auf sektoraler Ebene überlässt, birgt der Vorschlag das Risiko einer inkonsistenten Anwendung, was das Vertrauen in das System untergraben und dem Ruf des Vereinigten Königreichs in Bezug auf die Rechtsstaatlichkeit im Bereich der KI schaden würde. Daher ist auch dieser Ansatz nicht ideal.

Es ist wichtig darauf hinzuweisen, dass der letztgenannte Ansatz erhebliche praktische Auswirkungen hat. Trotz der Nuancen zwischen den einzelnen Industriezweigen gibt es keine klaren Trennlinien auf sektoraler Basis – tatsächlich überschneidet sich der Einsatz dieser Technologien in verschiedenen Branchen häufig erheblich. Jede sektorale Regulierungsbehörde müsste ihre eigene Interpretation der Kernprinzipien vornehmen, was schnell zu einer Fragmentierung, Inkonsistenz und Unübersichtlichkeit führen würde. Ein Ansatz, der diese Komplexität anerkennt und versucht, auf einer ganzheitlichen Ebene für zusätzliche Klarheit zu sorgen, um Konsistenz zu gewährleisten, wäre eine willkommene Ergänzung des Vorschlags.

Haben Sie bereits erste Vorstellungen davon, wie wir unseren Ansatz am besten umsetzen können? Was sind aus Ihrer Sicht die wichtigsten praktischen Aspekte? Was muss das Regulierungssystem leisten, um unseren Ansatz umzusetzen? Wie können wir die Leitlinien der Regulierungsbehörden zur KI am besten straffen und koordinieren?

Der vorgeschlagene Ansatz, dem Entwurf einen nicht-gesetzlichen Charakter zu verleihen, ist verständlich. Da dieser Bereich noch sehr neu ist, ist ein kontinuierlicher Entwicklungsprozess für alle Rahmenwerke erforderlich, und eine nicht-gesetzliche Grundlage würde die schnellen Feedbackschleifen ermöglichen, die eine rasche Entwicklung erfordert. Der Nachteil einer nicht-gesetzlichen Grundlage besteht darin, dass der Entwurf nicht das gleiche Maß an Engagement und Marktbeteiligung erfahren wird wie eine gesetzliche Initiative. Es besteht die Gefahr, dass unverbindliche Leitlinien, die bei Nichteinhaltung keine Konsequenzen nach sich ziehen, vom Markt weitgehend ignoriert werden. Die Landschaft für freiwillige KI-Ethikprinzipien und -Rahmenwerke ist bereits sehr vielfältig und unübersichtlich – angesichts begrenzter Ressourcen und vieler konkurrierender Anforderungen vermuten wir, dass sich die Marktteilnehmer stattdessen auf die Einhaltung anderer globaler Regelungen konzentrieren würden (wie das EU-KI-Gesetz oder spezifische Rahmenwerke, die in ihrem jeweiligen Industriesektor bereits etabliert sind).

Der Vorteil eines Starts auf gesetzlicher Grundlage besteht darin, dass das Vorhaben ernster genommen würde und auf größeres Engagement stieße. Die notwendige Feedbackschleife, um sicherzustellen, dass sich der Vorschlag schnell und effektiv weiterentwickelt, könnte durch Sandboxing-Initiativen erreicht werden. Letztlich ist es eine politische Entscheidung, ob dies auf eine gesetzliche Grundlage gestellt werden soll; falls dies jedoch der Fall sein sollte, würden wir einen solchen Schritt unterstützen. Unserer Ansicht nach besteht die Möglichkeit, das Vereinigte Königreich als innovationsfreundlichen Vorreiter für sichere und robuste KI zu etablieren. Ein Parlamentsgesetz, das viele der im Grundsatzpapier aufgeworfenen und hier beantworteten Fragen aufgreift, würde wesentlich zur Erreichung dieses Ziels beitragen.

Erwarten Sie Herausforderungen für Unternehmen, die in mehreren Rechtsordnungen tätig sind? Haben Sie bereits erste Vorstellungen davon, wie unser Ansatz den grenzüberschreitenden Handel und die internationale Zusammenarbeit am effektivsten unterstützen könnte?

Im Grundsatzpapier wird zu Recht darauf hingewiesen, dass im heutigen digitalen Zeitalter sorgfältig geprüft werden muss, wie regulatorische Initiativen in diesem Bereich mit anderen nationalen und internationalen Rahmenbedingungen zusammenwirken. Wie bereits erwähnt, führen viele andere Länder und Regionen derzeit eigene KI-Vorschriften und -Richtlinien ein.

Marktteilnehmer auf der ganzen Welt würden generell von einem harmonisierten Ansatz zur Regulierung von KI über verschiedene Rechtsordnungen hinweg profitieren, und wir erwarten, dass jedes System hier im Vereinigten Königreich diese im Entstehen begriffenen globalen Standards zum Nutzen der Bürger des Vereinigten Königreichs ergänzt. Alle weitergehenden Überlegungen zum grenzüberschreitenden Handel und zur internationalen Zusammenarbeit sind wahrscheinlich außerhalb der in diesem Grundsatzpapier behandelten Themen besser aufgehoben.

‍

Sind Ihnen verlässliche Datenquellen bekannt, die die Überwachung der Wirksamkeit unseres Ansatzes unterstützen können, sowohl auf der Ebene der einzelnen Regulierungsbehörden als auch auf Systemebene?

Ja – die von uns entwickelte Softwareplattform wird es den Regulierungsbehörden ermöglichen, die Wirksamkeit ihres Ansatzes sowohl auf der Ebene des Gesamtsystems als auch auf der Ebene der einzelnen Regulierungsbehörden zu überwachen. Wir arbeiten bereits mit einigen wichtigen Designpartnern zusammen, die unsere Plattform nutzen, um detaillierte KI-Prinzipien zu implementieren, die Einhaltung dieser Prinzipien in ihrer gesamten Organisation zu messen und effektive Governance-Schranken einzurichten, um sicherzustellen, dass ihre Systeme so robust und sicher wie möglich sind. Wir würden uns freuen, uns weiter mit dem Office for Artificial Intelligence auszutauschen, um unsere Erkenntnisse hier zu teilen.

‍

Enzai ist die führende Plattform für Enterprise-KI-Governance, die speziell dafür entwickelt wurde, Unternehmen beim Übergang von abstrakten Richtlinien zur operativen Aufsicht zu unterstützen. Unsere KI-Risikomanagement-Plattform bietet die spezialisierte Infrastruktur, die erforderlich ist, um agentische KI-Governance zu verwalten, ein umfassendes KI-Inventar zu führen und die Einhaltung des EU-KI-Gesetzes sicherzustellen. Durch die Automatisierung komplexer Workflows versetzt Enzai Unternehmen in die Lage, die Einführung von KI vertrauensvoll zu skalieren und gleichzeitig die Übereinstimmung mit globalen Standards wie ISO 42001 und NIST zu wahren.