Wir freuen uns, unsere Stellungnahme zu dem jüngsten Positionspapier des Office for Artificial Intelligence der britischen Regierung mit dem Titel „Einen innovationsfreundlichen Ansatz zur Regulierung von KI etablieren“ vorzulegen. Wir danken dem Office for Artificial Intelligence für die bisherige Arbeit zu diesem außerordentlich wichtigen Thema und freuen uns sehr, künftig Teil der Diskussion zu sein. Erfahren Sie, wie Enzai Sie dabei unterstützen kann, sich in der sich wandelnden KI-Regulierung zurechtzufinden.

PER E-MAIL: evidence@officeforai.gov.uk

Antwort auf das am 20. Juli 2022 datierte Positionspapier mit dem Titel „Einen innovationsfreundlichen Ansatz zur Regulierung von KI etablieren“ (das „Positionspapier“)

Einleitend ist festzuhalten, dass Enzai ein junges Startup-Unternehmen mit Sitz in Belfast, Nordirland, ist. Das Unternehmen wurde im August 2021 von Ryan Donnelly (einem führenden Anwalt für Gesellschafts- und Regulierungsrecht) und Jack Carlisle (einem erfahrenen Softwareingenieur) gegründet. Unsere Mission ist es, sicherzustellen, dass leistungsstarke Technologien der künstlichen Intelligenz („KI“) künftig zum Nutzen der Gesellschaft insgesamt eingesetzt werden.

Wir konzentrieren uns insbesondere darauf, den erheblichen Risiken zu begegnen, die mit KI einhergehen. Über unsere Softwareplattform können unsere Kunden ihre KI-Systeme anhand des Goldstandards der KI-Entwicklungspraktiken benchmarken, die aggregierte KI-Governance-Position ihres Unternehmens verstehen und die erforderlichen Governance-Kontroll- und Gegenkontrollmechanismen auf ihre Systeme anwenden, um deren Erfolg sicherzustellen. Auf diese Weise befähigen wir unsere Kunden, sicherere und robustere Systeme aufzubauen, die nicht nur den einzelnen Unternehmen, die die Technologien nutzen, zugutekommen, sondern der Gesellschaft insgesamt.

Wir sind fest davon überzeugt, dass Regulierung eine ermöglichende Kraft sein kann und das Potenzial besitzt, Innovationen im KI-Bereich voranzutreiben. So leistungsstarke Technologien benötigen sinnvolle Leitplanken, um sicherzustellen, dass künftige Entwicklungen Wirtschaft und Gesellschaft zugutekommen. Dies bietet dem Vereinigten Königreich eine enorme Chance. Angesichts des juristischen Hintergrunds unseres Gründers sind wir uns des weltweiten Rufs des Vereinigten Königreichs für seine Regulierungsregime und die Rechtsstaatlichkeit sehr bewusst. Wir sind überzeugt, dass das Vereinigte Königreich mit einem intelligenten regulatorischen Rahmen einzigartig positioniert ist, erhebliche Talente und Investitionen im KI-Bereich anzuziehen. Um diese Chance zu maximieren, sollte jeder regulatorische Rahmen die folgenden Grundsätze berücksichtigen. Er sollte: (1) zielgerichtet sein, sodass die Regulierung mit möglichst geringem Eingriff die größte Wirkung erzielt; (2) kontextbezogen sein und die besonderen Umstände der Technologie und der Domäne(n) berücksichtigen, in denen sie eingesetzt wird; und (3) klar sein, damit Marktteilnehmer Gewissheit darüber haben, was von ihnen erwartet wird.

Vor diesem Hintergrund begrüßen wir die in diesem Positionspapier vorgelegten Vorschläge als wichtigen Schritt zur Etablierung des Vereinigten Königreichs als innovationsfreundliche KI-Jurisdiktion. Wir freuen uns, im Folgenden unsere Antworten auf die einzelnen im Positionspapier aufgeworfenen Fragen vorzulegen.

Was sind die wichtigsten Herausforderungen unseres bisherigen Ansatzes zur Regulierung von KI? Welche Lücken, Überschneidungen oder Widersprüche sehen Sie als besonders relevant?

Als allgemeine Anmerkung ist der im Positionspapier dargelegte risikobasierte Ansatz ein sinnvoller Ausgangspunkt für diesen Vorschlag – wir möchten jedoch die Notwendigkeit betonen, sicherzustellen, dass jeder regulatorische Eingriff den oben genannten Grundsätzen entspricht.

Wir nehmen den Wunsch der Regierung zur Kenntnis, die Nutzung von KI und nicht KI selbst zu regulieren. Nach unserer Auffassung ist es zu vereinfachend, ausschließlich auf die nachgelagerten Auswirkungen von KI im Zusammenhang mit ihrer Nutzung abzustellen. Der regulatorische Rahmen sollte ganzheitlich sein und alle Aspekte des KI-Lebenszyklus berücksichtigen, um sicherzustellen, dass die Systeme sicher und robust sind. Wenn keine sinnvollen Leitplanken für andere Aspekte des Entwicklungslebenszyklus bereitgestellt werden (etwa für vorgelagerte Aufgaben wie die Kuratierung und Aufbereitung von Datensätzen sowie für die mittleren Phasen der Modellierung, des Trainings, des Testens und der Bewertung), entsteht erheblicher Spielraum für Unklarheit und Verwirrung. Angemessene Erwartungen an Marktteilnehmer entlang des gesamten Entwicklungslebenszyklus für Systeme mit hohem Risikopotenzial zu formulieren, wäre eine willkommene Ergänzung des Ansatzes. Dies könnte in Form der Anforderung eines bestimmten Niveaus technischer Dokumentation und der Einrichtung eines Risikomanagementsystems für diese KI-Formen geschehen, und die von uns entwickelte Softwareplattform würde dazu beitragen, den administrativen Aufwand zu verringern, der durch diese Anforderungen für Marktteilnehmer entstehen könnte.

Der im Positionspapier vorgeschlagene Ansatz zur Definition von KI ist interessant, und das Konzept einer auf „Kernmerkmalen“ basierenden Auslegung ist ansprechend. Wir sind jedoch der Ansicht, dass dieser Ansatz weitergehen könnte – es wäre möglich, eine erschöpfende Liste von Technologien zu erstellen, die eindeutig als KI gelten können, um die Auslegung zu erleichtern. Die Analyse der Kernmerkmale könnte dann auf Grenzfälle angewendet werden, und neue KI könnte der Liste der KI-Technologien hinzugefügt werden, sobald sie entwickelt wurde. Gleichwohl erkennen wir an, dass dies für die Regulierungsbehörden einen administrativen Aufwand bedeuten würde. Daher begrüßen wir weitere Gespräche über das Potenzial dieses spezifischen Vorschlags.

Wir haben mit Zustimmung gelesen, dass sich dieser Bereich gegenwärtig organisch und etwas chaotisch (und in rasantem Tempo) entwickelt hat und dies es Marktteilnehmern extrem erschwert, sich zurechtzufinden. Es gibt viele staatliche Stellen, die unterschiedliche Rahmenwerke, Roadmaps und Leitlinien veröffentlichen, und es ist schwierig geworden, den Überblick zu behalten. Wir sehen darin eine erhebliche Herausforderung und würden eine deutliche Vereinfachung der KI-Institutionen und politischen Entscheidungsträger des Vereinigten Königreichs begrüßen, mit einer zentralen, verlässlichen Informationsquelle für Marktteilnehmer, mit der sie interagieren und auf die sie sich beziehen können. Dieser Vorschlag ist nicht als Widerspruch zum im Positionspapier befürworteten sektorspezifischen Ansatz gedacht. Vielmehr sollte dieser Ansatz einer zentralen, verlässlichen Informationsquelle die Teilnehmer bei Bedarf zu sektorspezifischen Rahmenwerken und Regulierungsbehörden führen.

‍

Sind Sie mit dem kontextbezogenen Ansatz einverstanden, der über die etablierten Regulierungsbehörden des Vereinigten Königreichs umgesetzt wird und in diesem Papier dargelegt ist? Welche Vorteile sehen Sie bei diesem Ansatz? Welche Nachteile hat er?

Der kontextbasierte Ansatz zur Regulierung von KI ist grundsätzlich sinnvoll. Um sicherzustellen, dass der Ansatz tatsächlich wirksam ist, möchten wir betonen, dass Kontext allumfassend ist – er umfasst alle Aspekte der Technologie selbst sowie den spezifischen Domänenkontext, in dem sie eingesetzt wird. Aus unserer Erfahrung im Austausch mit Marktteilnehmern verfolgen verschiedene Branchen (Gesundheitswesen, Finanzwesen, Automobilindustrie usw.) unterschiedliche Ansätze bei der Entwicklung und Implementierung der Technologien. Darüber hinaus muss der kontextbasierte Ansatz zielgerichtet sein (um maximale Wirkung bei minimalem Eingriff zu erreichen) und klar sein (damit Marktteilnehmer ihre Pflichten leicht verstehen können). Um sein Potenzial zu entfalten, muss der kontextbasierte Ansatz durch zusätzliche Politik und Leitlinien ergänzt werden.

Sind Sie der Ansicht, dass wir einen Satz sektorübergreifender Grundsätze festlegen sollten, um unseren Gesamtansatz zu leiten? Decken die vorgeschlagenen sektorübergreifenden Grundsätze die gemeinsamen, von KI-Technologien ausgehenden Probleme und Risiken ab? Was fehlt gegebenenfalls?

Sorgfältig ausgearbeitete Grundsätze bilden ein starkes Fundament für ein leistungsfähiges KI-Ökosystem. Aus unserer Erfahrung reichen Grundsätze allein jedoch selten aus. Sie neigen dazu, vage Konzepte zu sein, die sich schwer in konkrete, umsetzbare Erkenntnisse für die Praxis übersetzen lassen. So würden die meisten darin übereinstimmen, dass KI-Systeme fair und sicher sein sollten; über die tatsächliche Bedeutung von fair und sicher in einer konkreten praktischen Situation würde jedoch eine wesentlich größere Bandbreite an Auffassungen bestehen. Marktteilnehmer würden erheblich von einem klar definierten, eindeutigen Satz von Pflichten profitieren, der konsistent und mit Rechtssicherheit angewendet werden kann. Daher müssen Grundsätze durch konkretere Anforderungen gestützt werden, um sicherzustellen, dass sie in der Praxis wirksam umgesetzt werden können.

Es gilt, ein Gleichgewicht darüber zu finden, wo der angemessene Detaillierungsgrad zwischen Grundsätzen und diesen konkreten Anforderungen liegen sollte. Die Einführung eines detaillierten, KI-regulierenden Anforderungskatalogs, der sektorübergreifend gilt, könnte zu einem starren Regelwerk führen, das in bestimmten Situationen nicht zweckmäßig ist. In Anerkennung dieser Einschränkung unterstützen wir den kontextbezogenen Ansatz. Umgekehrt eröffnet es jedoch das Risiko einer inkonsistenten Anwendung, wenn zu viele Details auf sektoraler Ebene definiert werden; dies würde das Vertrauen in das Regime untergraben und den Ruf des Vereinigten Königreichs für Rechtsstaatlichkeit im Zusammenhang mit KI beeinträchtigen. Daher ist auch dieser Ansatz nicht ideal.

Wichtig ist darauf hinzuweisen, dass der letztgenannte Ansatz erhebliche praktische Auswirkungen hat. Trotz der Unterschiede zwischen den Branchen gibt es auf sektoraler Basis keine klaren Trennlinien – tatsächlich überschneiden sich der Einsatz dieser Technologien in verschiedenen Branchen häufig in erheblichem Maße. Jede sektorale Regulierungsbehörde müsste ihre eigene Auslegung der Kernprinzipien vornehmen, und dies würde sich rasch in Fragmentierung, Inkonsistenz und schwerer Nachvollziehbarkeit niederschlagen. Ein Ansatz, der diese Komplexität anerkennt und auf übergeordneter Ebene zusätzliche Klarheit schafft, um Konsistenz sicherzustellen, wäre eine willkommene Ergänzung des Vorschlags.

Haben Sie bereits erste Einschätzungen dazu, wie wir unseren Ansatz am besten umsetzen? Was sind aus Ihrer Sicht einige der wichtigsten praktischen Erwägungen? Was muss das regulatorische System leisten, um unseren Ansatz umzusetzen? Wie können wir die Leitlinien der Regulierungsbehörden zu KI am besten straffen und koordinieren?

Der vorgeschlagene Ansatz, den Vorschlag auf nichtgesetzlicher Grundlage zu verankern, ist nachvollziehbar. Angesichts der Neuheit des Bereichs ist für alle Rahmenwerke ein Entwicklungsprozess erforderlich, und eine nichtgesetzliche Grundlage würde die schnelle Feedbackschleife ermöglichen, die eine rasche Weiterentwicklung erfordert. Der Nachteil einer nichtgesetzlichen Grundlage besteht darin, dass der Vorschlag nicht dasselbe Maß an Aufmerksamkeit und Marktteilnahme erhalten wird wie eine gesetzliche Initiative. Es besteht die Gefahr, dass nichtgesetzliche Leitlinien, denen bei Nichtbefolgung jede Durchsetzungskraft fehlt, vom Markt weitgehend ignoriert werden. Die Landschaft der freiwilligen KI-Ethikgrundsätze und -Rahmenwerke ist bereits sehr vielfältig und unübersichtlich - bei begrenzten Ressourcen und vielen konkurrierenden Anforderungen gehen wir davon aus, dass sich Marktteilnehmer stattdessen auf die Einhaltung anderer globaler Regime konzentrieren würden (etwa des EU-KI-Gesetzes oder spezifischer Rahmenwerke, die in ihrem jeweiligen Industriesektor bereits etabliert sind).

Der Vorteil eines gesetzlich verankerten Starts besteht darin, dass der Vorschlag ernster genommen und stärker beachtet würde. Die notwendige Feedbackschleife, um sicherzustellen, dass sich der Vorschlag schnell und wirksam weiterentwickelt, könnte durch Sandbox-Initiativen erreicht werden. Ob dies letztlich auf gesetzlicher Grundlage erfolgen sollte, ist eine politische Entscheidung; sollte dies jedoch der Fall sein, würden wir einen solchen Schritt unterstützen. Nach unserer Auffassung besteht Spielraum, das Vereinigte Königreich als innovationsfreundlichen Vorreiter für sichere und robuste KI zu etablieren. Ein Parlamentsgesetz, das viele der im Positionspapier aufgeworfenen und hier beantworteten Fragen adressiert, würde einen wesentlichen Beitrag zur Erreichung dieses Ziels leisten.

Erwarten Sie Herausforderungen für Unternehmen, die in mehreren Jurisdiktionen tätig sind? Haben Sie bereits erste Einschätzungen dazu, wie unser Ansatz den grenzüberschreitenden Handel und die internationale Zusammenarbeit auf möglichst wirksame Weise unterstützen könnte?

Das Positionspapier weist zu Recht darauf hin, dass in diesem digitalen Zeitalter sorgfältig geprüft werden sollte, wie sich etwaige regulatorische Initiativen in diesem Bereich sowohl mit anderen nationalen als auch mit internationalen Rahmenwerken verzahnen würden. Wie bereits erwähnt, führen viele andere Jurisdiktionen inzwischen ihre eigenen KI-Vorschriften und -Politiken ein.

Marktteilnehmer weltweit würden grundsätzlich von einem harmonisierten Ansatz zur Regulierung von KI über verschiedene Jurisdiktionen hinweg profitieren, und wir würden erwarten, dass ein entsprechendes Regime hier im Vereinigten Königreich die entstehenden globalen Standards zum Nutzen der Bürgerinnen und Bürger im Vereinigten Königreich ergänzt. Breitere Erwägungen zum grenzüberschreitenden Handel und zur internationalen Zusammenarbeit lassen sich wahrscheinlich besser außerhalb der in diesem Positionspapier betrachteten Fragen behandeln.

‍

Sind Ihnen robuste Datenquellen bekannt, die die Überwachung der Wirksamkeit unseres Ansatzes sowohl auf Ebene der einzelnen Regulierungsbehörde als auch auf Systemebene unterstützen?

Ja – die von uns entwickelte Softwareplattform wird es Regulierungsbehörden ermöglichen, die Wirksamkeit ihres Ansatzes sowohl auf der Ebene des Gesamtsystems als auch auf der Ebene der einzelnen Regulierungsbehörde zu überwachen. Wir arbeiten bereits mit einigen zentralen Entwicklungspartnern zusammen, die unsere Plattform nutzen, um detaillierte KI-Grundsätze umzusetzen, die Einhaltung dieser Grundsätze im gesamten Unternehmen zu messen und wirksame Governance-Kontrollpunkte einzurichten, um sicherzustellen, dass ihre Systeme so robust und sicher wie möglich sind. Wir würden uns freuen, uns mit dem Office for Artificial Intelligence weiter auszutauschen und unsere Erkenntnisse hierzu zu teilen.

‍

Sie können auf dem Blog von Enzai mehr über US-amerikanische und europäische Ansätze zur KI-Regulierung erfahren.

‍