Unsere Antwort auf den 'pro-innovations' KI-Rahmen des Vereinigten Königreichs

Wir freuen uns, unsere Stellungnahme zum jüngsten Policy Paper des britischen Office for Artificial Intelligence mit dem Titel „Establishing a pro-innovation approach to regulating AI“ zu teilen. Wir möchten dem Office for Artificial Intelligence für seine bisherige Arbeit zu diesem außerordentlich wichtigen Thema danken und freuen uns sehr darauf, künftig Teil der Diskussion zu sein. Erfahren Sie, wie Enzai Ihnen dabei helfen kann, sich in sich wandelnden KI-Regulierungen zurechtzufinden.

PER E-MAIL: evidence@officeforai.gov.uk

Antwort auf das Policy Paper mit dem Titel „Establishing a pro-innovation approach to regulating AI“ vom 20. Juli 2022 (das „Policy Paper“)

Einleitend möchten wir darauf hinweisen, dass Enzai ein neu gegründetes Startup-Unternehmen mit Sitz in Belfast, Nordirland, ist. Gegründet von Ryan Donnelly (einem führenden Unternehmens- und Regulierungsanwalt) und Jack Carlisle (einem erfahrenen Softwareingenieur) im August 2021, verfolgen wir die Mission, sicherzustellen, dass leistungsstarke Technologien der künstlichen Intelligenz („KI“) künftig zum Nutzen der Gesellschaft als Ganzes eingesetzt werden.

Unser besonderer Fokus liegt darauf, die erheblichen Risiken zu adressieren, die mit KI einhergehen. Über unsere Softwareplattform sind unsere Kunden in der Lage, ihre KI-Systeme anhand des Goldstandards der KI-Entwicklungspraxis zu benchmarken, die aggregierte KI-Governance-Position in ihrer gesamten Organisation zu verstehen und die erforderlichen Governance-Kontrollen und -Gegengewichte auf ihre Systeme anzuwenden, um deren Erfolg sicherzustellen. Auf diese Weise ermöglichen wir unseren Kunden, sicherere und robustere Systeme aufzubauen, die nicht nur den einzelnen Organisationen, die diese Technologien einsetzen, zugutekommen, sondern der Gesellschaft insgesamt.

Wir sind überzeugt von der Kraft der Regulierung als Ermöglichungsfaktor mit dem Potenzial, Innovationen im KI-Bereich voranzutreiben. So leistungsfähige Technologien benötigen sinnvolle Leitplanken, um sicherzustellen, dass künftige Entwicklungen Wirtschaft und Gesellschaft zugutekommen. Dies bietet dem Vereinigten Königreich eine enorme Chance. Angesichts des juristischen Hintergrunds unseres Gründers sind wir uns des weltweiten Rufs des Vereinigten Königreichs für seine Regulierungsregime und seine Rechtsstaatlichkeit sehr bewusst. Wir sind fest davon überzeugt, dass das Vereinigte Königreich mit einem intelligenten Regulierungsrahmen in einzigartiger Weise in der Lage ist, erhebliche Talente und Investitionen im KI-Bereich anzuziehen. Um diese Chance zu maximieren, sollte jeder Regulierungsrahmen die folgenden Grundsätze berücksichtigen. Er sollte: (1) zielgerichtet sein, damit die Regulierung mit dem geringstmöglichen Eingriff die größtmögliche Wirkung entfaltet; (2) kontextbezogen sein und die besonderen Umstände der Technologie sowie der Domäne(n), in der bzw. denen sie eingesetzt wird, berücksichtigen; und (3) klar sein, damit Marktteilnehmer Gewissheit darüber haben, was von ihnen erwartet wird.

Vor diesem Hintergrund begrüßen wir die in diesem Policy Paper vorgelegten Vorschläge als wichtigen Schritt, das Vereinigte Königreich als innovationsfreundliche KI-Jurisdiktion zu etablieren. Wir freuen uns, im Folgenden unsere Antworten auf die einzelnen im Policy Paper aufgeworfenen Fragen zu präsentieren.

Was sind die wichtigsten Herausforderungen unseres bestehenden Ansatzes zur Regulierung von KI? Haben Sie Ansichten zu den wichtigsten Lücken, Überschneidungen oder Widersprüchen?

Allgemein betrachtet ist der im Policy Paper dargelegte risikobasierte Ansatz ein sinnvoller Ausgangspunkt für diesen Vorschlag – wir möchten jedoch die Notwendigkeit betonen, sicherzustellen, dass jede regulatorische Intervention mit den oben genannten Grundsätzen im Einklang steht.

Wir nehmen den Wunsch der Regierung zur Kenntnis, die Nutzung von KI zu regulieren, statt KI an sich. Aus unserer Sicht ist eine alleinige Fokussierung auf die nachgelagerten Auswirkungen von KI im Zusammenhang mit ihrer Nutzung zu kurz gedacht. Der Regulierungsrahmen sollte ganzheitlich sein und alle Aspekte des KI-Lebenszyklus berücksichtigen, um sicherzustellen, dass die Systeme sicher und robust sind. Ein Verzicht auf sinnvolle Leitplanken für andere Aspekte des Entwicklungslebenszyklus (wie etwa die vorgelagerten Aufgaben der Datensatzkuratierung und -aufbereitung sowie die mittleren Aufgaben des Modellierens, Trainierens, Testens und Bewertens) lässt erheblichen Spielraum für Unklarheiten und Verwirrung. Angemessene Erwartungen an Marktteilnehmer während des gesamten Entwicklungslebenszyklus für Systeme mit hohem Risikopotenzial würden eine begrüßenswerte Ergänzung des Ansatzes darstellen. Dies könnte in Form der Anforderung eines bestimmten Niveaus technischer Dokumentation sowie der Einrichtung eines Risikomanagementsystems für diese Formen von KI erfolgen, und die von uns entwickelte Softwareplattform würde erheblich dazu beitragen, etwaige administrative Belastungen zu verringern, die diese Anforderungen für Marktteilnehmer mit sich bringen könnten.

Der im Policy Paper vorgeschlagene Ansatz zur Definition von KI ist interessant, und das Konzept einer auf „Kernmerkmalen“ basierenden Auslegung ist überzeugend. Gleichwohl sind wir der Ansicht, dass hier noch weiter gegangen werden könnte – es wäre möglich, eine erschöpfende Liste von Technologien zu erstellen, die eindeutig als KI angesehen werden können, um die Auslegung zu erleichtern. Die Analyse der Kernmerkmale könnte dann auf Grenzfälle angewandt werden, und neue KI könnte der Liste der KI-Technologien hinzugefügt werden, sobald sie entwickelt wurde. Nichtsdestotrotz erkennen wir an, dass dies für die Regulierungsbehörden einen zusätzlichen Verwaltungsaufwand bedeuten würde. Daher würden wir weitere Gespräche über das Potenzial dieses speziellen Vorschlags begrüßen.

Wir haben es begrüßt zu lesen, dass dieser Bereich derzeit organisch und eher ungeordnet (und in rasantem Tempo) gewachsen ist und dies es Marktteilnehmern außerordentlich erschwert, sich darin zurechtzufinden. Es gibt viele staatliche Stellen, die unterschiedliche Rahmenwerke, Roadmaps und Leitlinien veröffentlichen, und es ist schwierig geworden, den Überblick zu behalten. Wir sehen darin eine erhebliche Herausforderung und würden eine deutliche Vereinfachung der KI-Behörden und politischen Entscheidungsträger im Vereinigten Königreich befürworten, mit einer zentralen verlässlichen Quelle für Marktteilnehmer, mit der sie interagieren und auf die sie sich beziehen können. Dieser Vorschlag ist nicht als Widerspruch zu dem im Policy Paper befürworteten sektoralen Ansatz gedacht. Vielmehr sollte dieser Ansatz einer zentralen verlässlichen Quelle die Teilnehmer bei Bedarf zu sektorspezifischen Rahmenwerken und Regulierungsbehörden führen.

‍

Stimmen Sie dem kontextbezogenen Ansatz zu, der über die etablierten Regulierungsbehörden des Vereinigten Königreichs umgesetzt wird und in diesem Papier dargelegt ist? Welche Vorteile sehen Sie in diesem Ansatz? Welche Nachteile gibt es?

Der kontextbasierte Ansatz zur Regulierung von KI ist grundsätzlich sinnvoll. Um sicherzustellen, dass der Ansatz tatsächlich wirksam ist, möchten wir betonen, dass Kontext allumfassend ist – er umfasst sämtliche Aspekte der Technologie selbst sowie den spezifischen Domänenkontext, in dem sie eingesetzt wird. Aus unserer Erfahrung im Austausch mit Marktteilnehmern gehen verschiedene Branchen (Gesundheitswesen, Finanzwesen, Automobilindustrie usw.) bei der Entwicklung und Implementierung der Technologien unterschiedlich vor. Darüber hinaus muss der kontextbasierte Ansatz zielgerichtet sein (um die maximale Wirkung bei minimalem Eingriff zu gewährleisten) und klar (damit Marktteilnehmer ihre Verpflichtungen leicht verstehen können). Um sein Potenzial auszuschöpfen, wird der kontextbasierte Ansatz durch zusätzliche Politik und Leitlinien ergänzt werden müssen.

Sind Sie der Ansicht, dass wir eine Reihe sektorübergreifender Grundsätze festlegen sollten, um unseren Gesamtansatz zu leiten? Decken die vorgeschlagenen sektorübergreifenden Grundsätze die gemeinsamen Probleme und Risiken ab, die von KI-Technologien ausgehen? Was fehlt gegebenenfalls?

Sorgfältig ausgearbeitete Grundsätze bilden ein starkes Fundament für ein leistungsfähiges KI-Ökosystem. Aus unserer Erfahrung reichen Grundsätze allein jedoch selten aus. Sie neigen dazu, vage Konzepte zu sein, die sich nur schwer in konkrete, in der Praxis umsetzbare Erkenntnisse übersetzen lassen. So würden die meisten zwar zustimmen, dass KI-Systeme fair und sicher sein sollten, doch in einer konkreten praktischen Situation würden die Auffassungen darüber, was fair und sicher tatsächlich bedeutet, deutlich auseinandergehen. Marktteilnehmer würden erheblich von einem klar definierten, eindeutigen Satz an Verpflichtungen profitieren, der konsistent und mit Rechtssicherheit angewendet werden kann. Daher müssen Grundsätze durch konkretere Anforderungen gestützt werden, damit sie in der Praxis wirksam umgesetzt werden können.

Es gilt, ein Gleichgewicht darüber zu finden, wo der angemessene Detaillierungsgrad zwischen Grundsätzen und diesen konkreten Anforderungen liegen sollte. Die Festlegung eines detaillierten Katalogs von Anforderungen zur Regulierung von KI, der sektorübergreifend gilt, könnte zu einem starren Regelwerk führen, das in bestimmten Situationen nicht zweckmäßig ist. In Anerkennung dieser Einschränkung unterstützen wir den kontextbezogenen Ansatz. Umgekehrt eröffnet es jedoch das Risiko einer uneinheitlichen Anwendung, wenn zu viele Details auf sektoraler Ebene definiert werden, was das Vertrauen in das Regime untergraben und den Ruf des Vereinigten Königreichs für Rechtsstaatlichkeit im Hinblick auf KI schädigen würde. Daher ist auch dieser Ansatz nicht ideal.

Wichtig ist darauf hinzuweisen, dass der letztgenannte Ansatz erhebliche praktische Auswirkungen hat. Trotz der Unterschiede zwischen den Branchen gibt es sektorbezogen keine klaren Trennlinien – tatsächlich überschneidet sich die Nutzung dieser Technologien in verschiedenen Industrien häufig in erheblichem Umfang. Jede sektorale Regulierungsbehörde müsste ihre eigene Auslegung der Kernprinzipien vornehmen, und dies würde rasch fragmentiert, inkonsistent und schwer navigierbar werden. Ein Ansatz, der diese Komplexität anerkennt und auf holistischer Ebene zusätzliche Klarheit schafft, um Konsistenz sicherzustellen, wäre eine begrüßenswerte Ergänzung des Vorschlags.

Haben Sie erste Einschätzungen dazu, wie wir unseren Ansatz am besten umsetzen? Was sind aus Ihrer Sicht einige der wichtigsten praktischen Erwägungen? Was muss das Regulierungssystem leisten, damit unser Ansatz funktioniert? Wie können wir Leitlinien zu KI von Regulierungsbehörden am besten vereinheitlichen und koordinieren?

Der vorgeschlagene Ansatz, den Vorschlag auf eine nicht gesetzliche Grundlage zu stellen, ist nachvollziehbar. Angesichts der Neuartigkeit dieses Bereichs ist für alle Rahmenwerke ein Entwicklungsprozess erforderlich, und eine nicht gesetzliche Grundlage würde die schnelle Rückkopplungsschleife ermöglichen, die eine rasche Entwicklung erfordert. Der Nachteil einer nicht gesetzlichen Grundlage besteht darin, dass der Vorschlag nicht das gleiche Maß an Engagement und Marktteilnahme erfahren würde wie eine gesetzliche Initiative. Es besteht die Gefahr, dass nicht verbindliche Leitlinien, die bei Nichtbefolgung keine echte Durchsetzungskraft haben, vom Markt weitgehend ignoriert werden. Die Landschaft freiwilliger KI-Ethikgrundsätze und -Rahmenwerke ist bereits sehr vielfältig und unübersichtlich – bei begrenzten Ressourcen und zahlreichen konkurrierenden Anforderungen vermuten wir, dass Marktteilnehmer sich stattdessen darauf konzentrieren würden, die Einhaltung anderer globaler Regime sicherzustellen (etwa des EU AI Act oder spezifischer Rahmenwerke, die in ihrem jeweiligen Industriesektor bereits etabliert sind).

Der Vorteil eines gesetzlichen Ausgangspunkts besteht darin, dass der Vorschlag ernster genommen würde und auf stärkere Resonanz stoßen würde. Die erforderliche Rückkopplungsschleife, um sicherzustellen, dass sich der Vorschlag rasch und wirksam weiterentwickelt, könnte durch Sandbox-Initiativen erreicht werden. Ob dies auf eine gesetzliche Grundlage gestellt werden sollte, ist letztlich eine politische Entscheidung; sollte dies jedoch geschehen, würden wir einen solchen Schritt unterstützen. Aus unserer Sicht besteht die Möglichkeit, das Vereinigte Königreich als innovationsführenden Standort für sichere und robuste KI zu etablieren. Ein Parlamentsgesetz, das viele der im Policy Paper aufgeworfenen und hier beantworteten Fragen adressiert, würde einen wichtigen Beitrag zur Erreichung dieses Ziels leisten.

Erwarten Sie Herausforderungen für Unternehmen, die in mehreren Rechtsordnungen tätig sind? Haben Sie erste Einschätzungen dazu, wie unser Ansatz grenzüberschreitenden Handel und internationale Zusammenarbeit auf wirksamste Weise unterstützen könnte?

Das Policy Paper weist zutreffend darauf hin, dass in diesem digitalen Zeitalter sorgfältig geprüft werden sollte, wie jede regulatorische Initiative in diesem Bereich mit anderen nationalen und internationalen Rahmenwerken zusammenwirken würde. Wie bereits erwähnt, setzen viele andere Rechtsordnungen inzwischen ihre eigenen KI-Regulierungen und -Politiken um.

Marktteilnehmer weltweit würden im Allgemeinen von einem harmonisierten Ansatz zur Regulierung von KI über mehrere Rechtsordnungen hinweg profitieren, und wir würden erwarten, dass jedes Regime im Vereinigten Königreich die entstehenden globalen Standards zum Nutzen der Bürgerinnen und Bürger im Vereinigten Königreich ergänzt. Weitergehende Überlegungen zu grenzüberschreitendem Handel und internationaler Zusammenarbeit lassen sich wahrscheinlich besser außerhalb der in diesem Policy Paper behandelten Fragen klären.

‍

Sind Ihnen robuste Datenquellen bekannt, die die Überwachung der Wirksamkeit unseres Ansatzes unterstützen, sowohl auf Ebene der einzelnen Regulierungsbehörde als auch auf Systemebene?

Ja – die von uns entwickelte Softwareplattform wird es Regulierungsbehörden ermöglichen, die Wirksamkeit ihres Ansatzes sowohl auf der Ebene des Gesamtsystems als auch auf Ebene der einzelnen Behörde zu überwachen. Wir arbeiten bereits mit einigen wichtigen Designpartnern zusammen, die unsere Plattform einsetzen, um detaillierte KI-Grundsätze umzusetzen, die Einhaltung dieser Grundsätze in ihrer gesamten Organisation zu messen und wirksame Governance-Gates einzurichten, um sicherzustellen, dass ihre Systeme so robust und sicher wie möglich sind. Wir würden uns freuen, den Austausch mit dem Office for Artificial Intelligence fortzusetzen, um unsere Erkenntnisse hierzu zu teilen.

‍

Enzai ist die führende Plattform für Enterprise-KI-Governance, speziell entwickelt, um Unternehmen beim Übergang von abstrakten Richtlinien zu operativer Aufsicht zu unterstützen. Unsere KI-Risikomanagement-Plattform bietet die spezialisierte Infrastruktur, die erforderlich ist, um Governance für agentische KI zu steuern, ein umfassendes KI-Inventar zu pflegen und die Einhaltung des EU AI Act sicherzustellen. Durch die Automatisierung komplexer Workflows ermöglicht Enzai Unternehmen, die Einführung von KI mit Zuversicht zu skalieren und gleichzeitig die Ausrichtung an globalen Standards wie ISO 42001 und NIST aufrechtzuerhalten.