Einführung

Künstliche Intelligenz ("KI") verspricht, Branchen zu transformieren und Produkte und Dienstleistungen auf unzählige Weise zu verbessern. Sie wirft jedoch auch neue und komplexe Fragen zu Ethik, Transparenz, Vorurteilen und Datenschutz auf. Daher entwickeln Regierungen weltweit neue Gesetze und Vorschriften, um sicherzustellen, dass KI zuverlässig ist und mit sozialen Werten übereinstimmt.

In Europa haben politische Entscheidungsträger eine führende Rolle bei der Gestaltung der KI-Governance übernommen. Die vorgeschlagenen neuen Regeln der Europäischen Union zielen darauf ab, Risiken durch KI zu minimieren und gleichzeitig Innovationen zu ermöglichen. Während sich diese Initiativen herausbilden, haben Datenschutzbeauftragte eine wichtige Verantwortung in der Schulung von Teams und der Sicherstellung der organisatorischen Compliance. Dieser Beitrag bietet einen Überblick über wichtige Entwicklungen in der europäischen KI-Regulierung und gibt Hinweise für Datenschutzbeauftragte zur Vorbereitung.

‍

Die Rolle des Datenschutzbeauftragten in der KI-Welt

Viele Organisationen wenden sich jetzt häufig an ihren Datenschutzbeauftragten, um in diesem Bereich Anleitung zu erhalten, und es besteht ein starker Bedarf, sich schnell weiterzubilden.

Das sich entwickelnde KI-Regulierungsrahmen der EU   

Im April 2021 veröffentlichte die Europäische Kommission ihren ersten umfassenden Satz von gesetzlichen Anforderungen für KI-Systeme unter einem vorgeschlagenen Gesetz über künstliche Intelligenz (den “EU AIA”). Dieser bahnbrechende Vorschlag kategorisiert KI nach Risikoniveaus und führt zwingende Vorschriften für Hochrisikoanwendungen ein, wie z. B. für Anwendungen in kritischer Infrastruktur, Beschäftigung, Strafverfolgung und mehr.

Anforderungen für Hochrisikosysteme umfassen Bereiche wie Risikomanagement, Datenqualität, Dokumentation, Transparenz, menschliche Überwachung und Beständigkeit. Das Gesetz könnte nach gesetzlicher Genehmigung bereits Ende 2023/ Anfang 2024 in Kraft treten. Detaillierte Informationen dazu finden Sie in einem unserer vorherigen Blogs, der hier zugänglich ist.

Neben dem KI-Gesetz entwickelt die EU auch zusätzliche Initiativen zur Ergänzung der regulativen Landschaft:

• Eine KI-Haftungsrichtlinie zusammen mit einem Update der bestehenden Produkthaftungsgesetzgebung (wir haben auch einen Blog dazu vorbereitet! Siehe hier).

• Das Datengesetz, das Anfang 2025 in Kraft treten wird, wird neue Anforderungen an den Datenzugriff und das Teilen von Daten auferlegen, die möglicherweise Einfluss auf KI-Trainingsdaten haben.

• Und natürlich werden die Verpflichtungen der DSGVO (die Ihnen sicherlich bekannt sind) weiterhin gelten, mit einem erneuten Fokus auf die Bestimmungen zur automatisierten Entscheidungsfindung.

Außerdem sehen wir viele wichtige Standards, die in diesem Bereich entstehen. Das CEN-CENELEC hat ein Gemeinsames Technisches Komitee gebildet, um an harmonisierten Standards für KI zu arbeiten, und wir erwarten, dass diese in Zukunft eine entscheidende Rolle bei der Demonstration der Compliance mit dem EU-KI-Gesetz spielen werden.

Auswirkungen auf Datenschutzbeauftragte

Als Datenschutzbeauftragter ist es wichtig, aufkommende Vorschriften zu überwachen und zu verstehen, wie Ihre Organisation ihre KI-Richtlinien, Prozesse und Systeme zur Einhaltung anpassen muss. Hier sind einige bewährte Praktiken:

• Beginnen Sie, ein Inventar zu erstellen, wo und wie KI in Ihrer Organisation eingesetzt wird (hier kann Enzai helfen!).

• Bemühen Sie sich, einige Rahmenwerke zur Entwicklung und Implementierung von KI zu übernehmen, und stellen Sie sicher, dass technische Teams darüber informiert sind und sie nutzen - gut gestaltete Rahmenwerke decken die rechtlichen Anforderungen ab.

• Überprüfen Sie genau die geplante Datennutzung, automatisierte Entscheidungsfindung und andere Bereiche, die von neuen Vorschriften betroffen sind. Aktualisieren Sie Datenschutzfolgenabschätzungen nach Bedarf.

• Arbeiten Sie bereichsübergreifend mit Engineering, Produkt, Recht und Führung zusammen, um die erforderlichen Änderungen umzusetzen und eine konforme KI-Governance-Strategie sicherzustellen.

• Überwachen Sie die Einhaltung dieser Systeme im Laufe der Zeit, da sich die Dinge in diesem Bereich ziemlich schnell ändern können.

• Überwachen Sie die Durchsetzungsfristen und -aktionen der nationalen Behörden der EU, während die Vorschriften in Kraft treten.

• Bewerten und wählen Sie KI-Systeme, Dienste und Anbieter aus, die starke ethische Grundsätze und geltende gesetzliche Standards befolgen.

• Setzen Sie sich in Ihrer Organisation für verantwortungsvolle Datennutzung, faire und erklärbare Algorithmen und andere Säulen vertrauenswürdiger KI ein.

Es ist eine aufregende Zeit, Datenschutzbeauftragter zu sein, und die neuen Chancen und Herausforderungen, die KI bietet, sind für alle Unternehmen in allen Branchen grenzenlos. Der Überblick über Entwicklungen wird helfen, sowohl die Einhaltung als auch den Wettbewerbsvorteil zu gewährleisten.

‍

Um mehr zu erfahren, lesen Sie über Enzais Lösungen für KI-Governance, Modellrisikomanagement, KI-Vorschriften, generative KI und das EU-KI-Gesetz.