Einführung

Künstliche Intelligenz („KI“) verspricht, Branchen zu transformieren sowie Produkte und Dienstleistungen auf unzählige Weisen zu verbessern. Sie wirft jedoch auch neue und komplexe Fragen in Bezug auf Ethik, Transparenz, Voreingenommenheit und Datenschutz auf. Daher entwickeln Regierungen weltweit neue Gesetze und Vorschriften, um sicherzustellen, dass KI vertrauenswürdig ist und im Einklang mit gesellschaftlichen Werten steht.

In Europa haben politische Entscheidungsträger eine führende Rolle bei der Gestaltung der KI-Governance übernommen. Die von der Europäischen Union vorgeschlagenen neuen Regeln zielen darauf ab, die von der KI ausgehenden Risiken zu minimieren und gleichzeitig Innovationen zu ermöglichen. Da diese Initiativen Gestalt annehmen, kommt Datenschutzbeauftragten eine wichtige Verantwortung bei der Aufklärung von Teams und der Gewährleistung der Compliance in Organisationen zu. Dieser Beitrag bietet einen Überblick über die wichtigsten Entwicklungen in der europäischen KI-Regulierung sowie Leitlinien für Datenschutzbeauftragte zur Vorbereitung.

‍

Die Rolle des Datenschutzbeauftragten in der KI-Welt

Viele Organisationen wenden sich heute immer häufiger an ihre Datenschutzbeauftragten, um Beratung in diesem Bereich zu erhalten, und es besteht ein dringender Bedarf, sich schnell weiterzubilden.

Der sich entwickelnde regulatorische Rahmen der EU für KI   

Im April 2021 legte die Europäische Kommission ihren ersten umfassenden Entwurf rechtlicher Anforderungen für KI-Systeme im Rahmen eines vorgeschlagenen Gesetzes über künstliche Intelligenz (das „EU-KI-Gesetz“) vor. Dieser bahnbrechende Vorschlag teilt KI nach Risikostufen ein und führt verbindliche Regeln für Hochrisikoanwendungen ein, wie sie beispielsweise in kritischen Infrastrukturen, im Beschäftigungsbereich, bei der Strafverfolgung und in anderen Bereichen eingesetzt werden.

Die Anforderungen an Hochrisikosysteme decken Bereiche wie Risikomanagement, Datenqualität, Dokumentation, Transparenz, menschliche Aufsicht und Robustheit ab. Das Gesetz könnte nach der gesetzgeberischen Billigung bereits Ende 2023 oder im ersten Quartal 2024 in Kraft treten. Mehr darüber erfahren Sie im Detail in einem unserer früheren Blogbeiträge, der hier abrufbar ist.

Über das KI-Gesetz hinaus entwickelt die EU weitere Initiativen zur Ergänzung der Regulierungslandschaft:

• Eine Richtlinie über die Haftung für KI sowie eine Aktualisierung der bestehenden Produkthaftungsgesetzgebung (auch hierzu haben wir einen Blogbeitrag vorbereitet! Siehe hier).

• Das Datengesetz (Data Act), das Anfang 2025 in Kraft treten wird, wird neue Anforderungen an den Datenzugang und die gemeinsame Datennutzung stellen, die sich auf KI-Trainingsdaten auswirken können.

• Und natürlich gelten die Verpflichtungen der DSGVO (mit der Sie sicherlich alle vertraut sind) weiterhin, mit einem verstärkten Fokus auf die Bestimmungen zur automatisierten Entscheidungsfindung.

Wir sehen auch viele wichtige Standards, die in diesem Bereich entstehen. CEN-CENELEC haben ein gemeinsames technisches Komitee eingerichtet, um an harmonisierten Normen für KI zu arbeiten, und wir gehen davon aus, dass diese in Zukunft eine entscheidende Rolle beim Nachweis der Konformität mit dem EU-KI-Gesetz spielen werden.

Auswirkungen für Datenschutzbeauftragte

Als Datenschutzbeauftragter ist es unerlässlich, die sich abzeichnenden Vorschriften zu beobachten und zu verstehen, wie Ihre Organisation die KI-Richtlinien, -Prozesse und -Systeme anpassen muss, um die Compliance zu gewährleisten. Hier sind einige bewährte Praktiken:

• Beginnen Sie mit der Erstellung einer Bestandsaufnahme darüber, wo und wie KI in Ihrer Organisation eingesetzt wird (hierbei kann Enzai helfen!).

• Streben Sie die Einführung von Frameworks für die Entwicklung und den Einsatz von KI an und stellen Sie sicher, dass die technischen Teams diese kennen und nutzen – gut konzipierte Frameworks decken die rechtlichen Anforderungen ab.

• Prüfen Sie die beabsichtigte Datennutzung, die automatisierte Entscheidungsfindung und andere von den neuen Vorschriften betroffene Bereiche genau. Aktualisieren Sie die Datenschutz-Folgenabschätzungen nach Bedarf.

• Arbeiten Sie funktionsübergreifend mit den Bereichen Engineering, Produkt, Recht und der Unternehmensleitung zusammen, um die erforderlichen Änderungen umzusetzen und eine konforme KI-Governance-Strategie zu gewährleisten.

• Überwachen Sie die Konformität dieser Systeme im Laufe der Zeit, da sich die Gegebenheiten in diesem Bereich sehr schnell ändern können.

• Beobachten Sie die Fristen für die Durchsetzung und die Maßnahmen der nationalen EU-Behörden, sobald die Vorschriften in Kraft treten.

• Evaluieren und wählen Sie KI-Systeme, -Dienste und -Anbieter aus, die sich an strenge ethische Grundsätze und die geltenden rechtlichen Standards halten.

• Setzen Sie sich in Ihrer Organisation für eine verantwortungsvolle Datennutzung, faire und erklärbare Algorithmen sowie weitere Säulen einer vertrauenswürdigen KI ein.

Es ist eine spannende Zeit, um Datenschutzbeauftragter zu sein, und die neuen Möglichkeiten und Herausforderungen, die KI mit sich bringt, sind für alle Unternehmen in allen Branchen grenzenlos. Auf dem Laufenden zu bleiben, hilft dabei, sowohl die Compliance als auch einen Wettbewerbsvorteil zu sichern.

‍

Um mehr zu erfahren, lesen Sie über die Lösungen von Enzai für KI-Governance, Modellrisikomanagement, KI-Regulierungen, Generative KI und das EU-KI-Gesetz.

Enzai ist die führende Plattform für KI-Governance in Unternehmen, die speziell dafür entwickelt wurde, Organisationen beim Übergang von abstrakten Richtlinien zur operativen Aufsicht zu unterstützen. Unsere Plattform für KI-Risikomanagement bietet die spezialisierte Infrastruktur, die für die Verwaltung der agentischen KI-Governance, die Führung eines umfassenden KI-Inventars und die Gewährleistung der Konformität mit dem EU-KI-Gesetz erforderlich ist. Durch die Automatisierung komplexer Workflows versetzt Enzai Unternehmen in die Lage, die Einführung von KI vertrauensvoll zu skalieren und gleichzeitig die Ausrichtung an globalen Standards wie ISO 42001 und NIST beizubehalten.