Die KI-Haftungsrichtlinie - Ein Entwurf für KI-Verantwortlichkeit in Europa

Am 28. September 2022 veröffentlichte die Europäische Kommission den ersten Entwurf der vorgeschlagenen Richtlinie über die Haftung für künstliche Intelligenz (die „KI-Haftungsrichtlinie“). Ziel der Richtlinie ist es, einheitliche Vorschriften für den Zugang zu Informationen und die Erleichterung der Beweislast in Bezug auf Schäden festzulegen, die durch KI-Systeme verursacht werden.

Die Richtlinie ist die jüngste Maßnahme im Rahmen einer umfassenderen europäischen Gesetzgebungsinitiative zur Schaffung eines vertrauenswürdigen KI-Ökosystems. Zu dieser Landschaft gehören auch: (1) das Gesetz über künstliche Intelligenz (das „EU-KI-Gesetz“), zu dem Sie hier mehr lesen können; und (2) eine Überarbeitung der mittlerweile 40 Jahre alten Produkthaftungsrichtlinie, die die verschuldensunabhängige Haftung der Hersteller für fehlerhafte Produkte regelt.

Der Bedarf

Eine EU-Umfrage aus dem Jahr 2020 ergab, dass Unklarheiten bezüglich der Haftung zu den drei größten Hindernissen für den Einsatz von KI durch europäische Unternehmen gehören. Dies ist angesichts des Flickenteppichs an nationalen Haftungsregeln, die derzeit in der EU gelten, nicht überraschend. Viele Mitgliedstaaten haben verschuldensabhängige Regelungen eingeführt, die von den Klägern den Nachweis verlangen, dass die rechtswidrige Handlung oder Unterlassung einer Person den fraglichen Schaden verursacht hat. Die Natur der KI als „Blackbox“ (mit ihrem autonomen Verhalten, der begrenzten Vorhersehbarkeit, der kontinuierlichen Anpassung und der mangelnden Transparenz) erschwert es jedoch, die Fehlerquelle zu identifizieren, die für eine erfolgreiche Haftungsklage im Rahmen der bestehenden Regelungen erforderlich ist.

*** Aufmerksame Leser werden feststellen, dass es sich bei der KI-Haftungsrichtlinie um eine „Richtlinie“ handelt, während das EU-KI-Gesetz eine „Verordnung“ ist. Wo liegt der Unterschied? Nun, eine EU-Verordnung tritt in allen Mitgliedstaaten automatisch in Kraft. Eine Richtlinie hingegen legt ein Ziel fest, das alle Mitgliedstaaten erreichen müssen. Es ist Sache des einzelnen Mitgliedstaats, zu entscheiden, wie dieses Ziel am besten durch nationale Gesetzgebung erreicht werden kann. ***

‍

Die Regeln

Die Richtlinie führt zwei klägerfreundliche Schutzmaßnahmen ein, die von den Mitgliedstaaten umgesetzt werden sollen: (1) eine Kausalitätsvermutung und (2) das Recht auf Beweismittel. Diese Maßnahmen werden Klägern helfen, die besonderen Beweisschwierigkeiten zu überwinden, die bei der Anwendung von Haftungsregeln auf KI-Systeme auftreten.

1. Vermutung der Kausalität

Um den Schwierigkeiten beim Nachweis des ursächlichen Zusammenhangs bei durch KI verursachten Schäden zu begegnen, schafft die Richtlinie eine widerlegbare Vermutung, dass der Beklagte für das Verschulden oder die Unterlassung haftet, die durch sein fehlerhaftes KI-System verursacht wurden. Diese Vermutung, die widerlegt werden kann, greift nur, wenn die folgenden drei Bedingungen erfüllt sind:

A - das Verhalten des Beklagten entsprach nicht einer in den europäischen oder nationalen Rechtsvorschriften festgelegten Sorgfaltspflicht, die speziell vor dem eingetretenen Schaden schützen soll;

B - aufgrund der Umstände des Einzelfalls kann vernünftigerweise davon ausgegangen werden, dass das Verschulden des Beklagten das vom KI-System erzeugte Ergebnis (oder das Ausbleiben eines Ergebnisses des KI-Systems) beeinflusst hat; und

C - der Kläger hat nachgewiesen, dass das vom KI-System erzeugte Ergebnis (oder das Ausbleiben eines Ergebnisses des KI-Systems) den Schaden verursacht hat.

Im Falle eines Hochrisiko-KI-Systems im Sinne des EU-KI-Gesetzes gilt die unter Buchstabe A genannte Anforderung automatisch als erfüllt, wenn der Beklagte bestimmte Verpflichtungen, die ihm im Rahmen des EU-KI-Gesetzes auferlegt wurden, nicht erfüllt hat. Zu diesen Verpflichtungen gehören unter anderem die Dokumentations- und Überwachungspflichten.

2. Recht auf Beweismittel

Die Richtlinie ermächtigt potenzielle Kläger, gerichtliche Anordnungen zu erwirken, die die Offenlegung relevanter Beweismittel im Zusammenhang mit Hochrisiko-KI-Systemen vorschreiben. Diese Art von Beweisen würde aus der technischen Dokumentation, den Überwachungsprotokollen und allen anderen Transparenzanforderungen gemäß dem EU-KI-Gesetz bestehen. Weigert sich der Beklagte, diese Informationen offenzulegen, wird entscheidend davon ausgegangen, dass er der entsprechenden Sorgfaltspflicht nach europäischem oder nationalem Recht nicht nachgekommen ist, wodurch die unter Buchstabe A genannte Anforderung automatisch erfüllt ist. Dies bedeutet, dass eine Nichtoffenlegung der relevanten Informationen es für den Beklagten erheblich schwieriger machen würde, die Kausalitätsvermutung zu widerlegen.

Zeitplan

Dieser Vorschlag wurde mehr als ein Jahr nach der Veröffentlichung des ersten Entwurfs des EU-KI-Gesetzes vorgelegt. Einige Kommentatoren sind darüber besorgt, da ein uneinheitliches KI-Regulierungssystem in Europa die Unklarheit erhöhen und zu Regelungslücken führen könnte. Das ist ein berechtigter Einwand – wenn zwischen dem Inkrafttreten des EU-KI-Gesetzes und dem Inkrafttreten der Haftungsrichtlinie eine erhebliche Zeitspanne liegt, entsteht in der Tat eine Regulierungslücke. Die Kommission sieht diese Lücke übrigens nicht, und nur die Zeit wird es zeigen. Der Entwurf liegt derzeit dem Europäischen Rat zur Prüfung vor und muss auch noch das Parlament passieren.

Unsere Einschätzung

Dies unterstreicht die Bedeutung einer detaillierten technischen Dokumentation im Zusammenhang mit Ihren KI-Systemen. Da die im Rahmen der Richtlinie geschaffene Haftungsvermutung widerlegbar ist, könnte eine detaillierte und robuste Dokumentation einen starken Schutzschild gegen potenzielle Ansprüche wegen Schäden durch ein KI-System bilden.

Es ist auch interessant, dass die Kommission sich dafür entschieden hat, sich auf die bestehenden verschuldensabhängigen Regeln in der gesamten Union zu stützen, und zwar durch die Anforderung A der oben genannten widerlegbaren Vermutung (eine bestehende Sorgfaltspflicht nach europäischem oder nationalem Recht muss verletzt worden sein), anstatt KI-spezifische Tatbestände einzuführen. Die Richtlinie enthält Überprüfungsklauseln, also ist dies vielleicht ein „Abwarten und Teetrinken“...

2023 wird ein wichtiges Jahr für die KI-Regulierung. Organisationen, die KI-Systeme für den Einsatz in der EU entwickeln, sind gut beraten, sich schon jetzt mit diesen Fragen auseinanderzusetzen und auf die Einhaltung der Vorschriften hinzuarbeiten. Enzai wurde von Anwälten gegründet und wird von diesen unterstützt, die Experten in diesem Bereich sind.

‍

Enzai ist die führende Plattform für Enterprise-KI-Governance, die speziell dafür entwickelt wurde, Organisationen beim Übergang von abstrakten Richtlinien zur operativen Aufsicht zu unterstützen. Unsere KI-Risikomanagement-Plattform bietet die spezialisierte Infrastruktur, die für die Verwaltung von agentischer KI-Governance, die Führung eines umfassenden KI-Inventars und die Gewährleistung der Konformität mit dem EU-KI-Gesetz erforderlich ist. Durch die Automatisierung komplexer Arbeitsabläufe ermöglicht Enzai es Unternehmen, die Einführung von KI vertrauensvoll zu skalieren und gleichzeitig die Ausrichtung an globalen Standards wie ISO 42001 und NIST sicherzustellen.