Am 28. September 2022 hat die Europäische Kommission den ersten Entwurf der vorgeschlagenen Richtlinie über die Haftung für künstliche Intelligenz (die „KI-Haftungsrichtlinie“) vorgelegt. Ziel dieser Richtlinie ist es, einheitliche Vorschriften für den Zugang zu Informationen und die Erleichterung der Beweislast in Bezug auf Schäden zu erlassen, die durch KI-Systeme verursacht werden.

Die KI-Haftungsrichtlinie ist die jüngste Initiative im Rahmen einer umfassenderen europäischen Gesetzgebungskampagne zur Schaffung eines vertrauenswürdigen KI-Ökosystems. Zu dieser Landschaft gehören auch: (1) das Gesetz über künstliche Intelligenz (die „EU-KI-Verordnung“), über das Sie hier mehr lesen können, und (2) eine Überarbeitung der inzwischen 40 Jahre alten Produkthaftungsrichtlinie, welche die verschuldensunabhängige Haftung von Herstellern für fehlerhafte Produkte regelt.

Der Bedarf

Eine EU-Umfrage aus dem Jahr 2020 ergab, dass die Unklarheit bezüglich der Haftung eines der drei Haupthindernisse für den Einsatz von KI durch europäische Unternehmen darstellt. Dies überrascht angesichts der derzeit in der EU geltenden fragmentierten nationalen Haftungsregeln nicht. Viele Mitgliedstaaten haben verschuldensabhängige Regelungen eingeführt, bei denen Kläger nachweisen müssen, dass die rechtswidrige Handlung oder Unterlassung einer Person den betreffenden Schaden verursacht hat. Die „Blackbox“-Natur der KI (mit ihrem autonomen Verhalten, der begrenzten Vorhersehbarkeit, der kontinuierlichen Anpassung und der mangelnden Transparenz) macht es jedoch schwierig, die Quelle des Verschuldens zu identifizieren, die für eine erfolgreiche Haftungsklage nach den bestehenden Systemen erforderlich wäre.

*** Aufmerksam Lesende werden feststellen, dass es sich bei der KI-Haftungsrichtlinie um eine „Richtlinie“ handelt, während die EU-KI-Verordnung eine „Verordnung“ ist. Was ist der Unterschied? Nun, eine EU-Verordnung tritt in allen Mitgliedstaaten automatisch in Kraft. Eine Richtlinie hingegen legt ein Ziel fest, das alle Mitgliedstaaten erreichen müssen. Es bleibt dem einzelnen Mitgliedstaat überlassen, wie er dieses Ziel im Rahmen der nationalen Gesetzgebung am besten umsetzt. ***

‍

Die Regeln

Die KI-Haftungsrichtlinie führt zwei zugunsten der Kläger wirkende Schutzmaßnahmen ein, die von den Mitgliedstaaten umzusetzen sind: (1) eine Kausalitätsvermutung und (2) das Recht auf Offenlegung von Beweismitteln. Diese Maßnahmen werden Klägern helfen, die besonderen Beweisschwierigkeiten zu überwinden, die bei der Anwendung von Haftungsregeln auf KI-Systeme auftreten.

1. Kausalitätsvermutung

Um den Schwierigkeiten beim Nachweis eines Kausalzusammenhangs bei durch KI verursachten Schäden zu begegnen, schafft die KI-Haftungsrichtlinie eine widerlegbare Vermutung, dass der Beklagte für den Fehler oder die Unterlassung haftet, die durch sein fehlerhaft funktionierendes KI-System verursacht wurden. Diese Vermutung greift nur dann, wenn die folgenden drei Bedingungen erfüllt sind:

A – Das Verhalten des Beklagten entsprach nicht einer in den europäischen oder nationalen Rechtsvorschriften festgelegten Sorgfaltspflicht, die speziell dem Schutz vor dem eingetretenen Schaden dient;

B – Es kann aufgrund der Umstände des Einzelfalls vernünftigerweise davon ausgegangen werden, dass das Verschulden des Beklagten die vom KI-System erzeugte Ausgabe (oder das Ausbleiben einer Ausgabe des KI-Systems) beeinflusst hat; und

C – Der Kläger hat nachgewiesen, dass die vom KI-System erzeugte Ausgabe (oder das Ausbleiben einer Ausgabe des KI-Systems) den Schaden verursacht hat.

Im Fall eines Hochrisiko-KI-Systems gemäß der EU-KI-Verordnung gilt die oben unter A genannte Anforderung automatisch als erfüllt, wenn der Beklagte bestimmte Pflichten nicht eingehalten hat, die ihm im Rahmen der EU-KI-Verordnung auferlegt wurden. Zu diesen Pflichten gehören unter anderem die Dokumentations- und Überwachungsanforderungen.

2. Recht auf Offenlegung von Beweismitteln

Die KI-Haftungsrichtlinie ermächtigt potenzielle Kläger, gerichtliche Anordnungen zur Offenlegung relevanter Beweismittel in Bezug auf Hochrisiko-KI-Systeme zu erwirken. Solche Beweismittel würden aus der technischen Dokumentation, den Überwachungsprotokollen und allen anderen Transparenzanforderungen gemäß der EU-KI-Verordnung bestehen. Wesentlich ist dabei: Wenn der Beklagte diese Informationen nicht offenlegt, wird vermutet, dass er der relevanten Sorgfaltspflicht nach europäischem oder nationalem Recht nicht nachgekommen ist, wodurch die oben unter A genannte Anforderung automatisch erfüllt ist. Dies bedeutet, dass eine Nichtoffenlegung der relevanten Informationen es dem Beklagten erheblich erschweren würde, die Kausalitätsvermutung zu widerlegen.

Zeitplan

Dieser Vorschlag wurde mehr als ein Jahr nach der Veröffentlichung des ersten Entwurfs der EU-KI-Verordnung vorgelegt. Einige Kommentatoren sind darüber besorgt, da ein unzusammenhängendes KI-Regulierungssystem in Europa die Unklarheit erhöhen und zu Regulierungslücken führen könnte. Das ist ein berechtigter Einwand – wenn zwischen dem Inkrafttreten der EU-KI-Verordnung und dem Inkrafttreten der KI-Haftungsrichtlinie eine erhebliche Zeitspanne liegt, entsteht tatsächlich eine Regulierungslücke. Die Kommission sieht diese Lücke allerdings nicht, und es bleibt abzuwarten, wie sich die Situation entwickelt. Der Entwurf liegt derzeit dem Europäischen Rat zur Prüfung vor und muss auch noch das Parlament durchlaufen.

Unsere Einschätzung

Dies unterstreicht nachdrücklich, wie wichtig es ist, eine detaillierte technische Dokumentation im Zusammenhang mit Ihren KI-Systemen zu führen. Da die im Rahmen der KI-Haftungsrichtlinie geschaffene Haftungsvermutung widerlegbar ist, kann eine detaillierte und solide Dokumentation einen starken Schutz gegen potenzielle Ansprüche wegen durch ein KI-System verursachter Schäden bieten.

Es ist zudem interessant, dass sich die Kommission dafür entschieden hat, auf bestehende verschuldensabhängige Regeln in der gesamten Union zurückzugreifen – über die Anforderung A der oben genannten widerlegbaren Vermutung (Verletzung einer bestehenden Sorgfaltspflicht nach europäischem oder nationalem Recht) –, anstatt KI-spezifische Tatbestände einzuführen. Die KI-Haftungsrichtlinie enthält Überprüfungsklauseln, so dass es sich hierbei möglicherweise um einen „Abwarten-und-Sehen“-Ansatz handelt...

Das Jahr 2023 wird ein wichtiges Jahr für die KI-Regulierung. Organisationen, die in der EU genutzte KI-Systeme jeglicher Art entwickeln, sind gut beraten, sich bereits jetzt mit diesen Fragen auseinanderzusetzen und auf die Compliance hinzuarbeiten. Enzai wurde von Juristen gegründet und wird von diesen unterstützt, die Experten auf diesem Gebiet sind.

‍

Enzai ist die führende Plattform für Enterprise-KI-Governance, die speziell dafür entwickelt wurde, Organisationen beim Übergang von abstrakten Richtlinien zur operativen Aufsicht zu unterstützen. Unsere KI-Risikomanagement-Plattform bietet die spezialisierte Infrastruktur, die für die Verwaltung der Governance agentischer KI, die Führung eines umfassenden KI-Inventars und die Gewährleistung der Einhaltung der EU-KI-Verordnung erforderlich ist. Durch die Automatisierung komplexer Arbeitsabläufe versetzt Enzai Unternehmen in die Lage, die Einführung von KI vertrauensvoll zu skalieren und gleichzeitig die Übereinstimmung mit globalen Standards wie ISO 42001 und NIST zu wahren.