Blog
•
4 Min. Lesezeit
Am 28. September 2022 veröffentlichte die Europäische Kommission den ersten Entwurf der vorgeschlagenen Richtlinie über KI-Haftung (Artificial Intelligence Liability Directive, kurz „AILD“). Zweck der AILD ist es, einheitliche Vorschriften für den Zugang zu Informationen und die Erleichterung der Beweislast bei Schäden festzulegen, die durch KI-Systeme verursacht werden.
Die AILD ist der jüngste Baustein umfassender europäischer Gesetzgebungsbemühungen für ein vertrauenswürdiges KI-Ökosystem. Dazu gehören außerdem: (1) der Artificial Intelligence Act (kurz „EU AIA“), über den Sie hier mehr lesen können, und (2) eine Überarbeitung der inzwischen 40 Jahre alten Produkthaftungsrichtlinie, die die verschuldensunabhängige Haftung von Herstellern für fehlerhafte Produkte regelt.
Der Handlungsbedarf
Laut einer EU-Umfrage aus dem Jahr 2020 gehört die unklare Haftungslage zu den drei größten Hindernissen für den Einsatz von KI in europäischen Unternehmen. Das überrascht kaum angesichts des Flickenteppichs nationaler Haftungsregeln, der derzeit in der EU besteht. Viele Mitgliedstaaten haben verschuldensabhängige Regelungen eingeführt, nach denen Kläger nachweisen müssen, dass eine rechtswidrige Handlung oder Unterlassung einer Person den betreffenden Schaden verursacht hat. Der „Blackbox“-Charakter von KI (mit autonomem Verhalten, begrenzter Vorhersehbarkeit, fortlaufender Anpassung und fehlender Transparenz) erschwert es jedoch, die Fehlerquelle zu ermitteln, die für eine erfolgreiche Haftungsklage nach den bestehenden Regelungen erforderlich ist.
*** Aufmerksamen Leserinnen und Lesern fällt vielleicht auf, dass die AILD eine „Richtlinie“ ist, der EU AI Act dagegen eine „Verordnung“. Worin liegt der Unterschied? Eine EU-Verordnung gilt automatisch in allen Mitgliedstaaten. Eine Richtlinie hingegen gibt ein Ziel vor, das alle Mitgliedstaaten erreichen müssen. Wie dieses Ziel am besten mit nationalen Gesetzen umgesetzt wird, entscheidet jeder Mitgliedstaat selbst. ***
Die Regelungen
Die AILD sieht zwei klägerfreundliche Schutzmechanismen vor, die die Mitgliedstaaten umsetzen sollen: (1) eine Kausalitätsvermutung und (2) ein Recht auf Offenlegung von Beweismitteln. Diese Maßnahmen helfen Klägern, die besonderen Beweisschwierigkeiten zu überwinden, die bei der Anwendung von Haftungsregeln auf KI-Systeme entstehen.
1. Kausalitätsvermutung
Um die Schwierigkeiten beim Nachweis eines Kausalzusammenhangs bei durch KI verursachten Schäden zu beheben, führt die AILD eine widerlegbare Vermutung ein, nach der der Beklagte für das Fehlverhalten oder Versäumnis seines fehlerhaft funktionierenden KI-Systems haftet. Diese Vermutung kann widerlegt werden und greift nur, wenn die folgenden drei Voraussetzungen erfüllt sind:
A) das Verhalten des Beklagten entsprach nicht einer im europäischen oder nationalen Recht festgelegten Sorgfaltspflicht, die speziell vor dem eingetretenen Schaden schützen soll;
B) aufgrund der Umstände des Falls kann vernünftigerweise angenommen werden, dass das Verschulden des Beklagten das vom KI-System hervorgebrachte Ergebnis (oder das Ausbleiben eines Ergebnisses) beeinflusst hat; und
C) der Kläger hat nachgewiesen, dass das vom KI-System hervorgebrachte Ergebnis (oder das Ausbleiben eines Ergebnisses) den Schaden verursacht hat.
Bei einem Hochrisiko-KI-System im Sinne des EU AIA gilt die oben unter A genannte Voraussetzung automatisch als erfüllt, wenn der Beklagte bestimmte ihm nach dem EU AIA auferlegte Pflichten nicht eingehalten hat. Zu diesen Pflichten gehören unter anderem die Dokumentations- und Überwachungsanforderungen.
2. Recht auf Offenlegung von Beweismitteln
Die AILD ermöglicht es potenziellen Klägern, gerichtliche Anordnungen zur Offenlegung relevanter Beweismittel zu Hochrisiko-KI-Systemen zu erwirken. Zu diesen Beweismitteln gehören die technische Dokumentation, die Überwachungsprotokolle und alle weiteren Transparenzanforderungen nach dem EU AIA. Entscheidend ist: Legt der Beklagte diese Informationen nicht offen, wird angenommen, dass er die einschlägige Sorgfaltspflicht nach europäischem oder nationalem Recht nicht erfüllt hat. Damit ist die oben unter A genannte Voraussetzung automatisch erfüllt. Wer die relevanten Informationen nicht offenlegt, kann die Kausalitätsvermutung also deutlich schwerer widerlegen.
Zeitplan
Der Vorschlag kam mehr als ein Jahr nach der Veröffentlichung des ersten Entwurfs des EU AIA. Einige Beobachter sehen das mit Sorge, denn ein uneinheitliches KI-Regulierungssystem in Europa könnte die Unklarheit vergrößern und zu Regelungslücken führen. Ein berechtigter Einwand: Liegt zwischen dem Inkrafttreten des EU AIA und dem der AILD ein erheblicher Zeitraum, entsteht tatsächlich eine Regelungslücke. Die Kommission sieht diese Lücke allerdings nicht, und nur die Zeit wird es zeigen. Der Vorschlag liegt derzeit dem Rat zur Prüfung vor und muss außerdem das Parlament durchlaufen.
Unsere Einschätzung
Das unterstreicht, wie wichtig eine detaillierte technische Dokumentation Ihrer KI-Systeme ist. Da die mit der AILD geschaffene Haftungsvermutung widerlegbar ist, kann eine detaillierte und belastbare Dokumentation einen wirksamen Schutz gegen mögliche Ansprüche bieten, ein KI-System habe einen Schaden verursacht.
Interessant ist auch, dass sich die Kommission über die oben genannte Voraussetzung A der widerlegbaren Vermutung (es muss eine bestehende Sorgfaltspflicht nach europäischem oder nationalem Recht verletzt worden sein) auf die bestehenden verschuldensabhängigen Regeln in der Union stützt, statt KI-spezifische Verschuldenstatbestände einzuführen. Die AILD enthält allerdings Überprüfungsklauseln, vielleicht heißt es hier also erst einmal „abwarten“…
2023 wird ein wichtiges Jahr für die KI-Regulierung. Organisationen, die KI jeglicher Art für den Einsatz in der EU entwickeln, sind gut beraten, sich schon jetzt mit diesen Fragen zu befassen und auf die Einhaltung der Vorschriften hinzuarbeiten. Gegründet und unterstützt wird Enzai von Juristen, die auf diesem Gebiet ausgewiesene Experten sind.
Enzai ist die führende Plattform für KI-Governance in Unternehmen, eigens dafür entwickelt, Organisationen den Schritt von abstrakten Richtlinien zu operativer Aufsicht zu ermöglichen. Unsere Plattform für KI-Risikomanagement stellt die spezialisierte Infrastruktur bereit, um Governance für agentische KI umzusetzen, ein umfassendes KI-Inventar zu pflegen und die Konformität mit dem EU AI Act sicherzustellen. Durch die Automatisierung komplexer Workflows ermöglicht Enzai Unternehmen, die Einführung von KI souverän zu skalieren und dabei im Einklang mit globalen Standards wie ISO 42001 und NIST zu bleiben.
Seit 2023 nach ISO 27001 zertifiziert, jährlich von NQA auditiert
An der DSGVO ausgerichtete Datenverarbeitung
Kundendaten auf AWS in mehreren Regionen gehostet
Eigenes KI-Modell über eine private Verbindung nutzen
Finden Sie die KI, die Ihre Teams nutzen, prüfen Sie sie vor der Einführung, bewerten Sie sie anhand der geltenden Vorschriften und kontrollieren Sie, was Agenten tun dürfen. Entwickelt für regulierte Organisationen.



