Le 28 septembre 2022, la Commission européenne a publié le premier projet de proposition de directive sur la responsabilité en matière d'intelligence artificielle (la « AILD »). L'objectif de la AILD est de définir des règles uniformes concernant l'accès aux informations et l'allégement de la charge de la preuve en ce qui concerne les dommages causés par les systèmes d'IA.

La AILD est la dernière initiative en date d'un effort législatif européen plus large visant à créer un écosystème d'IA digne de confiance. Ce paysage comprend également : (1) la législation sur l'intelligence artificielle (la « législation de l'UE sur l'IA »), sur laquelle vous pouvez en savoir plus ici ; et (2) une révision de la directive sur la responsabilité du fait des produits défectueux, désormais vieille de 40 ans, qui couvre la responsabilité sans faute des producteurs pour les produits défectueux.

Le besoin

Une enquête de l'UE menée en 2020 a révélé que l'ambiguïté entourant la responsabilité est l'un des trois principaux obstacles à l'utilisation de l'IA par les entreprises européennes. Cela n'est guère surprenant compte tenu de la mosaïque de règles nationales en matière de responsabilité actuellement en vigueur au sein de l'UE. De nombreux États membres ont adopté des régimes fondés sur la faute qui exigent des demandeurs qu'ils prouvent que l'acte ou l'omission illicite d'un individu a causé le dommage en question. Cependant, la nature de « boîte noire » de l'IA (avec son comportement autonome, sa prévisibilité limitée, son adaptation continue et son manque de transparence) rend difficile l'identification de la source de la faute nécessaire pour soutenir une action en responsabilité fructueuse dans le cadre des régimes existants.

*** Les lecteurs les plus attentifs remarqueront peut-être que la AILD est une « directive », alors que la législation de l'UE sur l'IA est un « règlement ». Quelle est la différence ? Eh bien, un règlement de l'UE s'applique automatiquement dans tous les États membres. Une directive, quant à elle, définit un objectif que tous les États membres doivent atteindre. Il appartient à chaque État membre de décider de la meilleure façon d'atteindre cet objectif par le biais de sa législation nationale. ***

‍

Les règles

La AILD introduit deux garanties favorables aux demandeurs que les États membres doivent mettre en œuvre : (1) une présomption de causalité ; et (2) le droit à l'obtention de preuves. Ces mesures aideront les demandeurs à surmonter les défis uniques en matière de preuve qui se posent lors de l'application des règles de responsabilité aux systèmes d'IA.

1. Présomption de causalité

Pour remédier aux difficultés liées à la preuve d'un lien de causalité en cas de dommages causés par l'IA, la AILD crée une présomption réfragable selon laquelle le défendeur est responsable de la faute ou de l'omission résultant du dysfonctionnement de son système d'IA. Cette présomption, qui peut être réfutée, ne s'appliquera que lorsque les trois conditions suivantes seront remplies :

A - le comportement du défendeur n'a pas respecté une obligation de diligence énoncée dans la législation européenne ou nationale spécifiquement destinée à protéger contre le dommage survenu ;

B - on peut raisonnablement supposer, au vu des circonstances de l'espèce, que la faute du défendeur a influencé le résultat produit par le système d'IA (ou l'absence de résultat par le système d'IA) ; et

C - le demandeur a démontré que le résultat produit par le système d'IA (ou l'absence de résultat par le système d'IA) a causé le dommage.

Dans le cas d'un système d'IA à haut risque relevant de la législation de l'UE sur l'IA, l'exigence énoncée au point A ci-dessus sera considérée comme automatiquement remplie si le défendeur ne s'est pas conformé à certaines obligations qui lui incombent en vertu de ladite législation. Ces obligations comprennent, entre autres, les exigences en matière de documentation et de surveillance.

2. Droit à l'obtention de preuves

La AILD permet aux demandeurs potentiels d'obtenir des injonctions de tribunaux ordonnant la divulgation de preuves pertinentes concernant les systèmes d'IA à haut risque. Ce type de preuves comprendrait la documentation technique, les journaux de surveillance et toutes les autres exigences de transparence prévues par la législation de l'UE sur l'IA. De manière cruciale, si le défendeur ne divulgue pas ces informations, il est alors présumé qu'il n'a pas respecté l'obligation de diligence pertinente en vertu du droit européen ou national, ce qui remplit automatiquement l'exigence énoncée au point A ci-dessus. Cela signifie qu'un défaut de divulgation des informations pertinentes rendrait substantiellement plus difficile pour le défendeur de renverser la présomption de causalité.

Calendrier

Cette proposition est intervenue plus d'un an après la publication du premier projet de la législation de l'UE sur l'IA. Certains commentateurs s'en inquiètent, car un système de réglementation de l'IA décousu en Europe pourrait accroître l'ambiguïté et entraîner des lacunes réglementaires. C'est un argument pertinent : s'il existe un écart important entre l'entrée en vigueur de la législation de l'UE sur l'IA et celle de la AILD, cela laisse effectivement un vide juridique. Pour ce que cela vaut, la Commission ne perçoit pas ce vide et seul l'avenir nous le dira. Le texte est actuellement examiné par le Conseil européen et doit également suivre son processus législatif au sein du Parlement.

Notre avis

Cela souligne l'importance de conserver une documentation technique détaillée concernant vos systèmes d'IA. La présomption de responsabilité créée par la AILD étant réfragable, une documentation précise et solide pourrait constituer un bouclier efficace contre toute réclamation potentielle selon laquelle un système d'IA aurait causé un dommage.

Il est également intéressant de noter que la Commission a choisi de s'appuyer sur les règles existantes en matière de responsabilité pour faute à travers l'Union, par le biais de la condition A de la présomption réfragable ci-dessus (une obligation de diligence existante en vertu du droit européen ou national doit avoir été enfreinte), plutôt que d'introduire des notions de faute spécifiques à l'IA. La AILD contient des clauses de révision, c'est donc peut-être une approche prudente d'observation...

L'année 2023 sera cruciale pour la réglementation de l'IA. Il est vivement conseillé aux organisations qui développent tout type d'IA destiné à être utilisé dans l'UE de commencer à réfléchir à ces questions dès à présent et de s'efforcer de se mettre en conformité. Enzai a été fondée et est soutenue par des juristes experts dans ce domaine.

‍

Enzai est la plateforme leader de gouvernance de l'IA d'entreprise, spécialement conçue pour aider les organisations à passer d'une politique abstraite à une supervision opérationnelle. Notre plateforme de gestion des risques liés à l'IA fournit l'infrastructure spécialisée nécessaire pour gérer la gouvernance de l'IA agentique, maintenir un inventaire d'IA complet et garantir la conformité avec la législation de l'UE sur l'IA. En automatisant les flux de travail complexes, Enzai permet aux entreprises de déployer l'IA à grande échelle en toute confiance, tout en restant alignées sur les normes mondiales telles que ISO 42001 et NIST.