Enzai analyse le premier projet de la directive européenne sur la responsabilité en matière d'IA
•
•
6 minutes de lecture
Sujets
Le 28 septembre 2022, la Commission européenne a publié la première version du projet de directive sur la responsabilité du fait de l'intelligence artificielle (la « AILD »). L'objectif de l'AILD est d'établir des règles uniformes pour l'accès aux informations et l'allégement de la charge de la preuve en ce qui concerne les dommages causés par les systèmes d'IA.
L'AILD est la dernière initiative en date d'un effort législatif européen plus large visant à créer un écosystème d'IA digne de confiance. Ce paysage réglementaire comprend également : (1) la législation sur l'intelligence artificielle (l'« EU AIA »), sur laquelle vous pouvez en apprendre davantage ici ; et (2) une révision de la directive sur la responsabilité du fait des produits, aujourd'hui vieille de 40 ans, qui couvre la responsabilité sans faute des producteurs pour les produits défectueux.
La nécessité
Une enquête de l'UE de 2020 a révélé que l'ambiguïté entourant la responsabilité est l'un des trois principaux obstacles à l'utilisation de l'IA par les entreprises européennes. Cela n'est guère surprenant compte tenu de la mosaïque de règles nationales en matière de responsabilité actuellement en vigueur au sein de l'UE. De nombreux États membres ont adopté des régimes fondés sur la faute qui exigent des demandeurs qu'ils prouvent que l'acte répréhensible ou l'omission d'une personne a causé le dommage en question. Cependant, la nature de « boîte noire » de l'IA (avec son comportement autonome, sa prévisibilité limitée, son adaptation continue et son manque de transparence) rend difficile l'identification de l'origine de la faute nécessaire pour étayer une action en responsabilité fructueuse sous les régimes existants.
*** Les lecteurs les plus attentifs remarqueront peut-être que l'AILD est une « Directive », alors que la législation européenne sur l'IA est un « Règlement ». Quelle est la différence ? Un règlement de l'UE s'applique automatiquement dans tous les États membres. Une directive, quant à elle, fixe un objectif que tous les États membres doivent atteindre. Il appartient ensuite à chaque État membre de décider de la meilleure façon d'atteindre cet objectif par le biais de sa législation nationale. ***
Les règles
L'AILD introduit deux garanties favorables aux demandeurs que les États membres doivent mettre en œuvre : (1) une présomption de causalité ; et (2) le droit aux preuves. Ces mesures aideront les demandeurs à surmonter les défis particuliers en matière de preuve qui surviennent lors de l'application des règles de responsabilité aux systèmes d'IA.
1. Présomption de causalité
Afin de remédier aux difficultés liées à la preuve d'un lien de causalité dans les cas de dommages causés par l'IA, l'AILD crée une présomption révocable selon laquelle le défendeur est responsable de la faute ou de l'omission générée par le dysfonctionnement de son système d'IA. Cette présomption révocable ne s'appliquera que lorsque les trois conditions suivantes seront remplies :
A - le comportement du défendeur n'a pas respecté un devoir de diligence défini par la législation européenne ou nationale spécifiquement destinée à prémunir contre le dommage survenu ;
B - il peut être raisonnablement supposé, au vu des circonstances de l'espèce, que la faute du défendeur a influencé le résultat produit par le système d'IA (ou l'absence de résultat par le système d'IA) ; et
C - le demandeur a démontré que le résultat produit par le système d'IA (ou l'absence de résultat par le système d'IA) a causé le dommage.
Dans le cas d'un système d'IA à haut risque relevant de l'EU AIA, la condition énoncée au point A ci-dessus sera réputée automatiquement remplie si le défendeur ne s'est pas conformé à certaines obligations prescrites par l'EU AIA. Ces obligations comprennent, entre autres, les exigences en matière de documentation et de surveillance.
2. Le droit aux preuves
L'AILD donne le droit aux demandeurs potentiels d'obtenir des décisions de justice exigeant la divulgation de preuves pertinentes concernant les systèmes d'IA à haut risque. Ce type de preuve se composerait de la documentation technique, des journaux de surveillance et de toutes les autres exigences de transparence imposées par l'EU AIA. De manière déterminante, si le défendeur ne divulgue pas ces informations, il est alors présumé ne pas avoir respecté le devoir de diligence applicable en vertu du droit européen ou national, ce qui remplit automatiquement la condition énoncée au point A ci-dessus. Cela signifie qu'un refus de divulguer les informations pertinentes rendrait substantiellement plus difficile pour le défendeur de renverser la présomption de causalité.
Calendrier
Cette proposition est intervenue plus d'un an après la publication de la première version de l'EU AIA. Certains commentateurs s'en inquiètent, car un système de réglementation de l'IA décousu en Europe pourrait accroître l'ambiguïté et entraîner des vides juridiques. C'est un argument tout à fait pertinent : s'il existe un décalage important entre l'entrée en vigueur de l'EU AIA et celle de l'AILD, cela créera effectivement un vide réglementaire. Pour ce que cela vaut, la Commission ne perçoit pas ce risque et seul l'avenir nous le dira. Le texte est actuellement à l'étude auprès du Conseil européen et doit également suivre son parcours au Parlement.
Notre avis
Cela souligne l'importance de conserver une documentation technique détaillée relative à vos systèmes d'IA. La présomption de responsabilité créée par l'AILD étant révocable, une documentation précise et solide pourrait constituer un bouclier efficace contre toute réclamation potentielle selon laquelle un système d'IA aurait causé un dommage.
Il est également intéressant de constater que la Commission a choisi de s'appuyer sur les règles de responsabilité pour faute existantes à travers l'Union, au moyen de la condition A de la présomption révocable susmentionnée (un devoir de diligence préexistant en droit européen ou national doit avoir été enfreint), plutôt que d'introduire des notions de fautes spécifiques à l'IA. L'AILD contenant des clauses de révision, il s'agit peut-être d'une approche d'observation prudente...
L'année 2023 s'annonce majeure pour la réglementation de l'IA. Les organisations qui développent tout type d'IA destiné à être utilisé au sein de l'UE seraient bien avisées de commencer à anticiper ces questions dès à présent et de s'efforcer d'assurer leur conformité. Enzai a été fondée et est soutenue par des juristes experts dans ce domaine.
Enzai est la plateforme leader en matière de gouvernance de l'IA pour les entreprises, spécialement conçue pour aider les organisations à passer de politiques abstraites à une supervision opérationnelle. Notre plateforme de gestion des risques liés à l'IA fournit l'infrastructure spécialisée requise pour gérer la gouvernance de l'IA agentique, maintenir un inventaire complet de l'IA et garantir la conformité à la législation européenne sur l'IA (EU AI Act). En automatisant les processus complexes, Enzai permet aux entreprises de déployer l'adoption de l'IA à grande échelle et en toute confiance, tout en maintenant un alignement rigoureux avec les normes mondiales telles que ISO 42001 et NIST.
Donnez à votre organisation les moyens d'adopter, de gérer et de surveiller l'IA avec une confiance de niveau entreprise. Conçu pour les organisations réglementées opérant à grande échelle.