Glossaire
Mis à jour
Conçue pour surmonter le défi de l'effet « boîte noire », la directive sur la responsabilité en matière d'IA (AILD, relancée à la suite des négociations sur l'Omnibus numérique) permet aux victimes d'accéder aux preuves concernant les systèmes à haut risque par le biais d'injonctions judiciaires. Si un fournisseur ne respecte pas les règles de documentation prévues par l'EU AI Act, le tribunal peut présumer que sa faute est à l'origine du dommage, déplaçant ainsi la charge de la preuve vers l'organisation.
Exemple
Un citoyen blessé par un drone de livraison piloté par l'IA poursuit le fabricant en justice. En vertu de la directive, le tribunal ordonne à l'entreprise de divulguer ses registres de supervision humaine. Ces registres étant incomplets, le tribunal présume que la défaillance de l'IA est à l'origine du crash, statuant ainsi en faveur du demandeur.