Résumé

Cet épisode du podcast AI Governance présente Sophie in 't Veld, figure emblématique des droits numériques en Europe et ancienne députée au Parlement européen pendant 20 ans. Sophie rejoint Matt McCallum d'Enzai pour évoquer la transition essentielle entre l'adoption de la législation et son application dans le cadre de l'EU AI Act, ainsi que les défis du contrôle démocratique dans un paysage politique en mutation.

Ils discutent de la « monnaie politique » de l'application du droit numérique, du coût humain catastrophique des biais algorithmiques non maîtrisés, comme l'illustre le scandale néerlandais des allocations de garde d'enfants, ainsi que du dangereux manque de transparence entourant les exemptions de sécurité nationale pour l'IA et les logiciels espions.

Vous pouvez l’écouter sur Spotify ou Apple Music, ou regarder l’épisode ici sur YouTube.

Principaux enseignements

• La transition de la législation à l’application du EU AI Act, et pourquoi « l’encre n’est pas encore sèche » au sujet des nouvelles procédures de simplification.

• Des enseignements essentiels du GDPR et pourquoi l’application est devenue une « monnaie politique » pour la Commission.

• Le scandale néerlandais catastrophique des allocations de garde d’enfants, qui constitue un avertissement quant à l’impact concret du profilage automatisé.

• Les dangers de l’exemption de « sécurité nationale » et son rôle dans la création d’une « boîte noire » d’un espace de non-droit réglementaire.

• Les défis de l’IA agentique et pourquoi le principe de révision humaine doit rester technologiquement neutre afin de protéger les droits fondamentaux.