Résumé

Cet épisode du podcast AI Governance accueille Sophie in 't Veld, figure emblématique des droits numériques en Europe et ancienne députée au Parlement européen pendant 20 ans. Sophie s’entretient avec Matt McCallum d’Enzai pour aborder le passage critique de la législation à l’application de l’AI Act de l’UE, ainsi que les défis du contrôle démocratique dans un paysage politique en mutation.

Ils évoquent la « monnaie politique » que représente l’application du droit numérique, le coût humain catastrophique des biais algorithmiques non maîtrisés, illustré par le scandale néerlandais des allocations familiales, ainsi que le manque de transparence préoccupant entourant les exemptions liées à la sécurité nationale pour l’IA et les logiciels espions.

Vous pouvez l’écouter sur Spotify ou Apple Music, ou regarder l’épisode ici sur YouTube.

Points clés

• Le passage de la législation à l’application de l’AI Act de l’UE, et pourquoi « l’encre n’est pas encore sèche » sur les nouvelles procédures de simplification.

• Leçons essentielles tirées du RGPD et raisons pour lesquelles l’application est devenue une « monnaie politique » pour la Commission.

• Le scandale catastrophique des allocations familiales aux Pays-Bas comme mise en garde sur l’impact concret du profilage automatisé.

• Les dangers de l’exception « sécurité nationale » et son rôle dans la création d’une « boîte noire » de non-droit réglementaire.

• Les défis de l’IA agentique et pourquoi le principe de l’examen humain doit rester technologiquement neutre afin de protéger les droits fondamentaux.