Résumé

Cet épisode du podcast sur la gouvernance de l'IA accueille Sophie in 't Veld, figure emblématique des droits numériques en Europe et ancienne députée au Parlement européen pendant 20 ans. Sophie rejoint Matt McCallum d'Enzai pour aborder la transition cruciale de la législation vers l'application de la législation sur l'IA de l'UE (EU AI Act), ainsi que les défis de la surveillance démocratique dans un paysage politique en mutation.

Ils évoquent la « monnaie politique » que représente l'application des lois numériques, le coût humain catastrophique d'un biais algorithmique non maîtrisé — comme l'a illustré le scandale des allocations familiales aux Pays-Bas —, et le manque dangereux de transparence entourant les exemptions de sécurité nationale pour l'IA et les logiciels espions.

Vous pouvez écouter cet épisode sur Spotify ou Apple Music, ou le visionner ici sur YouTube.

Points clés

• La transition de la législation vers l'application de la législation sur l'IA de l'UE et les raisons pour lesquelles « l'encre n'est pas encore sèche » sur les nouvelles procédures de simplification.

• Les leçons cruciales du RGPD et pourquoi l'application des règles est devenue une « monnaie politique » pour la Commission.

• Le scandale catastrophique des allocations familiales aux Pays-Bas, un avertissement quant à l'impact concret du profilage automatisé.

• Les dangers de l'exemption relative à la « sécurité nationale » et son rôle dans la création d'une « boîte noire » de non-droit réglementaire.

• Les défis posés par l'IA agentielle et la nécessité pour le principe de contrôle humain de rester neutre sur le plan technologique afin de protéger les droits fondamentaux.