Zusammenfassung

Diese Episode des AI Governance Podcast präsentiert Sophie in 't Veld, eine prägende Figur der europäischen digitalen Rechte und ehemaliges Mitglied des Europäischen Parlaments über 20 Jahre. Sophie tritt Enzai’s Matt McCallum bei, um den entscheidenden Übergang von der Gesetzgebung zur Durchsetzung des EU-AI-Gesetzes und die Herausforderungen der demokratischen Kontrolle in einem sich wandelnden politischen Umfeld zu diskutieren.

Sie erörtern die "politische Währung" der digitalen Gesetzesdurchsetzung, die katastrophalen humanen Kosten von ungeregelter algorithmischer Voreingenommenheit, wie sie im niederländischen Skandal um Kindergeldleistungen zu sehen waren, und den gefährlichen Mangel an Transparenz bei nationalen Sicherheitsausnahmen für KI und Spionagesoftware.

Sie können auf Spotify oder Apple Music zuhören oder die Episode hier auf YouTube ansehen.

Wichtige Erkenntnisse

• Der Übergang von der Gesetzgebung zur Durchsetzung des EU-AI-Gesetzes und warum "die Tinte nicht trocken ist" bei neuen Vereinfachungsverfahren.

• Wichtige Lehren aus der DSGVO und warum die Durchsetzung für die Kommission zu einer "politischen Währung" geworden ist.

• Der katastrophale niederländische Skandal um Kindergeldleistungen als Warnung vor den realen Auswirkungen von automatisiertem Profiling.

• Die Gefahren der "Nationale Sicherheit"-Ausnahme und ihre Rolle bei der Schaffung einer "Black Box" der regulatorischen Gesetzlosigkeit.

• Die Herausforderungen von Agentic AI und warum das Prinzip der menschlichen Überprüfung technologieneutral bleiben muss, um die Grundrechte zu schützen.