Zusammenfassung

Diese Folge des AI Governance Podcast präsentiert Sophie in 't Veld, eine prägende Persönlichkeit der europäischen digitalen Rechte und ehemalige Abgeordnete des Europäischen Parlaments über 20 Jahre lang. Sophie spricht mit Enzais Matt McCallum über den entscheidenden Übergang von der Gesetzgebung zur Durchsetzung des EU AI Act und die Herausforderungen der demokratischen Aufsicht in einer sich wandelnden politischen Landschaft.

Sie erörtern die „politische Währung“ der digitalen Rechtsdurchsetzung, die katastrophalen menschlichen Folgen unkontrollierter algorithmischer Verzerrungen, wie sie im niederländischen Skandal um die Kinderbetreuungsbeihilfe zu sehen waren, sowie den gefährlichen Mangel an Transparenz im Zusammenhang mit Ausnahmen für die nationale Sicherheit bei KI und Spyware.

Sie können die Folge auf Spotify oder Apple Music anhören oder hier auf YouTube ansehen.

Wichtige Erkenntnisse

• Der Übergang von der Gesetzgebung zur Durchsetzung des EU AI Act und warum die Tinte auf neuen Vereinfachungsverfahren noch nicht trocken ist.

• Zentrale Lehren aus der DSGVO und warum die Durchsetzung für die Kommission zu einer „politischen Währung“ geworden ist.

• Der katastrophale niederländische Skandal um die Kinderbetreuungsbeihilfe als Warnung vor den Auswirkungen automatisierter Profilbildung in der realen Welt.

• Die Gefahren der Ausnahmeregelung für „nationale Sicherheit“ und ihre Rolle bei der Schaffung einer „Blackbox“ regulatorischer Gesetzlosigkeit.

• Die Herausforderungen von Agentic AI und warum das Prinzip der menschlichen Überprüfung technologie-neutral bleiben muss, um Grundrechte zu schützen.