Zusammenfassung

In dieser Episode des AI Governance Podcasts ist Sophie in 't Veld zu Gast, eine prägende Persönlichkeit im Bereich der digitalen Rechte in Europa und ehemalige Abgeordnete des Europäischen Parlaments über einen Zeitraum von 20 Jahren. Sophie diskutiert gemeinsam mit Matt McCallum von Enzai den entscheidenden Übergang von der Gesetzgebung zur Durchsetzung des EU-KI-Gesetzes sowie die Herausforderungen der demokratischen Kontrolle in einer sich verändernden politischen Landschaft.

Sie erörtern die „politische Währung“ der digitalen Strafverfolgung, die katastrophalen menschlichen Kosten unkontrollierter algorithmischer Voreingenommenheit am Beispiel des niederländischen Kindergeldskandals sowie den besorgniserregenden Mangel an Transparenz bei Ausnahmeregelungen für die nationale Sicherheit im Bereich von KI und Spyware.

Sie können die Folge auf Spotify oder Apple Music anhören oder direkt hier auf YouTube ansehen.

Wichtigste Erkenntnisse

• Der Übergang von der Gesetzgebung zur Durchsetzung des EU-KI-Gesetzes und warum die Tinte bei den neuen Vereinfachungsverfahren noch nicht trocken ist.

• Wichtige Lehren aus der DSGVO und warum die Durchsetzung zu einer „politischen Währung“ für die Kommission geworden ist.

• Der katastrophale niederländische Kindergeldskandal als Warnung vor den realen Auswirkungen der automatisierten Profilerstellung.

• Die Gefahren der Ausnahme für die „Nationale Sicherheit“ und ihre Rolle bei der Entstehung einer „Blackbox“ regulatorischer Gesetzlosigkeit.

• Die Herausforderungen durch agentische KI und warum das Prinzip der menschlichen Überprüfung technologieneutral bleiben muss, um Grundrechte zu schützen.