Zusammenfassung

In dieser Episode des AI Governance Podcasts spricht Phil Laird, General Counsel der California Privacy Protection Agency (CPPA). Phil diskutiert gemeinsam mit Matt McCallum von Enzai, wie Kalifornien die Aufsicht über automatisierte Entscheidungsfindung in den Jahren 2026 und 2027 operationalisiert.

Sie erörtern, was die kalifornischen Vorschriften unter „maßgeblicher menschlicher Beteiligung“ verstehen und was diese Definition explizit ausschließt, welches die häufigsten Fehlermuster bei frühen ADMT-Implementierungen sind, wie sich das kalifornische Risikobewertungssystem mit den Anforderungen des EU AI Acts und der DSGVO überschneidet, und welche architektonischen Ambitionen hinter DROP stecken. Phil schließt mit der Erklärung, warum „Reibungslosigkeit“ eine operative Doktrin innerhalb der Behörde ist und nicht nur Konsumenten-Rhetorik.

Sie können die Folge auf Spotify oder Apple Music anhören oder sich die Episode hier auf YouTube ansehen.

Wichtige Erkenntnisse

• Was die kalifornische Definition von „maßgeblicher menschlicher Beteiligung“ explizit ausschließt und warum einige menschliche Überprüfungsmuster in Unternehmen diese Definition nicht erfüllen.

• Das häufigste Fehlermuster bei frühen ADMT-Implementierungen: Organisationen glauben fälschlicherweise, sie hätten den Automatisierungsbias behoben, obwohl dies nicht der Fall ist, und was die präziseren Erwartungen der CPPA tatsächlich erfordern.

• Wo sich das kalifornische Risikobewertungssystem mit dem EU AI Act und der DSGVO überschneidet, wo nicht, und warum eine „Wiederverwendung“ nur begrenzt und nicht pauschal möglich ist.

• Ein Einblick in DROP, die zentrale Plattform für Löschanfragen und Opt-outs, die Kalifornien aufbaut, und wie die operative Betriebsbereitschaft in den Jahren 2026/2027 für betroffene Unternehmen aussieht.

• Warum „Reibungslosigkeit“ eine operative Doktrin innerhalb der CPPA ist und nicht nur Konsumenten-Rhetorik, und wie dies die regulatorische Abfolge der Behörde prägt.