Zusammenfassung

Diese Episode des AI Governance Podcasts präsentiert Phil Laird, General Counsel der California Privacy Protection Agency (CPPA). Phil bespricht gemeinsam mit Matt McCallum von Enzai, wie Kalifornien die Aufsicht über automatisierte Entscheidungsfindung in den Jahren 2026 und 2027 operationalisiert.

Sie untersuchen, was die kalifornischen Vorschriften unter „sinnvoller menschlicher Beteiligung“ verstehen und was diese Definition explizit ausschließt, die häufigsten Fehlermuster bei frühen ADMT-Implementierungen, wie sich das kalifornische Risikobewertungsregime mit der EU-KI-Verordnung und der DSGVO überschneidet sowie die architektonische Vision hinter DROP. Phil schließt mit der Erklärung, warum „Reibungslosigkeit“ eine operative Doktrin innerhalb der Behörde und nicht bloße Verbraucherrhetorik ist.

Sie können die Folge auf Spotify oder Apple Music anhören oder direkt hier auf YouTube ansehen.

Wichtigste Erkenntnisse

• Was die kalifornische Definition von „sinnvoller menschlicher Beteiligung“ explizit ausschließt und warum einige menschliche Überprüfungsmuster in Unternehmen diese nicht bestehen werden.

• Das häufigste Fehlermuster bei frühen ADMT-Implementierungen: Organisationen, die glauben, sie hätten die Automatisierungsanfälligkeit (Automation Bias) behoben, obwohl dies nicht der Fall ist, und was die präziseren Erwartungen der CPPA tatsächlich erfordern.

• Wo sich das kalifornische Risikobewertungsregime mit der EU-KI-Verordnung und der DSGVO-Arbeit überschneidet, wo nicht und warum eine „Wiederverwendung“ nur begrenzt und nicht pauschal möglich ist.

• Ein Einblick in DROP, die zentrale Plattform für Löschanfragen und Opt-outs (Delete Request and Opt-out Platform), die Kalifornien derzeit aufbaut, und wie die operative Bereitschaft in den Jahren 2026/2027 für betroffene Unternehmen aussieht.

• Warum „Reibungslosigkeit“ eine operative Doktrin innerhalb der CPPA und nicht bloße Verbraucherrhetorik ist und wie dies die regulatorische Priorisierung der Behörde prägt.