Podcast sur la gouvernance de l'IA - Les réglementations ADMT de la Californie avec Phil Laird

Résumé

Cet épisode du podcast sur la gouvernance de l'IA accueille Phil Laird, conseiller général de la California Privacy Protection Agency (CPPA). Phil rejoint Matt McCallum d'Enzai pour discuter de la manière dont la Californie opérationnalise la surveillance de la prise de décision automatisée en 2026 et 2027.

Ils explorent ce que les réglementations de la Californie exigent par « intervention humaine significative » et ce que cette définition exclut explicitement, les modes de défaillance les plus courants dans les premières implémentations de l'ADMT, la manière dont le régime d'évaluation des risques de la Californie s'articule avec les travaux relatifs à la loi de l'UE sur l'IA et au RGPD, ainsi que l'ambition architecturale derrière DROP. Phil conclut en expliquant pourquoi l'absence de friction (« frictionless ») est une doctrine de fonctionnement au sein de l'agence plutôt qu'un simple discours marketing à l'intention des consommateurs.

Vous pouvez écouter cet épisode sur Spotify ou Apple Music, ou le visionner ici sur YouTube.

Points clés à retenir

• Ce que la définition californienne de l'« intervention humaine significative » exclut explicitement, et pourquoi certains modèles d'examen humain en entreprise ne seront pas conformes.

• Le mode de défaillance le plus courant dans les premières implémentations de l'ADMT : les organisations qui pensent avoir traité le biais d'automatisation alors que ce n'est pas le cas, et ce que les exigences accrues de la CPPA imposent réellement.

• Les points de convergence entre le régime d'évaluation des risques de la Californie et les travaux relatifs à la loi de l'UE sur l'IA ou au RGPD, les points de divergence, et les raisons pour lesquelles la « réutilisation » reste limitée plutôt que globale.

• Les coulisses du DROP, la plateforme centralisée de demande de suppression et d'exclusion (Delete Request and Opt-out Platform) que la Californie est en train de concevoir, et ce à quoi ressemble la préparation opérationnelle en 2026/2027 pour les entreprises concernées.

• Pourquoi l'absence de friction (« frictionless ») constitue une doctrine opérationnelle au sein de la CPPA plutôt qu'un argument commercial, et comment cela influence le calendrier réglementaire de l'agence.