Résumé

Cet épisode du podcast AI Governance met en vedette Bojana Bellamy, présidente du Center for Information Policy Leadership (CIPL) et figure mondiale de premier plan en matière de politique des données depuis plus de 25 ans. Bojana rejoint Matt McCallum d’Enzai pour discuter du changement fondamental allant d’une conformité statique à une responsabilisation organisationnelle dynamique à l’ère de la révolution de l’IA.

Ils examinent la manière dont les « organisations éclairées » considèrent la gouvernance comme un atout stratégique plutôt que comme un obstacle, les défis spécifiques liés au maintien d’une supervision humaine dans les systèmes d’IA agentique, ainsi que la géopolitique des « ponts de données » par rapport aux « forteresses numériques ».

Vous pouvez l’écouter sur Spotify ou Apple Music, ou regarder l’épisode ici sur YouTube.

Principaux enseignements

• La différence fondamentale entre une conformité de pure forme (« tick-box ») et l’ancrage de la redevabilité dans la culture et le code d’une organisation.

• Pourquoi l’ère du « human in the loop » évolue vers des points de contrôle avec intervention humaine pour les actions autonomes à haut risque.

• Comment concilier la tension entre les lois sur la protection de la vie privée (collecter moins de données) et les besoins de l’IA (collecter des données diversifiées afin de réduire les biais).

• Le rôle stratégique des technologies de préservation de la confidentialité (PPT) pour permettre les flux de données transfrontaliers et l’entraînement des modèles.

• Pourquoi les décideurs publics doivent abandonner le « principe de précaution » au profit d’une approche agile, fondée sur le risque, qui met en balance les préjudices et les bénéfices pour la société.