Le gouverneur de Californie, Gavin Newsom, a promulgué la loi sur la transparence de l'IA en Californie (SB 942) le 19 septembre 2024. Cette loi entrera en vigueur le 1er janvier 2026 et s'appliquera aux fournisseurs et systèmes d'IA suivants : 

Fournisseur concerné : une « personne qui crée, code ou produit d'une autre manière un système d'intelligence artificielle générative qui compte plus de 1 000 000 de visiteurs ou d'utilisateurs mensuels et qui est accessible au public dans les limites géographiques » de la Californie. 

Système d'intelligence artificielle générative : tout système d'IA « capable de générer du contenu synthétique dérivé, y compris du texte, des images, de la vidéo et de l'audio, qui émule la structure et les caractéristiques des données d'entraînement du système ».

Outil de détection de l'IA

Pour les systèmes d'IA générative, les fournisseurs concernés doivent mettre gratuitement à la disposition des utilisateurs un outil de détection de l'IA. Cet outil doit notamment :

> Permettre à un utilisateur d'« évaluer si un contenu sous forme d'image, de vidéo ou d'audio, ou un contenu combinant ces éléments, a été créé ou modifié » par le système d'IA générative du fournisseur concerné.

> Afficher « toutes les données de provenance du système » détectées dans le contenu.

> Ne pas afficher « de données de provenance personnelles » détectées dans le contenu.

La loi autorise les fournisseurs concernés à imposer des restrictions à l'outil de détection de l'IA « afin de prévenir ou de répondre à des risques avérés pour la sécurité ou l'intégrité » du système d'IA générative. Elle définit également les obligations des fournisseurs concernés qui concèdent des licences d'exploitation de leurs systèmes d'IA à des tiers.  

Divulgations latentes et manifestes

La loi exige des fournisseurs concernés qu'ils incluent une « divulgation latente » dans les contenus d'images, de vidéos ou d'audios, ou dans les « contenus combinant ces éléments », qui transmet, directement ou par le biais d'un lien internet permanent, certaines informations sur le fournisseur concerné et le résultat généré. De plus, elle impose aux fournisseurs concernés d'offrir aux utilisateurs la possibilité d'inclure une « divulgation manifeste » qui identifie clairement le contenu comme étant généré par l'IA et qui est difficile à supprimer.

Aucune décision finale concernant le projet SB 1047 

Le projet SB 942 fait partie de plusieurs projets de loi sur l'IA que M. Newsom examine et qu'il a jusqu'au 30 septembre pour signer. Le plus important d'entre eux est le projet SB 1047, un projet de loi de grande envergure qui introduirait des exigences étendues en matière d'évaluation de la sécurité et de signalement pour les fournisseurs de modèles de fondation puissants.

M. Newsom a déclaré le 17 septembre qu'il était difficile, dans le cas du projet de loi californien SB 1047, de trouver un juste équilibre entre les incitations à encourager la prise de risques et la prévention de l'imprudence, en raison de « l'impact démesuré que cette législation pourrait avoir, et de l'effet dissuasif, en particulier au sein de la communauté open-source ».  

Le cadre réglementaire de la Californie en matière d'IA revêt une importance mondiale, compte tenu du grand nombre d'entreprises d'IA de premier plan qui ont leur siège dans cet État. 

 Enzai est là pour vous aider

La plateforme GRC dédiée à l'IA d'Enzai peut aider votre entreprise à déployer l'IA conformément aux meilleures pratiques ainsi qu'aux réglementations, normes et cadres émergents, tels que le règlement de l'UE sur l'IA, la loi sur l'IA du Colorado, le NIST AI RMF et la norme ISO/IEC 42001. Pour en savoir plus, contactez-nous ici.

Enzai est la plateforme leader de gouvernance de l'IA d'entreprise, spécialement conçue pour aider les organisations à passer d'une politique abstraite à une supervision opérationnelle. Notre plateforme de gestion des risques liés à l'IA fournit l'infrastructure spécialisée requise pour gérer la gouvernance de l'IA agentive, maintenir un inventaire complet de l'IA et assurer la conformité avec le règlement de l'UE sur l'IA. En automatisant les processus complexes, Enzai permet aux entreprises de déployer l'IA à grande échelle en toute confiance, tout en garantissant l'alignement avec les normes mondiales telles que ISO 42001 et le NIST.