« Les systèmes d’IA » sont le concept défini dans les lois, normes et cadres relatifs à l’IA dans l’UE et aux États-Unis. Toutefois, les définitions de « système d’IA » n’offrent pas aux praticiens de lignes directrices claires sur la manière d’interpréter cette définition.

Le règlement européen sur l’IA définit le système d’IA comme suit :

« un système fondé sur une machine, conçu pour fonctionner à des niveaux d’autonomie variables et susceptible de faire preuve d’adaptabilité après son déploiement et qui, pour des objectifs explicites ou implicites, déduit, à partir des données d’entrée qu’il reçoit, comment générer des sorties telles que des prédictions, du contenu, des recommandations ou des décisions pouvant influencer des environnements physiques ou virtuels »

‍

Un système d’IA est-il différent d’un cas d’usage de l’IA ?

Les systèmes d’IA peuvent inclure plusieurs modèles d’IA, jeux de données et éléments technologiques non liés à l’IA qui permettent d’accomplir des tâches spécifiques. De plus, les systèmes d’IA se distinguent des cas d’usage de l’IA, car un système d’IA peut accomplir la même tâche dans différents cas d’usage, ce qui engendre des risques différents.

Par exemple, un système d’IA qui utilise plusieurs modèles de vision par ordinateur, des jeux de données et des éléments technologiques non liés à l’IA pour identifier des équipements sportifs dans des vidéos peut être utilisé pour fournir des commentaires sur des événements sportifs ou pour identifier des équipements sportifs à la file d’enregistrement dans les aéroports afin d’alerter les représentants du service client. Chacun de ces cas d’usage comporterait des risques différents.

‍

Un système d’IA est-il une plateforme, un produit ou un service ?

Compte tenu de la définition du système d’IA figurant dans le règlement européen sur l’IA (fondée sur la définition de l’OCDE et globalement alignée sur celles du NIST AI RMF et du Colorado AI Act), les praticiens ont souvent du mal à délimiter les frontières d’un système d’IA. Il peut s’agir d’une plateforme (un environnement technologique dans lequel des personnes peuvent accomplir certaines tâches — par exemple, une instance interne de GPT-4 pour aider les employés à développer des applications), d’un produit (par exemple, un appareil auditif intelligent pour les seniors) ou d’un service (par exemple, un système de recommandation indiquant quelles vidéos regarder ensuite).

‍

Deux systèmes d’IA peuvent-ils partager bon nombre des mêmes composants ?

Les entreprises numériquement matures maintiennent souvent d’importants jeux de données centralisés qui peuvent être utilisés de différentes manières par diverses équipes. Ces entreprises disposent souvent de plusieurs systèmes d’IA qui s’appuient sur les mêmes jeux de données ou modèles. Les praticiens de ces entreprises peuvent trouver difficile d’élaborer une documentation de conformité au niveau du système d’IA compte tenu des chevauchements importants entre les composants de différents systèmes d’IA.

‍

‍

Comment les entreprises peuvent commencer

Adopter une définition du système d’IA :

Les entreprises devraient adopter en interne une définition du « système d’IA » en fonction des juridictions dans lesquelles elles opèrent. Par exemple, une entreprise principalement axée sur l’UE pourrait utiliser en interne la définition du système d’IA du règlement européen sur l’IA et s’assurer qu’elle se reflète dans les politiques internes associées, notamment celles relatives à la confidentialité, à la gouvernance des données, à la sécurité de l’information et à la gestion des risques.

Inventorier les systèmes d’IA comptant de nombreux utilisateurs, des usages sensibles et des éléments d’IA plus clairement identifiables :

‍La constitution d’un inventaire de l’IA sera nécessaire pour la conformité à l’avenir. Toutefois, établir un inventaire de tous les systèmes d’IA au sein d’une entreprise est une tâche considérable. Les praticiens peuvent commencer par inventorier les systèmes d’IA qui comptent de nombreux utilisateurs, des usages sensibles (par exemple dans les domaines de l’emploi, de l’éducation, de la santé ou de la finance) et des éléments d’IA clairement identifiables (tels que l’apprentissage automatique et les systèmes d’IA générative), avant de passer aux autres systèmes d’IA.

Tirer parti des logiciels et de l’automatisation :

‍Le suivi des relations entre les systèmes d’IA, les modèles, les jeux de données et les cas d’usage, ainsi que l’élaboration de la documentation de conformité, nécessitent des outils adaptés à cet usage. Enzai aide les entreprises à importer des informations au niveau du système d’IA, du modèle, du jeu de données et du cas d’usage, et à générer de manière fluide la documentation de conformité au niveau du système d’IA. La solution fournit également des tableaux de bord des risques liés à l’IA à l’échelle de l’entreprise, des analyses des écarts par rapport à différentes juridictions et une génération automatisée de rapports.

Enzai est là pour vous aider

Le produit d’Enzai peut aider votre entreprise à s’aligner sur le règlement européen sur l’IA, le Colorado AI Act, le NIST AI RMF, l’ISO/IEC 42001 et d’autres cadres réglementaires et d’assurance mondiaux. Pour en savoir plus, contactez-nous ici.

Enzai est la principale plateforme de gouvernance de l’IA d’entreprise, conçue spécifiquement pour aider les organisations à passer de politiques abstraites à une supervision opérationnelle. Notre plateforme de gestion des risques liés à l’IA fournit l’infrastructure spécialisée nécessaire pour gérer la gouvernance de l’IA agentique, maintenir un inventaire complet de l’IA et garantir la conformité au règlement européen sur l’IA. En automatisant des flux de travail complexes, Enzai permet aux entreprises d’accélérer l’adoption de l’IA en toute confiance, tout en restant alignées sur des normes mondiales telles que l’ISO 42001 et le NIST.