Les « systèmes d'IA » constituent le concept défini dans les lois, normes et cadres réglementaires relatifs à l'IA au sein de l'Union européenne et des États-Unis. Toutefois, les définitions d'un « système d'IA » n'offrent pas d'orientations claires aux professionnels sur la manière d'interpréter cette définition.

Le règlement européen sur l'IA (EU AI Act) définit un système d'IA comme suit :

« un système basé sur une machine conçu pour fonctionner avec différents niveaux d'autonomie et qui peut faire preuve d'adaptabilité après son déploiement, et qui, pour des objectifs explicites ou implicites, déduit des entrées qu'il reçoit comment générer des sorties telles que des prédictions, du contenu, des recommandations ou des décisions qui peuvent influencer des environnements physiques ou virtuels »

‍

Un système d'IA est-il différent d'un cas d'usage d'IA ?

Les systèmes d'IA peuvent inclure plusieurs modèles d'IA, des ensembles de données et des éléments technologiques non liés à l'IA qui accomplissent des tâches spécifiques. De plus, les systèmes d'IA se distinguent des cas d'usage de l'IA, car un même système d'IA peut accomplir la même tâche dans le cadre de différents cas d'usage, ce qui donne lieu à des risques distincts.

Par exemple, un système d'IA qui utilise plusieurs modèles de vision par ordinateur, des ensembles de données et des éléments technologiques non liés à l'IA pour identifier des équipements sportifs dans des vidéos peut être utilisé pour commenter des événements sportifs ou pour identifier des équipements sportifs dans la file d'enregistrement des aéroports afin d'alerter le service client. Chacun de ces cas d'usage comporterait des risques différents.

‍

Un système d'IA est-il une plateforme, un produit ou un service ?

Compte tenu de la définition du système d'IA par le règlement européen sur l'IA (basée sur celle de l'OCDE et globalement alignée sur celles du NIST AI RMF et du Colorado AI Act), les professionnels éprouvent souvent des difficultés à délimiter les contours d'un système d'IA. Il peut désigner une plateforme (un environnement technologique dans lequel les utilisateurs peuvent accomplir certaines tâches – par exemple, une instance interne de GPT-4 pour aider les employés à développer des applications), un produit (par exemple, un appareil auditif intelligent pour les personnes âgées) ou un service (par exemple, un système de recommandation de vidéos à regarder).

‍

Deux systèmes d'IA peuvent-ils partager une grande partie des mêmes composants ?

Les entreprises matures sur le plan numérique maintiennent souvent d'importants ensembles de données centralisés qui peuvent être utilisés par différentes équipes de différentes manières. Ces entreprises disposeront souvent de plusieurs systèmes d'IA qui s'appuient sur les mêmes ensembles de données ou modèles. Pour les professionnels de ces entreprises, l'élaboration d'une documentation de conformité au niveau de chaque système d'IA peut s'avérer complexe, compte tenu des chevauchements importants entre les composants des différents systèmes d'IA.

‍

‍

Comment les entreprises peuvent-elles commencer ?

Adopter une définition du système d'IA :

Les entreprises doivent adopter une définition interne du « système d'IA », basée sur les juridictions dans lesquelles elles opèrent. Par exemple, une entreprise principalement active dans l'UE pourrait utiliser en interne la définition du système d'IA du règlement européen sur l'IA et s'assurer qu'elle est reflétée dans les politiques internes associées, telles que celles relatives à la confidentialité, à la gouvernance des données, à la sécurité de l'information et à la gestion des risques.

Inventorier les systèmes d'IA ayant de nombreux utilisateurs, des usages sensibles et des composants d'IA clairs :

‍La création d'un inventaire de l'IA sera indispensable pour assurer la conformité à l'avenir. Cependant, recenser l'ensemble des systèmes d'IA au sein d'une entreprise est une tâche colossale. Les professionnels peuvent commencer par inventorier les systèmes d'IA qui comptent de nombreux utilisateurs, qui concernent des usages sensibles (tels que l'emploi, l'éducation, la santé ou la finance) et qui présentent des composants d'IA évidents (tels que le machine learning et les systèmes d'IA générative), avant de passer aux autres systèmes d'IA.

Tirer parti des logiciels et de l'automatisation :

‍Suivre les relations entre les systèmes d'IA, les modèles, les ensembles de données et les cas d'usage, ainsi qu'élaborer la documentation de conformité, requiert des outils adaptés. Enzai aide les entreprises à importer des informations au niveau des systèmes d'IA, des modèles, des ensembles de données et des cas d'usage, et à générer de manière transparente la documentation de conformité à l'échelle du système d'IA. La solution propose également des tableaux de bord de gestion des risques liés à l'IA de niveau entreprise, des analyses d'écarts par rapport aux différentes juridictions ainsi qu'une génération automatisée de rapports.

Enzai est là pour vous aider

Le produit d'Enzai peut aider votre entreprise à se conformer au règlement européen sur l'IA, au Colorado AI Act, au NIST AI RMF, à la norme ISO/IEC 42001 ainsi qu'à d'autres cadres réglementaires et d'assurance mondiaux. Pour en savoir plus, contactez-nous ici.

Enzai est la plateforme leader de gouvernance de l'IA pour les entreprises, spécialement conçue pour aider les organisations à passer d'une politique abstraite à une supervision opérationnelle. Notre plateforme de gestion des risques d'IA fournit l'infrastructure spécialisée nécessaire pour piloter la gouvernance de l'IA agentique, maintenir un inventaire complet de l'IA et garantir la conformité avec le règlement européen sur l'IA. En automatisant les flux de travail complexes, Enzai permet aux entreprises de déployer l'IA à grande échelle en toute confiance, tout en restant alignées sur les normes mondiales telles que l'ISO 42001 et le NIST.