Les ‘systèmes d’IA’ sont le concept défini dans les lois, normes et cadres en matière d'IA dans l'UE et aux États-Unis. Cependant, les définitions de ‘système d’IA’ ne fournissent pas de directives claires aux praticiens sur la manière d'interpréter la définition.

La Loi sur l'IA de l'UE définit le système d'IA comme :

“un système basé sur une machine conçu pour fonctionner avec des niveaux d'autonomie variables et qui peut montrer une adaptabilité après déploiement et qui, pour des objectifs explicites ou implicites, infère, à partir de l'entrée qu'il reçoit, comment générer des sorties telles que des prédictions, du contenu, des recommandations ou des décisions pouvant influencer des environnements physiques ou virtuels”

‍

Un système d'IA est-il différent d'un cas d'utilisation d'IA ?

Les systèmes d'IA peuvent inclure plusieurs modèles d'IA, ensembles de données et éléments technologiques non liés à l'IA qui accomplissent des tâches spécifiques. De plus, les systèmes d'IA sont distincts des cas d'utilisation de l'IA, puisqu'un système d'IA peut accomplir la même tâche dans différents cas d'utilisation, suscitant des risques différents.

Par exemple, un système d'IA utilisant plusieurs modèles de vision par ordinateur, ensembles de données et éléments technologiques non liés à l'IA pour identifier des équipements sportifs dans des vidéos peut être utilisé pour fournir des commentaires sur des événements sportifs ou pour identifier des équipements sportifs à la ligne d'enregistrement dans les aéroports pour alerter les représentants du service client. Chacun de ces cas d'utilisation comporterait des risques différents.

‍

Un système d'IA est-il une plateforme, un produit ou un service ?

Étant donné la définition du système d'IA par la Loi sur l'IA de l'UE (basée sur la définition de l'OCDE et à peu près alignée avec celles du NIST AI RMF et de la Loi sur l'IA du Colorado), les praticiens ont souvent du mal à délimiter les frontières d'un système d'IA. Cela pourrait décrire une plateforme (un environnement technologique dans lequel des personnes peuvent accomplir certaines tâches – par exemple, une instance interne de GPT-4 pour aider les employés à développer des applications), un produit (par exemple, un appareil auditif intelligent pour les seniors), ou un service (par exemple, un système de recommandation de vidéos à regarder ensuite).

‍

Deux systèmes d'IA peuvent-ils partager de nombreux composants identiques ?

Les entreprises matures numériquement maintiennent souvent des ensembles de données centralisés importants qui peuvent être utilisés de différentes manières par différentes équipes. Ces entreprises auront souvent plusieurs systèmes d'IA qui utilisent les mêmes ensembles de données ou modèles. Les praticiens de ces entreprises peuvent trouver difficile de développer une documentation de conformité au niveau du système d'IA compte tenu des chevauchements significatifs dans les composants de différents systèmes d'IA.

‍

‍

Comment les entreprises peuvent-elles commencer

Adopter une définition de système d'IA:

Les entreprises doivent adopter une définition de ‘système d’IA’ en interne, basée sur les juridictions dans lesquelles elles opèrent. Par exemple, une entreprise principalement focalisée sur l'UE pourrait utiliser en interne la définition du système d'IA par la Loi sur l'IA de l'UE et s'assurer qu'elle soit reflétée dans les politiques internes associées, telles que celles liées à la confidentialité, la gouvernance des données, la sécurité de l'information et la gestion des risques.

Inventorier les systèmes d'IA avec de nombreux utilisateurs, des utilisations sensibles et des éléments d'IA plus clairs :

‍Créer un inventaire de l'IA sera nécessaire pour la conformité à l'avenir. Cependant, développer un inventaire de tous les systèmes d'IA au sein d'une entreprise est une tâche décourageante. Les praticiens peuvent d'abord inventorier les systèmes d'IA qui ont de nombreux utilisateurs, des utilisations sensibles (telles que l'emploi, l'éducation, la santé ou les finances) et des éléments d'IA clairs (comme l'apprentissage machine et les systèmes d'IA générative), avant de passer à d'autres systèmes d'IA.

Exploiter les logiciels et l'automatisation :

‍Suivre les relations entre les systèmes d'IA, les modèles, les ensembles de données et les cas d'utilisation et développer une documentation de conformité nécessite des outils adaptés. Enzai aide les entreprises à importer des informations au niveau des systèmes d'IA, modèles, ensembles de données et cas d'utilisation et à générer sans effort une documentation de conformité au niveau des systèmes d'IA. Il fournit également des tableaux de bord de risques d'IA au niveau de l'entreprise, des analyses des écarts par rapport à différentes juridictions et la génération automatisée de rapports.

Enzai est là pour vous aider

Le produit d'Enzai peut aider votre entreprise à s'aligner sur la Loi sur l'IA de l'UE, la Loi sur l'IA du Colorado, le NIST AI RMF, l'ISO/IEC 42001 et d'autres régimes de réglementation et d'assurance mondiaux. Pour en savoir plus, contactez-nous ici.