Serveur MCP Enzai
Se connecte à votre IA.
Tout agent compatible MCP bénéficie de la même connexion encadrée, là où vos équipes travaillent déjà.
Quelques-unes de nos intégrations
Outils de workflow
Jira, ServiceNow
Fournisseurs de modèles
Anthropic, OpenAI
Outils d’agents
Copilot Studio, Claude Enterprise
Environnements de développement
Azure AI Foundry, Amazon Bedrock, Databricks

Blog

Favoriser l'explicabilité des systèmes d'intelligence artificielle générative

Favoriser l'explicabilité des systèmes d'intelligence artificielle générative

Favoriser l'explicabilité des systèmes d'intelligence artificielle générative

Comment les professionnels devraient-ils s'attacher à expliquer le fonctionnement des systèmes d'IA générative ?

Comment les professionnels devraient-ils s'attacher à expliquer le fonctionnement des systèmes d'IA générative ?

•

4 min de lecture

L'explicabilité est une considération majeure pour la fiabilité de tout système d'IA. De plus en plus, il s'agit également d'une obligation légale. Pourtant, il est notoirement difficile de comprendre et d'expliquer le fonctionnement des systèmes d'IA générative.

Les organisations qui sont à la pointe de l'adoption responsable de l'IA consacrent de plus en plus de ressources importantes à l'explicabilité de l'IA. JP Morgan a créé et doté en ressources un Centre d'excellence en IA explicable, qui oriente ses efforts dans d'autres domaines, tels que l'équité, la responsabilité et la conformité. La DARPA, l'agence de R&D du département de la Défense des États-Unis, a mené des efforts majeurs pour faire progresser l'explicabilité de l'IA dans des domaines comme la médecine et les transports.

Alors, qu'est-ce que l'explicabilité de l'IA, et comment les organisations devraient-elles l'aborder pour les systèmes d'IA générative ?

Qu'est-ce que l'explicabilité ?

Le cadre de gestion des risques de l'IA du NIST décrit l'explicabilité comme « une représentation des mécanismes sous-jacents au fonctionnement des systèmes d'IA ». Ainsi, la question clé dans l'explicabilité de l'IA est : « Pourquoi le système d'IA a-t-il fourni un certain résultat ? » Plus précisément, pourquoi la combinaison de modèles et de données a-t-elle fourni un certain résultat ?

Il existe de nombreux publics potentiels pour l'explicabilité de l'IA. Ceux-ci incluent les développeurs du système d'IA, les organisations de déploiement, les opérateurs humains, les vendeurs/acheteurs, les équipes de conformité, les régulateurs, les utilisateurs finaux concernés et le public. Chacun de ces publics préfère généralement des communications à différents niveaux de détail.

Ces explications reposent sur un aspect plus technique : l'interprétabilité. Si l'explicabilité est le « pourquoi », l'interprétabilité est le « comment ».

Exemple de prêt bancaire

Prenons l'exemple d'une banque utilisant un système d'IA pour approuver ou refuser des demandes de prêt. Aux États-Unis, lorsqu'elle refuse un prêt, une banque doit fournir au demandeur une explication des raisons pour lesquelles la décision a été prise. Le but de cette explication est de démontrer que des informations exactes ont été utilisées d'une manière conforme aux processus décisionnels de la banque. Cela donne également au demandeur l'occasion de corriger toute information inexacte ou de contester la rigueur du processus.

Un demandeur de prêt préfère probablement des informations clairement communiquées, telles que : « Votre cote de crédit était inférieure de 20 points au seuil d'approbation automatique et, de plus, les actifs que vous avez fournis étaient inférieurs de 8 000 $ pour garantir le prêt d'office. »

Pourtant, pour être en mesure de fournir ce type de déclaration claire, l'équipe de données et d'IA de la banque doit comprendre comment les entrées de données et les modèles constituant le système d'IA aboutissent aux résultats (interprétabilité de l'IA). Cela nécessite, à son tour, de comprendre comment les modèles et les ensembles de données ont été développés et à quels types de gouvernance ils ont été soumis tout au long de leur cycle de vie.

Explicabilité pour l'IA générative

Puisque les systèmes d'IA générative sont basés sur des réseaux de neurones massifs qui entraînent et traitent de vastes quantités de données, leur fonctionnement est difficile à comprendre et à expliquer. Même les développeurs des systèmes d'IA générative les plus puissants ont du mal à expliquer pourquoi leurs systèmes génèrent des résultats inexacts spécifiques lorsqu'ils sont sollicités de certaines manières.

Les chercheurs ont adopté plusieurs approches différentes pour ce problème, et des universitaires ont étudié ces approches. Par exemple, Johannes Schneider de l'Université du Liechtenstein a développé une taxonomie des approches de recherche sur l'explicabilité pour les systèmes d'IA générative.

__wf_reserved_inherit

Qu'est-ce que cela signifie pour les praticiens ?

Les dirigeants au sein des organisations comprennent au mieux leurs cas d'usage, l'importance de leurs impacts et leurs exigences réglementaires. Ces considérations doivent orienter les objectifs de leurs efforts d'explicabilité de l'IA générative. Les normes seront plus élevées lorsque les enjeux sont plus importants, comme dans certains cas d'usage médicaux et financiers.

Collaborer de manière transversale pour maintenir et développer une documentation de haute qualité tout au long du cycle de vie de chaque système d'IA est un prérequis pour les efforts d'explicabilité de l'IA. De plus, il est important de créer la capacité de surveiller et d'adopter les méthodes d'explicabilité de l'IA générative pertinentes pour les cas d'usage d'IA courants de l'organisation.

‍Enzai est là pour vous aider

La plateforme de GRC de l'IA d'Enzai peut aider votre entreprise à déployer l'IA conformément aux meilleures pratiques et aux réglementations, normes et cadres émergents, tels que l'EU AI Act, le Colorado AI Act, le NIST AI RMF et l'ISO/IEC 42001. Pour en savoir plus, contactez-nous ici.

Enzai est la principale plateforme de gouvernance de l'IA d'entreprise, conçue sur mesure pour aider les organisations à passer d'une politique abstraite à une supervision opérationnelle. Notre plateforme de gestion des risques de l'IA fournit l'infrastructure spécialisée requise pour gérer la gouvernance de l'IA agentique, maintenir un inventaire IA complet, et assurer la conformité à l'EU AI Act. En automatisant les flux de travail complexes, Enzai permet aux entreprises de faire évoluer l'adoption de l'IA en toute confiance tout en maintenant l'alignement avec les normes mondiales telles que l'ISO 42001 et le NIST.

Sur cette page

Conformité dès la conception

Conformité dès la conception

Conformité dès la conception

Certifié ISO 27001 depuis 2023, audité chaque année par NQA

Traitement des données aligné sur le RGPD

Données clients hébergées sur AWS dans plusieurs régions

Utilisez votre propre modèle d’IA via une connexion privée

Abonnez-vous à notre lettre d'information

En vous inscrivant, vous acceptez la politique de confidentialité d'Enzai

Abonnez-vous à notre lettre d'information

En vous inscrivant, vous acceptez la politique de confidentialité d'Enzai

Abonnez-vous à notre lettre d'information

En vous inscrivant, vous acceptez la politique de confidentialité d'Enzai

Abonnez-vous à notre lettre d'information

En vous inscrivant, vous acceptez la politique de confidentialité d'Enzai

Gouvernance de l'IA

Gouvernance de l'IA

infrastructure

infrastructure

conçue pour inspirer confiance.

conçue pour inspirer confiance.

Identifiez l’IA utilisée par vos équipes, examinez-la avant sa mise en service, évaluez-la au regard des règles applicables et contrôlez ce que les agents peuvent faire. Conçu pour les organisations réglementées.

Connectez vos systèmes, vos politiques et vos flux de travail d’IA existants au sein d’une seule plateforme.

Connectez vos systèmes, vos politiques et vos flux de travail d’IA existants au sein d’une seule plateforme.