Data science
Les chiffres sont clairs, mais pas qui valide, ni où cette décision est conservée.
Comité IA
Elle se lit bien, mais rien n’indique quels systèmes elle couvre ni qui se charge de la revue.
Plateforme d’agents
Un seul changement de paramètre, et la vérification humaine promise par votre politique disparaît.
Le fonctionnement actuelLe fonctionnement cible
- Le fonctionnement actuel
Des principes adoptés, puis rangés dans une politique
Le fonctionnement cibleDes principes intégrés à la revue de chaque système
- Le fonctionnement actuel
Une seule revue éthique, quel que soit l'usage
Le fonctionnement cibleUn examen qui s'intensifie avec les enjeux pour les personnes concernées
- Le fonctionnement actuel
Des model cards qui décrivent la première version
Le fonctionnement cibleUne documentation qui évolue avec le modèle
- Le fonctionnement actuel
Une supervision pensée pour une IA qui ne fait que conseiller
Le fonctionnement cibleDes contrôles humains qui tiennent encore quand les agents peuvent agir
Plus de processus, n’est-ce pas pousser les équipes à le contourner ?
Pas si la profondeur correspond aux enjeux. Vos évaluateurs classent chaque système, et un outil à faibles enjeux reçoit moins de contrôles qu’un outil qui prend des décisions concernant des personnes. Les équipes répondent à ce qui les concerne, et la revue approfondie se fait là où vos principes la placent.
Nous testons déjà nos modèles dans nos propres outils. Est-ce un travail en double ?
Non. Continuez à tester là où travaillent vos data scientists. Enzai prend le relais : joignez le rapport de test de biais, un formulaire rempli ou des métriques enregistrées sur le système ou ses modèles comme preuve pour le contrôle concerné, et un évaluateur l’approuve. Vos outils produisent les résultats, Enzai conserve la preuve et le nom de qui l’a acceptée.
L’automatisation écarte-t-elle parfois l’humain de la boucle ?
Seulement là où vos propres règles prévoient qu’une revue ne s’applique pas. Chaque validation attend un évaluateur désigné, et le dossier montre qui a décidé et quand. Pour les agents connectés à Enzai, une action absente des outils approuvés d’un agent est bloquée avant son exécution. L’agent peut demander l’accès en le justifiant, et une personne décide.
Nos données de test sensibles se retrouveront-elles dans Enzai ?
Non. Vous joignez ce qui prouve le contrôle, comme un rapport de test ou les métriques que vous choisissez d’enregistrer, et les données brutes restent où elles sont. Enzai conserve la trace de ce qui a été testé, de ce que cela a montré et de qui l’a approuvé, pas les données sur lesquelles le test a porté.
Nos principes sont adoptés. Par quoi commencer ?
Formalisez-les dans votre propre cadre, avec ses contrôles et ses classifications, et appliquez-le aux quelques systèmes aux enjeux les plus élevés. Joignez les preuves dont vous disposez déjà, attribuez un responsable à chaque contrôle et étendez le cadre système par système. Quand vos principes évoluent, vous choisissez quand chaque système passe à la nouvelle version.
Quand on nous demande comment nous le savons, pouvons-nous le montrer ?
Chaque contrôle porte ses preuves et l’évaluateur qui l’a approuvé. Chaque risque porte deux notations de vos évaluateurs, avant et après traitement, et les mesures d’atténuation qui expliquent l’écart. Les rapports internes et externes sont tirés directement de ce dossier. Savoir s’il répond aux exigences d’un régulateur relève de son appréciation, mais personne n’a à reconstituer l’historique.
Par où commencer
