Dernière mise à jour :
L'obligation des développeurs et des exploitants de systèmes d'IA de garantir que leurs systèmes sont conçus et utilisés de manière responsable, conformément aux normes éthiques et aux exigences légales.
Une attribution formelle des responsabilités pour chaque étape du cycle de vie d'un système d'IA, de la collecte des données jusqu'au déploiement et à la mise hors service. La responsabilisation consiste à désigner les rôles (par exemple, propriétaire du modèle, responsable des données, responsable de la conformité), à définir des procédures d'escalade claires en cas de défaillance et à intégrer des processus d'examen afin que, chaque fois qu'une décision d'IA cause un préjudice ou une violation de la loi, il existe une piste documentée indiquant qui a mené l'enquête, qui a apporté les mesures correctives et comment l'organisation a prévenu toute récidive.
Exemple concret :
L’IA d’attribution automatique des scores de crédit d’une grande banque qualifie à tort un client de profil « à haut risque ». L’équipe chargée de la gouvernance de l’IA identifie l’origine de l’erreur : un ensemble de données sous-représentatif. Elle réunit alors un groupe de travail dédié à la recherche de la cause profonde, réentraîne le modèle avec des données équilibrées, présente ses excuses au client et actualise sa politique afin que toute anomalie similaire déclenche immédiatement un examen humain — démontrant ainsi une responsabilité claire et des mesures correctives concrètes.
