L'obligation des développeurs et opérateurs de systèmes d'IA d'assurer que leurs systèmes sont conçus et utilisés de manière responsable, en respectant les normes éthiques et les exigences légales.
Une attribution formelle des responsabilités pour chaque étape d’un système d’IA — de la collecte des données jusqu’au déploiement et au déclassement. La responsabilisation consiste à désigner les rôles (par ex., responsable du modèle, gestionnaire des données, responsable conformité), à définir des voies d’escalade claires en cas de défaillance et à intégrer des processus de revue afin que, chaque fois qu’une décision d’IA cause un préjudice ou une violation juridique, une traçabilité documentée indique qui a mené l’enquête, qui a mis en œuvre les mesures correctives et comment l’organisation a empêché toute récurrence.
L’IA automatisée d’évaluation du crédit d’une grande banque classe à tort un client comme présentant un risque élevé. L’équipe de gouvernance de l’IA retrace l’erreur à un jeu de données insuffisamment représentatif, réunit une cellule d’analyse des causes racines, réentraîne le modèle avec des données équilibrées, présente des excuses au client et met à jour la politique afin que toute divergence similaire déclenche une revue humaine immédiate — démontrant ainsi une responsabilité claire et des actions correctives concrètes.
