Glossaire
Mis à jour
Qu’est-ce que l’éthique de l’IA ?
L’éthique de l’IA interroge la légitimité d’un usage de l’IA, et pas seulement sa légalité. Elle porte sur des questions comme le risque de traitement inéquitable, l’information des personnes lorsque l’IA intervient, la responsabilité en cas de problème et le moment où une personne doit trancher. Pour une organisation, l’éthique de l’IA prend généralement la forme d’un court ensemble de principes, adoptés par la direction, qui servent de référence pour chaque décision liée à l’IA.
Sur quels cadres de référence les organisations s’appuient-elles ?
Les principes adoptés par les entreprises s’inspirent souvent de trois sources internationales. Les Principes de l’OCDE sur l’IA, adoptés en mai 2019 et mis à jour en mai 2024, ont été la première norme intergouvernementale sur l’IA. Les Lignes directrices en matière d’éthique pour une IA digne de confiance du groupe d’experts de haut niveau de l’UE, présentées en avril 2019, énoncent sept exigences clés, dont le facteur humain et le contrôle humain, la transparence, l’équité et la responsabilité, et ont inspiré l’EU AI Act. La Recommandation sur l’éthique de l’intelligence artificielle de l’UNESCO a été adoptée par les 193 États membres en novembre 2021.
Quels liens entre éthique, gouvernance et conformité ?
Les trois se recoupent mais remplissent des fonctions différentes. L’éthique définit ce que l’organisation estime juste. La conformité couvre ce que la loi exige. La gouvernance de l’IA est le processus qui applique les deux à des décisions concrètes : qui examine un nouvel usage de l’IA, selon quels critères, et qui le valide. Des principes sans processus pour les porter ne changent rien à ce qui est développé.
L’EU AI Act a transformé plusieurs principes éthiques en obligations légales, comme le contrôle humain des systèmes à haut risque et l’obligation d’informer les personnes qu’elles échangent avec un chatbot. La plupart des questions éthiques restent toutefois hors du champ de la loi, c’est pourquoi les organisations rédigent leurs propres principes.
Comment mettre les principes en pratique ?
Traduisez chaque principe en questions auxquelles les évaluateurs peuvent répondre et en preuves qu’ils peuvent vérifier. L’équité devient l’obligation de tester les résultats entre groupes avant le lancement. La transparence devient la règle selon laquelle les clients sont informés lorsqu’ils ont affaire à l’IA. Le contrôle humain devient une personne désignée qui peut arrêter un système. Intégrez ces questions à la revue que suit chaque nouvel usage de l’IA, pour que les principes soient appliqués avant le lancement. De nombreuses organisations donnent aussi à un comité d’éthique ou à une équipe chargée de l’IA responsable le pouvoir de saisir un échelon supérieur ou de bloquer un usage. Pour les usages les plus sensibles, une évaluation de l’impact du système d’IA documente qui pourrait être affecté, et comment.
Dans Enzai, ces questions s’intègrent au processus de demande et de revue que suit chaque nouvel usage de l’IA, si bien que les réponses et la décision restent consignées pour chaque usage. Voir Enzai pour les équipes d’IA responsable.
Exemple
Les principes d’IA d’un assureur santé excluent tout refus automatisé sans revue humaine. Lorsqu’une équipe propose un modèle qui signale les dossiers à refuser, la revue de la demande cherche à savoir comment une personne vérifiera chaque signalement avant tout refus, et si les résultats varient selon l’âge ou le code postal. L’équipe ajoute une étape de revue et un test d’équité trimestriel. Le référent IA responsable approuve l’usage à ces conditions, et toutes deux sont consignées avec la décision.