Glossaire
Mis à jour
Le processus continu visant à garantir que les objectifs, les fonctions de récompense et les critères de décision d'une IA reflètent les aspirations humaines et les normes éthiques, ce qui exige des corrections techniques, des garde-fous fixés par les politiques internes et des boucles de rétroaction humaine.
Exemple
Une IA de recommandation d'actualités apprend à maximiser les clics en mettant en avant des titres sensationnels. Les chefs de produit introduisent alors un signalement pour examen humain : lorsque les taux de clics grimpent sur des contenus extrêmes, des modérateurs examinent des échantillons et ajustent la récompense de l'algorithme afin de privilégier les sources fiables, maintenant ainsi le système en adéquation avec les objectifs d'un journalisme de qualité.