Glossaire
Mis à jour
Décrit à la fois les boucles intentionnelles (apprentissage par renforcement) et non intentionnelles (renforcement des recommandations). Les boucles positives peuvent optimiser les performances au fil du temps, mais les boucles négatives risquent d'amplifier les biais : par exemple, un système de recommandation affichant du contenu populaire le rend encore plus populaire. Les stratégies de gouvernance comprennent des mesures de détection des boucles, des politiques d'intervention (quotas de diversité) et des tests de boucles simulées avant le déploiement réel.
Exemple
Le moteur de recommandation d'une plateforme d'actualités met en avant des articles tendances. Les utilisateurs cliquant davantage sur ces derniers, le système amplifie encore ce phénomène, ce qui restreint la diversité des contenus. L'équipe introduit alors des contraintes de « sérendipité », en injectant des sujets moins consultés à un rythme fixe, afin de rompre cette boucle de rétroaction infinie et de préserver la variété des contenus.