Glossaire
Mis à jour
Une boucle de rétroaction dans laquelle les modèles entraînés sur des données biaisées formulent des prédictions qui renforcent ces mêmes biais dans les nouvelles données (par exemple, en sélectionnant ou en pondérant de manière préférentielle certains résultats), amplifiant ainsi les inégalités d'origine. La détection de cette amplification nécessite des audits longitudinaux, et son atténuation peut impliquer des stratégies d'augmentation des données afin d'amortir les cycles de rétroaction.
Exemple
Un robot de recommandation d'actualités promeut des articles similaires à ceux sur lesquels les utilisateurs cliquent. S'il propose initialement un contenu majoritairement politique à un sous-groupe, les utilisateurs cliqueront sur davantage d'articles politiques, renforçant ainsi la certitude du robot que la politique est leur unique centre d'intérêt. Au fil du temps, le robot amplifie cette focalisation étroite. L'équipe atténue ce phénomène en intégrant des contraintes de diversité dans la logique de recommandation.