Dernière mise à jour :
Le phénomène par lequel les systèmes d'intelligence artificielle accentuent les biais existants dans les données d'entraînement, entraînant ainsi des résultats de plus en plus biaisés.
Une boucle de rétroaction dans laquelle les modèles entraînés sur des données biaisées formulent des prédictions qui renforcent ces mêmes biais dans les nouvelles données - par exemple, en sélectionnant ou en pondérant de manière préférentielle certains résultats - amplifiant ainsi les inégalités d'origine. La détection de cette amplification nécessite des audits longitudinaux, et son atténuation peut impliquer des stratégies d'augmentation des données afin d'atténuer les cycles de rétroaction.
Exemple concret :
Un robot de recommandation d'actualités promeut des articles similaires à ceux sur lesquels les utilisateurs cliquent. S'il propose initialement un contenu majoritairement politique à un sous-groupe, les utilisateurs cliqueront sur davantage d'articles politiques, renforçant ainsi la certitude du robot que la politique est leur unique centre d'intérêt. Au fil du temps, le robot amplifie cette focalisation étroite. L'équipe atténue ce phénomène en intégrant des contraintes de diversité dans la logique de recommandation.
