Das Phänomen, bei dem KI-Systeme bestehende Vorurteile in den Trainingsdaten verstärken und zu zunehmend verzerrten Ergebnissen führen.
Eine Rückkopplungsschleife, in der Modelle, die mit verzerrten Daten trainiert wurden, Vorhersagen treffen, welche diese Verzerrungen in neuen Daten verstärken – z. B. durch die bevorzugte Auswahl oder Gewichtung bestimmter Ergebnisse – und dadurch ursprüngliche Ungleichheiten vergrößern. Die Erkennung solcher Verstärkungseffekte erfordert Längsschnitt-Audits, und die Minderung kann Datenaugmentierungsstrategien umfassen, um Rückkopplungszyklen abzuschwächen.
Ein Nachrichtenempfehlungs-Bot fördert Beiträge, die den von Nutzerinnen und Nutzern angeklickten Inhalten ähneln. Wenn er einer Teilgruppe anfangs überwiegend politische Inhalte anzeigt, klicken diese Nutzerinnen und Nutzer vermehrt auf politische Artikel, wodurch sich die Annahme des Bots verstärkt, Politik sei ihr einziges Interesse. Im Laufe der Zeit verstärkt der Bot diesen engen Fokus. Das Team wirkt dem entgegen, indem es der Empfehlungslogik Diversitätsbeschränkungen hinzufügt.
