Glossar
Aktualisiert
Ein Rückkopplungseffekt, bei dem auf voreingenommenen Daten trainierte Modelle Vorhersagen treffen, die diese Verzerrungen in neuen Daten verstärken (z. B. durch die bevorzugte Auswahl oder Gewichtung bestimmter Ergebnisse), wodurch ursprüngliche Ungerechtigkeiten vergrößert werden. Um eine solche Verstärkung zu erkennen, sind kontinuierliche, längerfristige Audits erforderlich. Maßnahmen zur Abschwächung können Daten-Augmentierungsstrategien umfassen, um diese Rückkopplungsschleifen zu dämpfen.
Beispiel
Ein Bot für Nachrichtenempfehlungen fördert Beiträge, die denen ähneln, auf die Nutzer klicken. Wenn er einer Untergruppe anfangs überwiegend politische Inhalte anzeigt, klicken die Nutzer vermehrt auf politische Artikel, was die Annahme des Bots bestärkt, dass Politik ihr einziges Interesse ist. Mit der Zeit verstärkt der Bot diesen engen Fokus. Das Team wirkt dem entgegen, indem es die Empfehlungslogik um Diversitätsvorgaben ergänzt.