Zuletzt aktualisiert am:
Das Phänomen, bei dem KI-Systeme bestehende Vorurteile in den Trainingsdaten verstärken, was zu zunehmend verzerrten Ergebnissen führt.
Ein Rückkopplungseffekt, bei dem auf voreingenommenen Daten trainierte Modelle Vorhersagen treffen, die diese Verzerrungen in neuen Daten verstärken – z. B. durch die bevorzugte Auswahl oder Gewichtung bestimmter Ergebnisse –, wodurch ursprüngliche Ungerechtigkeiten vergrößert werden. Um eine solche Verstärkung zu erkennen, sind kontinuierliche, längerfristige Audits erforderlich. Maßnahmen zur Abschwächung können Daten-Augmentierungsstrategien umfassen, um diese Rückkopplungsschleifen zu dämpfen.
Praxisbeispiel:
Ein Bot für Nachrichtenempfehlungen fördert Beiträge, die denen ähneln, auf die Nutzer klicken. Wenn er einer Untergruppe anfangs überwiegend politische Inhalte anzeigt, klicken die Nutzer vermehrt auf politische Artikel, was die Annahme des Bots bestärkt, dass Politik ihr einziges Interesse ist. Mit der Zeit verstärkt der Bot diesen engen Fokus. Das Team wirkt dem entgegen, indem es die Empfehlungslogik um Diversitätsvorgaben ergänzt.
