Bias-Verstärkung
Das Phänomen, bei dem KI-Systeme bestehende Verzerrungen in den Trainingsdaten verschärfen, was zu zunehmend verzerrten Ergebnissen führt.
Definition
Eine Rückkopplungsschleife, in der Modelle, die auf verzerrten Daten trainiert wurden, Vorhersagen treffen, die diese Verzerrungen in neuen Daten verstärken — z. B. indem bestimmte Ergebnisse bevorzugt ausgewählt oder gewichtet werden — wodurch die ursprünglichen Ungleichheiten vergrößert werden. Um eine Verstärkung zu erkennen, sind Längsschnittanalysen erforderlich, und zur Abschwächung können Strategien zur Datenerweiterung gehören, um Feedback-Zyklen zu dämpfen.
Real-World Example
Ein Nachrichtenempfehlungs-Bot wirbt für Geschichten, die denen ähneln, auf die Nutzer klicken. Wenn zunächst überwiegend politische Inhalte für eine Untergruppe angezeigt werden, klicken die Nutzer auf weitere politische Artikel, was die Überzeugung des Bots bestärkt, dass Politik ihr einziges Interesse ist. Mit der Zeit verstärkt der Bot diesen engen Fokus. Das Team mildert dies ab, indem es der Empfehlungslogik Einschränkungen hinsichtlich der Vielfalt hinzufügt.
.svg)
