Glossar
Aktualisiert
Beschreibt sowohl beabsichtigte Schleifen (bestärkendes Lernen) als auch unbeabsichtigte Schleifen (Verstärkung durch Empfehlungen). Positive Rückkopplungsschleifen können die Leistung im Laufe der Zeit optimieren, während negative Schleifen das Risiko einer Verzerrungsverstärkung bergen. Wenn beispielsweise ein Empfehlungssystem beliebte Inhalte anzeigt, werden diese noch beliebter. Zu den Governance-Strategien gehören Metriken zur Schleifenerkennung, Interventionsrichtlinien (wie Diversitätsquoten) und simulierte Schleifentests vor der Live-Einführung.
Beispiel
Das Empfehlungssystem einer Nachrichtenplattform zeigt aktuelle Trend-Artikel an. Da Nutzer diese häufiger anklicken, verstärkt das System deren Sichtbarkeit weiter, was die Vielfalt der Inhalte einschränkt. Das Team führt „Serendipitäts-Einschränkungen“ ein: Weniger geklickte Themen werden in einer festen Rate eingespielt, um diese unbegrenzte Feedbackschleife zu durchbrechen und die Inhaltsvielfalt zu erhalten.