Zuletzt aktualisiert am:
Ein Prozess, bei dem KI-Ergebnisse wieder als Eingaben zurückgeführt werden, was das Modellverhalten verstärken kann – im positiven Sinne (bestärkendes Lernen) oder im negativen Sinne (Verstärkung von Vorurteilen).
Beschreibt sowohl beabsichtigte Schleifen (Bestärkendes Lernen) als auch unbeabsichtigte Schleifen (Verstärkung durch Empfehlungen). Positive Rückkopplungsschleifen können die Leistung im Laufe der Zeit optimieren, während negative Schleifen das Risiko einer Verzerrungsverstärkung bergen – wenn beispielsweise ein Empfehlungssystem beliebte Inhalte anzeigt, werden diese noch beliebter. Zu den Governance-Strategien gehören Metriken zur Schleifenerkennung, Interventionsrichtlinien (wie Diversitätsquoten) und simulierte Schleifentests vor der Live-Einführung.
Praxisbeispiel:
Das Empfehlungssystem einer Nachrichtenplattform zeigt aktuelle Trend-Artikel an. Da Nutzer diese häufiger anklicken, verstärkt das System deren Sichtbarkeit weiter, was die Vielfalt der Inhalte einschränkt. Das Team führt „Serendipitäts-Einschränkungen“ ein – indem weniger geklickte Themen in einer festen Rate eingespielt werden –, um diese unbegrenzte Feedbackschleife zu durchbrechen und die Inhaltsvielfalt zu erhalten.
