Glossar
Aktualisiert
Der kontinuierliche Prozess zur Sicherstellung, dass die Ziele, Belohnungsfunktionen und Entscheidungsgrenzen einer KI mit den menschlichen Zielen und ethischen Normen übereinstimmen. Dies erfordert technische Anpassungen, Leitplanken durch Richtlinien und menschliche Feedbackschleifen.
Beispiel
Eine KI für Nachrichtenempfehlungen lernt, Klicks zu maximieren, indem sie sensationelle Schlagzeilen hervorhebt. Produktmanager führen ein Kennzeichen zur menschlichen Überprüfung ein: Wenn die Klickraten bei extremen Inhalten stark ansteigen, prüfen Moderatoren Stichproben und passen die Belohnung des Algorithmus an, um vertrauenswürdige Medien zu priorisieren. Auf diese Weise bleibt das System an den Zielen eines Qualitätsjournalismus ausgerichtet.