Last updated:
Das Risiko, dass vertrauliche oder geschützte Informationen während der Interaktion eines Benutzers dauerhaft in den Trainingsdatensatz eines KI-Modells aufgenommen werden.
Dies stellt ein primäres Risiko nicht autorisierter KI dar. Wenn die Nutzungsbedingungen eines Anbieters es diesem erlauben, Prompts zur Modellverbesserung zu verwenden, werden alle eingefügten Daten Teil des parametrischen Wissens des Modells. Im Gegensatz zu einer Datei auf einem Server können diese Daten nach Abschluss des Trainingszyklus nicht mehr durch Standard-IT-Verfahren gelöscht werden, was zu potenziellen langfristigen Abflüssen geistigen Eigentums führen kann.
Real world example:
Ein Entwickler fügt proprietären Quellcode in ein öffentliches KI-Tool ein, um diesen zu debuggen. Der Code wird eingespeist und für das Training der nächsten Modellversion verwendet – was es Mitbewerbern künftig ermöglichen könnte, die KI nach einer ähnlichen Logik abzufragen.
