Zuletzt aktualisiert am:
Das Risiko, dass vertrauliche oder geschützte Informationen während der Interaktion eines Benutzers dauerhaft in den Trainingsdatensatz eines KI-Modells aufgenommen werden.
Dies ist ein primäres Risiko nicht genehmigter KI. Wenn die Nutzungsbedingungen eines Anbieters es diesem erlauben, Prompts zur Modellverbesserung zu verwenden, werden alle eingefügten Daten Teil des parametrischen Wissens des Modells. Im Gegensatz zu einer Datei auf einem Server können diese Daten nach Abschluss des Trainingszyklus nicht mehr durch Standard-IT-Verfahren gelöscht werden, was zu potenziellen langfristigen Abflüssen von geistigem Eigentum führt.
Praxisbeispiel:
Ein Softwareentwickler fügt geschützten Quellcode in ein öffentliches KI-Tool ein, um diesen zu debuggen. Der Code wird aufgenommen und zum Trainieren der nächsten Modellversion verwendet – was es Wettbewerbern potenziell ermöglichen könnte, die KI in Zukunft nach einer ähnlichen Logik abzufragen.
