Steuern Sie die KI, die Sie nicht selbst entwickeln, mit derselben Stringenz wie Ihre eigenen KI-Modelle.

Die meisten TPRM-Programme wurden für statische Risiken im Zusammenhang mit Drittanbietern entwickelt – finanzielle Stabilität, SOC-2-Kontrollen, ISO-27001-Zertifizierung, Vertragsbedingungen. Nichts davon erfasst die spezifischen Risiken, die mit künstlicher Intelligenz (KI) einhergehen:

• Modellprovenienz (Herkunft). Hat Ihr Drittanbieter das Modell selbst trainiert, ein quelloffenes Basismodell feinabgestimmt oder eine API für ein neuronales Basismodell integriert? Jede Antwort verändert die Risikoform.

  
  

• Exposition von Trainingsdaten. Worauf basierte das Training des Modells Ihres Drittanbieters? Werden Ihre Eingaben für ein erneutes Training in einer Weise verwendet, der Sie nicht zugestimmt haben?

  
  

• Verhaltensdrift (Behavioral Drift). Die KI eines Drittanbieters verändert sich, sobald dieser Modell-Updates durchführt. Das Risikoprofil, das Sie bei der Beschaffung bewertet haben, entspricht nicht mehr dem Risikoprofil, das drei Monate später in der Produktionsumgebung läuft.

  
  

• Verborgene Abhängigkeitsketten. Ihr Drittanbieter hängt von einem Modellanbieter ab, dieser wiederum von Trainingsdaten und dieser von der Infrastruktur. Jede Ebene kann Risiken bergen, die für Sie zuvor nicht erkennbar waren.