Last updated:
Die operationellen, rechtlichen und reputationsbezogenen Risiken, die sich aus der Verwendung fehlerhafter, voreingenommener oder schädlicher Inhalte ergeben, die von einem KI-System generiert wurden.
Während sich die traditionelle IT auf den Schutz von Dateneingaben konzentriert, muss die AI-Governance auch die Ausgaben verwalten. Zu den Ausgaberisiken gehören Halluzinationen (plausibel klingende Falschinformationen), algorithmische Verzerrungen, die zu diskriminierenden Entscheidungen führen, und die unbeabsichtigte Erstellung von Inhalten, die Urheberrechte oder Markenrechte Dritter verletzen.
Real world example:
Ein Marketingteam nutzt eine nicht genehmigte KI, um Social-Media-Texte zu erstellen. Die KI halluziniert einen nicht existierenden Rabatt von 50 % – was zu einer Flut verärgerter Kunden und der rechtlichen Verpflichtung führt, diesen Preis zu gewähren.
