Zuletzt aktualisiert am:
Das betriebliche, rechtliche und reputationsbezogene Risiko, das sich aus der Verwendung fehlerhafter, voreingenommener oder schädlicher Inhalte ergibt, die von einem KI-System generiert wurden.
Während sich die traditionelle IT auf den Schutz von Dateneingaben konzentriert, muss die KI-Governance auch die Ausgaben verwalten. Zu den Ausgaberisiken gehören Halluzinationen (glaubhaft klingende Falschinformationen), algorithmische Verzerrungen, die zu diskriminierenden Entscheidungen führen, sowie die unbeabsichtigte Erstellung von Inhalten, die Urheberrechte oder Markenrechte Dritter verletzen.
Praxisbeispiel:
Ein Marketingteam nutzt eine nicht autorisierte KI, um Texte für soziale Medien zu erstellen. Die KI halluziniert einen nicht existierenden Rabatt von 50 % – was zu einem Ansturm verärgerter Kunden und der rechtlichen Verpflichtung führt, diesen Preis zu gewähren.
