Produkte
Entdecken Sie die gesamte Palette der KI-Governance-Produkte von Enzai, die speziell dafür entwickelt wurden, Organisationen bei der sicheren Verwaltung, Überwachung und Skalierung von KI zu unterstützen. Von der strukturierten Erfassung und zentralisierten KI-Inventaren bis hin zu automatisierten Bewertungen und Echtzeit-Aufsicht bietet Enzai die Bausteine, um Governance direkt in die täglichen KI-Workflows zu integrieren – ohne die Innovation zu bremsen.
Alle
Whitepaper
Vorschriften für KI
Podcasts
Produktaktualisierungen
Presseberichterstattung
Glossar
Treten Sie unserem Podcast bei oder arbeiten Sie an Inhalten mit uns zusammen
Kontaktieren Sie uns, und wir werden sehen, was wir gemeinsam produzieren können.
Ein
Richtlinie zur akzeptablen Nutzung (AUP)
Eine Reihe von Richtlinien eines Unternehmens, die festlegen, auf welche Weise Mitarbeiter mit den vom Unternehmen bereitgestellten KI-Tools interagieren dürfen und welche Nutzungsweisen untersagt sind.
Akkreditierte Zertifizierung
Ein Zertifikat, das von einer Zertifizierungsstelle ausgestellt wurde, die von einer nationalen Akkreditierungsstelle (wie der ANAB oder dem UKAS) offiziell als kompetent für die Auditierung nach einem bestimmten Standard anerkannt wurde.
Aktionsvorschau
Eine Governance-Anforderung, nach der ein KI-Agent genau anzeigen muss, welche Auswirkungen eine irreversible Aktion hat, bevor eine Person die endgültige Freigabe erteilt.
Whitelisting von Aktionen
Eine Sicherheits- und Governance-Kontrolle, die festlegt, welche Tools, APIs und Aktionen ein KI-Agent als Einzige ausführen darf.
Adversarieller Angriff
Techniken zur Manipulation von KI-Modellen durch das Einschleusen irreführender Eingabedaten, um fehlerhafte Ergebnisse zu provozieren.
Agent Fabric
Eine integrierte Laufzeitumgebung, die mehrere KI-Agenten hostet, orchestriert und steuert – zusammen mit den Modellen, Tools und Daten, auf die sie angewiesen sind.
Hijacking von Agentenzielen (ASI01)
Eine Schwachstelle, bei der ein Angreifer die Ziele oder Entscheidungspfade eines Agenten manipuliert, um dessen autonomes Verhalten auf unerwünschte Ergebnisse umzulenken.
Agent Mesh
Eine vernetzte Topologie, in der KI-Agenten über eine gemeinsame Infrastrukturebene einander entdecken, miteinander kommunizieren und Aufgaben delegieren.
Agentic KI
Eine Klasse von Systemen der künstlichen Intelligenz, die darauf ausgelegt sind, komplexe Ziele autonom zu verfolgen und mehrstufige Aktionen (wie Softwarebereitstellungen oder Finanztransaktionen) mit minimalem menschlichem Eingreifen auszuführen.
Governance für agentische KI
Agentische KI-Governance bezeichnet die Steuerung von KI-Systemen, die eigenständig planen und agieren, im Gegensatz zu Systemen, die lediglich Vorhersagen treffen oder Inhalte erstellen. Sie definiert, was ein Agent tun darf, setzt Grenzen für dessen Autonomie, regelt die Protokollierung seiner Aktionen und legt fest, wer die Verantwortung trägt, wenn ein Agent fehlerhaft handelt.
Agentenbasierte Richtlinien-Engine
Eine Laufzeit-Softwarekomponente, die Aktionen von Agenten abfängt und diese vor der Ausführung anhand einer Reihe deterministischer Governance-Regeln bewertet.
KI-Verantwortlichkeit
Die Verpflichtung von Entwicklern und Betreibern von KI-Systemen, sicherzustellen, dass ihre Systeme verantwortungsvoll konzipiert und genutzt werden und dabei ethische Standards sowie rechtliche Anforderungen eingehalten werden.
Künstliche Intelligenz-Alignment
Der Prozess, durch den sichergestellt wird, dass die Ziele und Verhaltensweisen von KI-Systemen mit den menschlichen Werten und Absichten übereinstimmen.
KI-Assistent
Ein System für konversationelle KI, das darauf ausgelegt ist, Benutzer bei der Erledigung von Aufgaben durch Interaktion in natürlicher Sprache zu unterstützen – in der Regel gestützt durch ein großes Sprachmodell.
KI-Auditierung
Die systematische Evaluierung von KI-Systemen zur Überprüfung der Einhaltung ethischer Standards, regulatorischer Vorgaben und Leistungskennzahlen.
KI-Voreingenommenheit
Systematische Fehler in KI-Ergebnissen, die durch voreingenommene Trainingsdaten oder fehlerhafte Algorithmen entstehen und zu ungerechten Resultaten führen.
KI-Software-Stückliste (AIBOM)
Eine strukturierte Bestandsliste der Komponenten eines KI-Systems, einschließlich Basismodellen, Trainingsdatenbeständen, Bibliotheken und Abhängigkeiten – das KI-Äquivalent einer Software-Stückliste (Software Bill of Materials, SBOM).
KI-Compliance
Die Einhaltung geltender Gesetze, Vorschriften und ethischer Richtlinien durch KI-Systeme während ihres gesamten Lebenszyklus.
KI-Ethik
Das Fachgebiet, das sich mit den moralischen Implikationen und Verantwortlichkeiten befasst, die mit der Entwicklung und dem Einsatz von KI-Technologien verbunden sind.
KI-Erklärbarkeit
Das Ausmaß, in dem die internen Funktionsweisen eines KI-Systems von Menschen verstanden und interpretiert werden können.
KI-Fußabdruck
Die Gesamtheit aller KI-Systeme, -Modelle, -Agenten und integrierten KI-Funktionen, die zu einem bestimmten Zeitpunkt in einem Unternehmen im Einsatz sind, einschließlich autorisierter Systeme und sogenannter Schatten-IT.
KI-Governance
Das Rahmenwerk aus Richtlinien, Prozessen und Kontrollen, das die ethische und effektive Entwicklung sowie den verantwortungsvollen Einsatz von KI-Systemen leitet.
KI-Governance für Finanzdienstleistungen
KI-Governance für Finanzdienstleistungen beschreibt die Implementierung von Risiko- und Compliance-Kontrollen für künstliche Intelligenz im Rahmen der aufsichtsrechtlichen Vorgaben des Sektors. Die maßgeblichen Vorschriften variieren je nach Rechtsordnung und Unternehmenstyp: SR 26-2 für größere US-Banken, PRA SS1/23 für britische Banken mit Genehmigung für interne Modelle, MAS FEAT in Singapur sowie das EU-KI-Gesetz (EU AI Act) für alle genannten Akteure.
KI-Governance-Software
Spezialisierte Unternehmensexperten-Tools zur Automatisierung der Inventarisierung, Risikobewertung und regulatorischen Compliance von Systemen der künstlichen Intelligenz.
KI-Inventarisierung
Ein umfassender, zentraler Katalog aller im Unternehmen eingesetzten KI-Systeme, -Modelle und -Agenten zur Erfassung ihres geschäftlichen Zwecks, ihres Risikoniveaus und ihrer organisatorischen Zugehörigkeit.
EU-KI-Haftungsrichtlinie
Eine vorgeschlagene EU-Richtlinie, die darauf abzielt, das Verfahren für Kläger zur Geltendmachung von durch KI-Systeme verursachten Schäden zu vereinfachen, indem eine widerlegbare Kausalitätsvermutung eingeführt wird.
KI-Kompetenz
Das Verständnis von KI-Konzepten, -Leistungen und -Grenzen, das eine fundierte Interaktion mit KI-Technologien ermöglicht.
Management-System für Künstliche Intelligenz (AIMS)
Eine Gruppe miteinander in Beziehung stehender oder sich gegenseitig beeinflussender Elemente einer Organisation zur Festlegung von Richtlinien, Zielen und Prozessen für die verantwortungsvolle Entwicklung oder Nutzung von KI.
KI-Monitoring
KI-Monitoring ist die kontinuierliche Überwachung von KI-Systemen im Produktivbetrieb, um Leistungsabfall, Drift, unsicheres Verhalten und Kontrollfehler zu erkennen. Es umfasst die Modellleistung, Eingabe- und Ausgabeverteilungen, Fairness-Metriken, Kosten und Latenz sowie bei agentischen Systemen die vom System ausgeführten Aktionen.
KI-Risiko
Das Potenzial von KI-Systemen, Schäden oder unbeabsichtigte Folgen zu verursachen, einschließlich ethischer, rechtlicher und betrieblicher Risiken.
Risikomanagement für KI
Der Prozess der Identifizierung, Bewertung und Minderung von Risiken im Zusammenhang mit KI-Systemen.
Wildwuchs von KI-Anwendungen
Die unkontrollierte Verbreitung von KI-Systemen innerhalb eines Unternehmens, die in der Regel durch den einfachen Zugang zu KI-Tools und das Fehlen effektiver Erfassungs- und Inventarisierungsprozesse verursacht wird.
Folgenabschätzung für KI-Systeme
Ein formelles Verfahren zur Bewertung der potenziellen Folgen des Einsatzes eines KI-Systems auf Einzelpersonen, Gruppen und die Gesellschaft als Ganzes.
KI-Transparenz
Das Prinzip, demzufolge KI-Systeme Transparenz und Klarheit hinsichtlich ihrer Funktionsweise, Entscheidungen und Datennutzung gewährleisten sollten.
KI-TRiSM
Ein von Gartner geprägtes Akronym, das für AI Trust, Risk, and Security Management steht; ein Framework, das Governance, Vertrauenswürdigkeit und Sicherheit in einer einzigen operativen Strategie vereint.
Gesetz über künstliche Intelligenz und Daten (AIDA)
Kanadas föderaler Regulierungsrahmen (Teil des Gesetzesentwurfs Bill C-27), der darauf abzielt, eine sichere und vorurteilsfreie Entwicklung und Nutzung von KI-Systemen mit hoher Tragweite zu gewährleisten.
Algorithmische Verzerrung
Verzerrung, die entsteht, wenn ein Algorithmus aufgrund fehlerhafter Annahmen im maschinellen Lernprozess systematisch vorurteilbehaftete Ergebnisse liefert.
Algorithmic Governance
Der Einsatz von Algorithmen zur Verwaltung und Regulierung gesellschaftlicher Funktionen, der potenziell Einfluss auf Entscheidungsprozesse nimmt.
Amnestie-Programm
Eine zeitlich begrenzte Governance-Initiative, bei der Mitarbeitende dazu eingeladen werden, die Nutzung nicht genehmigter KI-Tools offenzulegen, ohne disziplinarische Maßnahmen befürchten zu müssen.
Anhang-I-Produkte
Eine Liste von Produkten, die bereits dem EU-Gesundheits- und Sicherheitsrecht unterliegen (z. B. Maschinen, Medizinprodukte) und bei denen KI, die gemäß dem EU-KI-Gesetz integriert ist, automatisch als hochriskant eingestuft wird.
Anhang III-Kategorien
Eine spezifische Liste von hochriskanten KI-Anwendungsbereichen, die im EU-KI-Gesetz definiert sind und zwingende Compliance-Verpflichtungen auslösen.
Analyse des API-Traffics
Der technische Prozess zur Überwachung und Überprüfung von Netzwerkaufrufen an externe KI-Dienstleister.
Ausnahme nach Artikel 6 Absatz 3
Ein Selbstbestimmungsmechanismus unter dem KI-Gesetz der EU, der es Anbietern ermöglicht, ein KI-System des Anhangs III als nicht hochriskant einzustufen, sofern es kein erhebliches Risiko darstellt.
Artikel 25 (EU-Gesetz über künstliche Intelligenz)
Die Bestimmung des EU-KI-Gesetzes zur Schaffung einer direkten Haftungs- und Pflichtenkette zwischen Anbietern und Betreibern von Hochrisiko-KI-Systemen, einschließlich der Übertragung der Verantwortung bei wesentlichen Systemänderungen.
Artikel 50 (EU-Gesetz über künstliche Intelligenz)
Die Bestimmung des EU-KI-Gesetzes, die Transparenzpflichten für KI-Systeme festlegt, die mit Menschen interagieren, synthetische Inhalte generieren oder Deepfakes erzeugen.
Australische Richtlinie für sichere und verantwortungsvolle KI
Die offizielle Richtlinie der australischen Bundesregierung zur Nutzung von KI innerhalb des öffentlichen Dienstes und der Regierungsbehörden.
Automatisierte KI-Governance
Der Einsatz von Software und API-Integrationen zur Durchführung kontinuierlicher Compliance-Prüfungen und Risikoüberwachungen in Echtzeit ohne manuelles Eingreifen.
B
Verzerrungsverstärkung
Das Phänomen, bei dem KI-Systeme bestehende Vorurteile in den Trainingsdaten verstärken, was zu zunehmend verzerrten Ergebnissen führt.
Audit auf algorithmische Verzerrung
Ein Evaluierungsprozess zur Erkennung und Abschwächung von Verzerrungen in KI-Systemen, der Fairness sowie die Einhaltung ethischer Standards gewährleistet.
Erkennung von Voreingenommenheit
Der Prozess der Identifizierung von Verzerrungen in KI-Modellen durch die Analyse ihrer Ergebnisse und Entscheidungsprozesse.
Verzerrungsminimierung
Verfahren, die während der KI-Entwicklung angewendet werden, um Verzerrungen in Modellen und Datensätzen zu reduzieren oder zu eliminieren.
Brasilianisches KI-Gesetz (PL 2338/2023)
Der Gesetzentwurf PL 2338/2023 ist Brasiliens vorgeschlagener Rechtsrahmen für künstliche Intelligenz. Er klassifiziert KI-Systeme nach Risikostufen, gewährt Rechte auf Erklärung sowie menschliche Überprüfung und schafft ein nationales Aufsichtssystem, das von der Datenschutzbehörde koordiniert wird. Der Senat hat den Entwurf im Dezember 2024 angenommen, und da er sich derzeit noch in der Abgeordnetenkammer befindet, ist er noch kein geltendes Recht.
Brüsseler Effekt
Das Phänomen, bei dem EU-Regulierungen durch Marktzugangsanforderungen zum globalen Standard werden, selbst für Unternehmen mit Hauptsitz außerhalb der EU.
C
Kalifornien AB 1008
Eine Änderung des CCPA, die klarstellt, dass personenbezogene Daten auch solche Daten umfassen, die von KI-Systemen generiert oder ausgegeben werden.
Kalifornisches Gesetz AB 3030
Ein kalifornisches Gesetz, das Transparenz vorschreibt, wenn generative KI im Rahmen der Kommunikation mit Patienten im Gesundheitswesen eingesetzt wird.
Kalifornische ADMT-Vorschriften
Vorschriften des California Consumer Privacy Act (CCPA) zur Regulierung von Technologien für automatisierte Entscheidungsfindung (ADMT).
Kalifornische FEHA-Regulierungen zu künstlicher Intelligenz
Staatliche Vorschriften im Rahmen des Fair Employment and Housing Act (FEHA), die auf KI-gestützte Diskriminierung am Arbeitsplatz abzielen.
Kalifornisches Gesetz zur Transparenz von KI (SB 942)
Das kalifornische Gesetz zur KI-Transparenz (California AI Transparency Act, SB 942 in der durch AB 853 geänderten Fassung) verpflichtet Anbieter vielgenutzter generativer KI-Systeme, Herkunftsnachweise in KI-generierte Bild-, Video- und Audioinhalte zu integrieren und ein kostenloses, öffentlich zugängliches Erkennungstool bereitzustellen. Es trat am 2. August 2026 in Kraft und wird durch den Generalstaatsanwalt von Kalifornien durchgesetzt.
Kaskadierender Ausfall (ASI08)
Ein Fehlermodus, bei dem ein Fehler oder eine böswillige Eingabe im Denkprozess eines einzelnen KI-Agenten eine Kettenreaktion von Ausfällen über mehrere verbundene Agenten oder Systeme hinweg auslöst.
CE-Kennzeichnung
Eine obligatorische Konformitätskennzeichnung, die die Übereinstimmung eines KI-Systems mit den Gesundheits-, Sicherheits- und Umweltschutzstandards für Produkte bestätigt, die innerhalb des EWR verkauft werden.
Benachrichtigungsfenster ändern
Ein vertraglich festgelegter Zeitraum, in dem ein Anbieter den Kunden über wesentliche Aktualisierungen eines KI-Modells informieren muss, bevor diese in der Produktivumgebung implementiert werden.
Vorläufige Maßnahmen Chinas zur Regulierung von generativer KI
Regulatorische Anforderungen für generative KI-Dienste, die der chinesischen Öffentlichkeit bereitgestellt werden.
KI-Konvention des Europarats
Der erste rechtlich bindende internationale Vertrag über KI, der sich auf den Schutz von Menschenrechten, Demokratie und Rechtsstaatlichkeit konzentriert.
Colorado AI Act (SB 24-205, außer Kraft getreten 2026)
Das Colorado-KI-Gesetz (SB 24-205), das erste umfassende Gesetz eines US-Bundesstaates zur künstlichen Intelligenz, wurde im Mai 2026 aufgehoben und durch das Gesetz Colorado SB 26-189 ersetzt. Letzteres tritt am 1. Januar 2027 in Kraft und legt einen engeren Fokus auf automatisierte Entscheidungsfindungstechnologien.
Colorado AI Act (SB 26-189)
Das Gesetz Colorado SB 26-189 ist der im Jahr 2026 beschlossene Nachfolger des ursprünglichen Colorado AI Act (SB 24-205). Es tritt am 1. Januar 2027 in Kraft und legt den Schwerpunkt der Verpflichtungen auf automatisierte Entscheidungstechnologien, die wesentliche Entscheidungen mit erheblichen Auswirkungen auf die Bürger von Colorado treffen.
Compliance-Framework
Ein strukturiertes Regelwerk und Best Practices, die Unternehmen befolgen, um sicherzustellen, dass ihre KI-Systeme den regulatorischen und ethischen Standards entsprechen.
Compliance-Risiko
Das Risiko rechtlicher oder regulatorischer Sanktionen, finanzieller Verluste oder Reputationsschäden, denen ein Unternehmen ausgesetzt ist, wenn es Gesetze, Vorschriften oder vorgeschriebene Praktiken nicht einhält.
Konzeptdrift
Die Veränderung der statistischen Eigenschaften der Zielvariable, die das Modell vorherzusagen versucht, im Laufe der Zeit, was zu einer Verschlechterung der Modellleistung führt.
Konformitätsbewertung
Ein Prozess zur Überprüfung, ob ein KI-System bestimmte Anforderungen, Standards oder regulatorische Vorgaben erfüllt, was häufig Tests und Zertifizierungen umfasst.
Interne Kontrolle (Konformitätsbewertung)
Ein Verfahren gemäß dem KI-Gesetz der EU, bei dem ein Anbieter selbst überprüft, dass sein Hochrisiko-KI-System alle regulatorischen Anforderungen erfüllt, ohne dass eine Prüfung durch eine dritte Partei erforderlich ist.
Kontrollierbarkeit
Das Ausmaß, in dem Menschen die Entscheidungen und Verhaltensweisen eines KI-Systems steuern, beeinflussen oder außer Kraft setzen können.
COREPER-Mandat
Das Verhandlungsmandat, das von den Botschaftern der EU-Mitgliedstaaten (Ausschuss der Ständigen Vertreter) der rotierenden Ratspräsidentschaft für die Trilog-Verhandlungen über EU-Rechtsvorschriften erteilt wird.
Kryptografische Agenten-Identität
Ein verifizierbarer digitaler Berechtigungsnachweis (häufig ein dezentraler Identifikator oder DID), der einen KI-Agenten und dessen Autorisierungsstufe eindeutig identifiziert.
D
Daten-Drift
Die Veränderung von Modell-Eingangsdaten im Laufe der Zeit, was zu einer Verschlechterung der Modellleistung führen kann, wenn dies nicht überwacht und behoben wird.
Datenethik
Der Zweig der Ethik, der Datenpraktiken im Hinblick auf die moralischen Verpflichtungen bei der Erfassung, dem Schutz und der Nutzung personenbezogener Daten bewertet.
Daten-Governance
Die umfassende Verwaltung der Datenverfügbarkeit, -nutzbarkeit, -integrität und -sicherheit in einem Unternehmen, die sicherstellt, dass Daten während ihres gesamten Lebenszyklus ordnungsgemäß behandelt werden.
Risiko bei der Datenintegration
Das Risiko, dass vertrauliche oder geschützte Informationen während der Interaktion eines Benutzers dauerhaft in den Trainingsdatensatz eines KI-Modells aufgenommen werden.
Datenlebenszyklus-Management
Die richtlinienbasierte Verwaltung des Datenflusses über dessen gesamten Lebenszyklus hinweg: von der Erstellung und anfänglichen Speicherung bis zu dem Zeitpunkt, an dem die Daten veraltet sind und gelöscht werden.
Datenminimierung
Das Prinzip, nur diejenigen Daten zu erheben, die für einen bestimmten Zweck absolut erforderlich sind, wodurch das Risiko von Missbrauch oder Datenpannen minimiert wird.
Datenschutz
Der Bereich der Informationstechnologie, der sich mit der Kontrolle darüber befasst, welche Daten mit wem geteilt werden, um den angemessenen Umgang mit personenbezogenen Daten zu gewährleisten.
Datenschutz
Der Prozess der Absicherung wichtiger Informationen vor Beschädigung, Kompromittierung oder Verlust, um die Einhaltung von Datenschutzgesetzen und -vorschriften zu gewährleisten.
Datenprovenienz
Eine dokumentierte Historie über den Ursprung, die Eigentumsverhältnisse und den Lebenszyklus eines Datensatzes, der für das Training oder die Feinabstimmung eines KI-Modells verwendet wird.
Datenqualität
Der Zustand von Daten basierend auf Faktoren wie Genauigkeit, Vollständigkeit, Zuverlässigkeit und Relevanz, welcher für die effektive Leistung von KI-Modellen von entscheidender Bedeutung ist.
Datenresidenz
Unter Datenresidenz versteht man die Anforderung, dass Daten in einem bestimmten Land oder einer bestimmten Region gespeichert und verarbeitet werden müssen. In KI-Systemen betrifft dies Trainingsdaten, Prompts, Modellausgaben und Interaktionsprotokolle (Inference Logs). Dies schränkt die Auswahl der Modelle ein, die ein Unternehmen nutzen kann, da das Senden eines Prompts an ein extern gehostetes Modell einen grenzüberschreitenden Datentransfer darstellt.
Datensouveränität
Das Prinzip, demzufolge Daten den Gesetzen und Governance-Strukturen des Landes unterliegen, in dem sie erhoben, gespeichert oder verarbeitet werden.
Betroffene Person
Eine Person, deren personenbezogene Daten erfasst, gespeichert oder verarbeitet werden – von besonderer Relevanz im Kontext von Datenschutzgesetzen wie der DSGVO.
Deidentifizierung
Der Prozess der Entfernung oder Unkenntlichmachung persönlicher Identifikationsmerkmale aus Datensätzen, um die Identifizierung von Einzelpersonen zu erschweren, dient dem Schutz der Privatsphäre.
Deepfake
Synthetische Medien, bei denen eine Person in einem bestehenden Bild oder Video mithilfe von Deep-Learning-Techniken durch das Abbild einer anderen Person ersetzt wird.
Differenzielle Privatsphäre
Ein System zur öffentlichen Bereitstellung von Informationen über einen Datensatz, das Muster von Gruppen innerhalb des Datensatzes beschreibt, während Informationen über einzelne Personen zurückgehalten werden.
EU-Sammelgesetzgebung zur künstlichen Intelligenz
Ein Gesetzgebungspaket für 2025/2026, das darauf ausgelegt ist, technische Standards, Konformitätsbewertungen und Fristen zur Durchsetzung im Rahmen des EU AI Acts und damit verbundener digitaler Sicherheitsgesetze zu straffen und zu harmonisieren.
Diskriminierung
Im Bereich der KI bezieht sich dies auf die ungerechte Behandlung von Personen oder Gruppen aufgrund von Voreingenommenheiten in Daten oder Algorithmen, was zu ungleichen Ergebnissen führt.
Dual-Use-Basismodell
Ein KI-Modell, das auf einer enormen Datenmenge trainiert wurde und über eine hohe Leistungsfähigkeit verfügt, sodass es sowohl für zivile als auch für schädliche oder militärische Zwecke eingesetzt werden könnte.
Dynamische Risikobewertung
Der kontinuierliche Prozess der Identifizierung und Bewertung von Risiken in Echtzeit, der rechtzeitige Reaktionen auf neu entstehende Bedrohungen in KI-Systemen ermöglicht.
E
Edge-Analytik
Die Analyse von Daten direkt am Netzwerkrand (Edge), nahe der Quelle der Datenerzeugung, reduziert Latenzzeiten sowie die benötigte Bandbreite.
Enzai
Eine Governance-Plattform für Unternehmens-KI, die es Organisationen ermöglicht, ihre KI-Systeme zu erfassen, zu bewerten und zu steuern, um eine maximale KI-Einführung bei gleichzeitiger Minimierung von KI-Risiken zu gewährleisten.
Eskalationslogik
Ein Satz vordefinierter Regeln und Auslöser, die einen KI-Agenten dazu zwingen, den autonomen Betrieb einzustellen und die Kontrolle wieder an einen menschlichen Bediener zu übergeben.
Anforderungen der ESMA an die AI/ML-Governance
Die Erwartungen der ESMA bezüglich KI und maschinellem Lernen legen fest, wie EU-Wertpapierfirmen die MiFID-II-Verpflichtungen bei der Nutzung von KI anzuwenden haben. Die Europäische Wertpapier- und Marktaufsichtsbehörde hat im Mai 2024 Leitlinien zu KI bei Wertpapierdienstleistungen für Kleinanleger herausgegeben, gefolgt von einem aufsichtsrechtlichen Briefing zum algorithmischen Handel am 26. Februar 2026, das sich mit KI und deren Zusammenspiel mit dem EU-KI-Gesetz befasst.
Ethische KI
Die Praxis, KI-Systeme so zu konzipieren, zu entwickeln und bereitzustellen, dass sie mit ethischen Grundsätzen und Werten im Einklang stehen und Fairness, Rechenschaftspflicht sowie Transparenz gewährleisten.
Ethisches KI-Auditing
Der Prozess der systematischen Evaluierung von KI-Systemen, um sicherzustellen, dass sie ethischen Standards entsprechen und keinen Schaden anrichten.
Zertifizierung für ethische KI
Eine formelle Anerkennung, dass ein KI-System etablierte ethische Standards und Richtlinien einhält.
Ethische KI-Governance
Das Rahmenwerk aus Richtlinien, Verfahren und Praktiken, das sicherstellt, dass KI-Systeme verantwortungsvoll und ethisch entwickelt und eingesetzt werden.
Ethische Richtlinien
Strukturierte Prinzipien und Richtlinien, die als Orientierung für eine ethische Entwicklung und Bereitstellung von KI-Systemen dienen.
Ethik-Folgenabschätzung
Ein systematischer Evaluierungsprozess zur Identifizierung und Bewältigung der ethischen Implikationen und potenziellen gesellschaftlichen Auswirkungen von KI-Systemen vor deren Bereitstellung.
Ethisches Risiko
Das Potenzial eines KI-Systems, durch unethisches Verhalten Schaden zu verursachen, einschließlich Befangenheit, Diskriminierung oder der Verletzung der Privatsphäre.
Ethikleitlinien für eine vertrauenswürdige KI
Ein Satz von Richtlinien, die von der Hochrangigen Expertengruppe für KI der Europäischen Kommission entwickelt wurden, um vertrauenswürdige KI zu fördern. Der Fokus liegt dabei auf menschlicher Selbstbestimmung, technischer Robustheit, Datenschutz, Transparenz, Diversität, gesellschaftlichem Wohlergehen und Rechenschaftspflicht.
EU-KI-Gesetz
Der weltweit erste umfassende, sektorübergreifende Rechtsrahmen für KI, der ein risikobasiertes Klassifizierungssystem für Systeme etabliert, die innerhalb der Europäischen Union bereitgestellt oder genutzt werden.
Hochrisiko-Kategorien nach dem EU-KI-Gesetz
Die beiden Klassifizierungen von Hochrisiko-KI-Systemen gemäß dem EU-KI-Gesetz: eigenständige Systeme, die in Anhang III aufgeführt sind (umfassend Biometrie, kritische Infrastrukturen, Beschäftigung, Bildung, Strafverfolgung und andere genannte Verwendungszwecke), und in regulierte Produkte eingebettete KI, die in Anhang I aufgeführt sind (umfassend Medizinprodukte, Fahrzeuge, Maschinen und andere regulierte Produktkategorien).
Risikoklassifizierung nach dem EU-KI-Gesetz
Der verpflichtende Prozess zur Einstufung eines KI-Systems in eine von vier Risikoklassen (Unannehmbar, Hoch, Begrenzt, Minimal) gemäß dem KI-Gesetz der EU (EU AI Act).
EU-Büro für KI
Das Gremium der Europäischen Kommission, das zur Überwachung der Umsetzung und Durchsetzung des KI-Gesetzes der EU eingerichtet wurde, insbesondere für KI-Modelle mit allgemeinem Verwendungszweck und systemischem Risiko.
EU-Gesetzgebungspaket für digitale Dienste
Das umfassendere Gesetzgebungs-Vereinfachungspaket 2025–2026 der Europäischen Union, das mehrere digitale Regulierungsvorschriften adressiert, darunter das KI-Gesetz (AI Act), Bestimmungen der DSGVO, das Cyber-Resilienz-Gesetz sowie Änderungen des Datengesetzes (Data Act).
Übermäßige Agenturtätigkeit
Eine Schwachstelle, bei der einem KI-System im Verhältnis zu seiner beabsichtigten Funktion zu viel Autonomie, zu viele Werkzeuge oder überprivilegierte Zugriffsrechte gewährt werden.
Präsidialerlass 14110
Die Richtlinie der Biden-Regierung (unterzeichnet im Oktober 2023, aufgehoben im Januar 2025), die US-amerikanische Standards für KI-Sicherheit, Gefahrenabwehr und Datenschutz etablierte und das U.S. AI Safety Institute beim NIST ins Leben rief.
Erklärbarkeitsmethoden
Methoden zur Interpretation und zum Verständnis der von KI-Modellen getroffenen Entscheidungen, wie beispielsweise LIME, SHAP und Saliency Maps (Aktivitätskarten).
Erklärbarkeit vs. Interpretierbarkeit
Während beide Ansätze darauf abzielen, KI-Entscheidungen nachvollziehbar zu machen, konzentriert sich die Erklärbarkeit (Explainability) auf die Begründung von Entscheidungen, wohingegen sich die Interpretierbarkeit (Interpretability) auf die Transparenz der internen Funktionsweise des Modells bezieht.
Erklärbare KI (XAI)
KI-Systeme, die so konzipiert sind, dass sie nachvollziehbare Begründungen für ihre Entscheidungen und Handlungen liefern, wodurch Transparenz und Vertrauen gestärkt werden.
Erklärbare maschinelle Lernverfahren
Maschinelle Lernmodelle, die so konzipiert sind, dass sie klare und nachvollziehbare Erklärungen für ihre Vorhersagen und Entscheidungen liefern.
F
Fairness-Metriken
Quantitative Kennzahlen (z. B. demografische Parität, ausgeglichene Quoten), die verwendet werden, um zu bewerten, wie fair die Vorhersagen eines KI-Modells über verschiedene Gruppen hinweg sind.
Falsch-Negativ
Wenn ein KI-Modell fälschlicherweise eine negative Klasse für eine Instanz vorhersagt, die tatsächlich positiv ist (Fehler 2. Art).
Falsch-Positiv-Befund
Wenn ein KI-Modell fälschlicherweise eine positive Klasse für eine tatsächlich negative Instanz vorhersagt (Fehler 1. Art).
Fehlertoleranz
Die Fähigkeit eines KI-Systems, auch dann korrekt weiterzufunktionieren, wenn einzelne Komponenten ausfallen oder Fehler verursachen.
Föderierte KI-Governance
Ein Governance-Modell, bei dem zentrale Richtlinien und Aufsicht mit dezentraler Entscheidungsfindung durch Geschäftsbereiche oder Regionalbüros kombiniert werden, um Konsistenz und operative Flexibilität harmonisch miteinander zu verbinden.
Feedback-Schleife
Ein Prozess, bei dem KI-Ergebnisse wieder als Eingaben zurückgeführt werden, was das Modellverhalten verstärken kann – im positiven Sinne (bestärkendes Lernen) oder im negativen Sinne (Verstärkung von Vorurteilen).
FS AI RMF (Risk Management Framework für künstliche Intelligenz im Finanzdienstleistungssektor)
Das Financial Services AI Risk Management Framework (FS AI RMF) ist ein freiwilliges, sektorspezifisches Rahmenwerk, das im Februar 2026 vom US-Finanzministerium zusammen mit dem Cyber Risk Institute veröffentlicht wurde. Es orientiert sich am NIST AI RMF und bietet eine Matrix von 230 Kontrollzielen über den gesamten KI-Lebenszyklus hinweg, die Banken, Kreditgenossenschaften, Versicherer, Investmentgesellschaften und deren Drittanbieter abdeckt.
Funktionale Sicherheit
Sicherstellung, dass KI-Systeme unter allen Bedingungen sicher funktionieren – insbesondere in Branchen wie der Automobilindustrie oder dem Gesundheitswesen –, häufig realisiert durch Redundanz und Kontrollmechanismen.
Grundrechtecharta-Folgenabschätzung (FRIA)
Eine obligatorische Bewertung gemäß dem EU-KI-Gesetz für bestimmte Betreiber, um festzustellen, wie sich der Einsatz eines Hochrisiko-KI-Systems auf die Grundrechte und Menschenrechte auswirken könnte.
G
Gap-Analyse
Der Prozess des Abgleichs aktueller KI-Governance-Praktiken mit gewünschten Standards oder regulatorischen Vorgaben zur Identifizierung von Optimierungsbedarfen.
DSGVO
Die Datenschutz-Grundverordnung der EU, die strenge Anforderungen an die Erhebung und Verarbeitung personenbezogener Daten sowie an die Rechte des Einzelnen festlegt.
Ziel-Abweichung
Ein Phänomen, bei dem sich die internen Unterziele oder Argumentationspfade eines KI-Agenten schrittweise von den ursprünglich durch den Menschen vorgegebenen Zielen entfernen.
Aufsichtsgremium
Eine funktionsübergreifende Gruppe (z. B. aus den Bereichen Recht, Ethik, Technik), die mit der Überwachung von KI-Governance-Richtlinien und deren Umsetzung innerhalb einer Organisation betraut ist.
Governance-Framework
Ein strukturiertes Modell, das aufzeigt, wie die verschiedenen Komponenten der KI-Governance (Risikomanagement, Rechenschaftspflicht, Aufsicht) ineinandergreifen, um Compliance und eine ethische Nutzung zu gewährleisten.
Governance-Reifegradmodell
Ein Governance-Reifegradmodell ist eine stufenweise Skala zur Bewertung, wie weit die KI-Governance einer Organisation entwickelt ist. Sie reicht in der Regel von Ad-hoc-Praktiken bis hin zu messbaren und kontinuierlich verbesserten Prozessen. Es dient dazu, eine Ausgangsposition zu bestimmen, ein realistisches Ziel festzulegen und Investitionen zu priorisieren, nicht jedoch zur Zertifizierung der Compliance.
Governance-Richtlinie
Ein formelles Dokument, das Regeln, Rollen und Verfahren für die KI-Entwicklung und -Aufsicht innerhalb einer Organisation festlegt.
Governance-Scorecard
Ein Dashboard oder eine Scorecard zur Verfolgung von Kennzahlen (z. B. Befangenheitsvorfälle, Compliance-Audits), um die Effektivität der KI-Governance im Zeitverlauf zu messen.
GPAI-Verhaltenskodex
Das detaillierte Regulierungsinstrument, das spezifische Verpflichtungen zur Transparenz, Sicherheitsprüfung und Risikominderung für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck (GPAI) gemäß dem EU-KI-Gesetz festlegt.
GPAI-Modell
Ein vielseitig einsetzbares Modell der künstlichen Intelligenz, das in der Lage ist, ein breites Spektrum an unterschiedlichen Aufgaben zu erfüllen und sich nahtlos in verschiedene Anwendungen zu integrieren.
Granulare Einwilligung
Ein Ansatz zum Datenschutz, der es Einzelpersonen ermöglicht, spezifische Berechtigungen für jede Art der Datennutzung zu erteilen oder zu verweigern, wodurch Transparenz und Kontrolle verbessert werden.
Leitplanken
Vordefinierte (technische und richtlinienbasierte) Einschränkungen oder Prüfungen, die in KI-Systeme integriert sind, um unsicheres oder nicht-konformes Verhalten zur Laufzeit zu verhindern.
Leitlinie (Ethische KI)
Eine unverbindliche Empfehlung oder ein Best-Practice-Dokument, das von Organisationen (z. B. IEEE, EU) herausgegeben wird, um eine verantwortungsvolle Entwicklung und Bereitstellung von KI zu gestalten.
H
Halluzination
Wenn generative KI fehlerhafte oder erfundene Informationen erzeugt, die plausibel erscheinen, jedoch keinerlei Grundlage in den Trainingsdaten haben.
Schadensbewertung
Die Bewertung potenzieller negativer Auswirkungen (physischer, psychologischer und gesellschaftlicher Art) von KI-Systemen sowie die Definition von Minimierungsstrategien.
Harmonisierung
Harmonisierung von KI-Richtlinien, Standards und Vorschriften über verschiedene Rechtsräume hinweg, um Konflikte zu minimieren und Interoperabilität zu gewährleisten.
Harmonisierte Struktur
Ein standardisiertes Template für alle ISO-Managementsystemnormen, ehemals bekannt als Annex SL, das eine einheitliche Terminologie und Klauselnummerierung gewährleistet.
Heuristische Evaluation
Eine Methode der Usability-Evaluierung, bei der Experten ein KI-System anhand etablierter Usability-Prinzipien bewerten, um potenzielle Schwachstellen zu identifizieren.
Hochrisiko-KI-System
KI-Anwendungen, die ein erhebliches Potenzial zur Gefährdung der Gesundheit, Sicherheit oder der Grundrechte von Personen aufweisen und somit die strengsten Compliance-Anforderungen unter dem EU-KI-Gesetz auslösen.
Hochrisiko-KI
KI-Anwendungen, deren Fehlfunktionen erheblichen Schaden verursachen könnten (z. B. in der medizinischen Diagnostik oder bei autonomen Fahrzeugen) und die daher einer verstärkten Governance und Aufsicht bedürfen.
Human-in-the-Loop
Die Einbindung menschlichen Urteilsvermögens in KI-Prozesse (Training, Validierung, Überprüfung von Entscheidungen), um die Genauigkeit und Verantwortlichkeit zu verbessern.
Menschliche Aufsicht
Mechanismen, die es autorisierten Personen ermöglichen, Entscheidungen von KI-Systemen zu überwachen, einzugreifen oder diese außer Kraft zu setzen, um die Einhaltung ethischer und rechtlicher Standards zu gewährleisten.
Menschenrechts-Folgenabschätzung
Ein Verfahren zur Bewertung der Auswirkungen von KI-Systemen auf Grundrechte (wie Privatsphäre, freie Meinungsäußerung und Nichtdiskriminierung) sowie zur Identifizierung geeigneter Maßnahmen zur Risikominderung.
Ich
Folgenabschätzung
Eine strukturierte Bewertung zur Identifizierung, Analyse und Abschwächung potenzieller ethischer, rechtlicher und gesellschaftlicher Auswirkungen eines KI-Systems vor dessen Bereitstellung.
Durchführungsrechtsakte
Sekundärrecht der EU, das von der Europäischen Kommission erlassen wird, um einheitliche Bedingungen für die Umsetzung von Primärrecht festzulegen, und das in allen Mitgliedstaaten rechtsverbindlich ist.
Anreizabstimmung
Die Gestaltung von Anreizstrukturen und Zielsetzungen, um sicherzustellen, dass die Ziele von KI-Systemen stets im Einklang mit menschlichen Werten und organisatorischen Prioritäten stehen.
Induktiver Bias
Die Annahmen, die ein Lernalgorithmus nutzt, um von beobachteten Daten auf unbekannte Instanzen zu verallgemeinern.
Information Governance
Die Richtlinien, Verfahren und Kontrollen, die die Datenqualität, den Datenschutz und die Nutzbarkeit der Datenbestände eines Unternehmens gewährleisten, einschließlich der Trainingsdatenätze für künstliche Intelligenz.
Informationsdatenschutz
Das Recht von Einzelpersonen zu kontrollieren, wie ihre personenbezogenen Daten durch KI-Systeme erfasst, verwendet, gespeichert und weitergegeben werden.
Vererbtes Datenrisiko
Das regulatorische und ethische Haftungsrisiko, das ein Unternehmen eingeht, wenn es ein KI-System einsetzt, das mit Daten trainiert wurde, die das Unternehmen nicht selbst erfasst oder geprüft hat.
Eingangs-Workflow
Der standardisierte Prozess und die Reihe von Prüfungen, die ein neues KI-System durchlaufen muss, bevor es entwickelt oder beschafft werden kann.
Intent-Validierung
Der Prozess der Verifizierung, dass die geplanten Teilschritte eines KI-Agenten konsistent mit dem ursprünglich vom Menschen vorgegebenen Ziel übereinstimmen.
Interoperabilität
Die Fähigkeit unterschiedlicher KI-Systeme und -Komponenten, Informationen nahtlos auszutauschen, zu verstehen und zu nutzen – häufig über offene Standards oder APIs.
Interpretierbarkeit
Das Ausmaß, in dem ein Mensch die internen Mechanismen oder die Entscheidungslogik eines KI-Modells verstehen kann.
ISO/IEC 42001
Der internationale Standard, der Anforderungen für die Einführung, Umsetzung, Aufrechterhaltung und kontinuierliche Verbesserung eines Managementsystems für Künstliche Intelligenz (AIMS) festlegt.
ISO/IEC 42005
Der internationale Standard, der Leitlinien für die Durchführung von Folgenabschätzungen für KI-Systeme bereitstellt.
ISO/IEC JTC 1/SC 42
Das gemeinsame ISO/IEC-Komitee für die Standardisierung im Bereich der künstlichen Intelligenz entwickelt internationale KI-Standards für Governance, Risikomanagement und Interoperabilität.
J
Jailbreak-Angriff
Eine Form des Prompt-Injection-Angriffs, bei der Benutzer Schwachstellen ausnutzen, um Sicherheitsvorkehrungen in generativen KI-Modellen zu umgehen, was potenziell zu unsicheren oder unbefugten Ergebnissen führen kann.
Japanisches Gesetz zur Förderung von KI
Ein japanisches Gesetz (beschlossen 2025), das grundlegende Prinzipien zur Förderung von KI und zur Risikominderung festlegt.
Gesamtschuldnerische Haftung
Rechtsprinzip, nach dem mehrere Parteien (z. B. Entwickler, Bereitsteller) die gemeinsame Verantwortung für KI-bedingte Schäden tragen, was Einfluss auf Vertrags- und Governance-Strukturen hat.
Gemeinsame Modellierung
Entwicklung von KI-Systemen, die mehrere Aufgaben gemeinsam erlernen (z. B. Spracherkennung und Übersetzung), wobei Governance für Komplexität und Auditierbarkeit erforderlich ist.
Gerichtsstand
Die rechtliche Verfügungsgewalt über Daten, KI-Prozesse und Haftung, welche sich je nach Region unterscheidet und direkte Auswirkungen auf die Einhaltung regionaler Vorschriften (z. B. DSGVO, CCPA) hat.
K
Leistungskennzahl
Eine quantifizierbare Metrik (z. B. Abweichung der Modellgenauigkeit, Zeitspanne zur Behebung von Verzerrungen), die zur Überwachung und Berichterstattung von KI-Governance- und Compliance-Zielen verwendet wird.
Wichtiger Risikoindikator
Ein Frühindikator (z. B. die Häufigkeit von Vorhersagen außerhalb des definierten Rahmens oder die Rate nicht nachvollziehbarer Entscheidungen), der aufkommende KI-Risiken signalisiert, bevor diese eintreten.
Wissensmanagement
Praktiken und Werkzeuge zur Erfassung, Strukturierung und gemeinsamen Nutzung von organisatorischem Wissen (z. B. Modelldokumentation, Audit-Protokolle), um Reproduzierbarkeit und Compliance-Aufsicht zu gewährleisten.
L
Minimale Agenturabhängigkeit
Ein Sicherheits- und Governance-Prinzip, das besagt, dass KI-Agenten nur das Mindestmaß an Autonomie und Werkzeugzugriffen gewährt werden sollte, das zur Erfüllung einer bestimmten Aufgabe erforderlich ist.
Minimalprinzip
Ein Sicherheitsprinzip, bei dem KI-Komponenten und Benutzern nur die minimal erforderlichen Zugriffsrechte gewährt werden, die zur Erfüllung ihrer Aufgaben notwendig sind, um das Risiko eines Missbrauchs zu minimieren.
Rechtliche Compliance
Die Praxis, die sicherstellt, dass KI-Systeme während ihres gesamten Lebenszyklus den geltenden Gesetzen, Vorschriften und Industriestandards entsprechen.
Haftungsrahmen
Ein strukturierter Ansatz zur Festlegung der Verantwortlichkeiten bei KI-bezogenen Schäden oder Fehlfunktionen, der Entwickler, Bereitsteller und Betreiber gleichermaßen einbezieht.
Lebenszyklusmanagement
Die koordinierten Prozesse für die Entwicklung, Bereitstellung, Überwachung, Wartung und Außerbetriebnahme von KI-Systemen, um eine kontinuierliche Compliance und Risikokontrolle zu gewährleisten.
Lokalisierung
Die Anpassung von KI-Systemen an lokale Sprachen, Vorschriften, kulturelle Normen und Anforderungen an die Datenresidenz in verschiedenen Rechtsordnungen.
M
Marktüberwachungsbehörde
Die nationale Regulierungsbehörde in jedem EU-Mitgliedstaat, die für die Überwachung von KI-Systemen zuständig ist, um deren Konformität mit dem Gesetz über künstliche Intelligenz der EU (EU AI Act) sicherzustellen.
MAS-FEAT-Prinzipien
Die MAS FEAT-Prinzipien sind vier Grundsätze zu Fairness, Ethik, Rechenschaftspflicht und Transparenz (Fairness, Ethics, Accountability and Transparency). Sie wurden am 12. November 2018 von der Monetary Authority of Singapore veröffentlicht, um den verantwortungsvollen Einsatz von künstlicher Intelligenz und Datenanalysen im Finanzsektor Singapurs zu fördern. Dabei handelt es sich um unverbindliche Leitlinien, nicht um durchsetzbare Vorschriften, die durch die Veritas-Bewertungsmethodik unterstützt werden.
Sinnvolle menschliche Kontrolle
Ein regulatorischer und betrieblicher Standard, der sicherstellt, dass der Mensch die Fähigkeit behält, KI-Entscheidungsprozesse zu überwachen, einzugreifen und diese außer Kraft zu setzen.
Metadaten-Management
Die Erfassung und Pflege deskriptiver Daten (z. B. Datenherkunft, Feature-Definitionen, Modellparameter) zur Unterstützung der Rückverfolgbarkeit und von Audits.
Kenn za hl en & KP Is
Quantitative Kennzahlen (z. B. Abweichungen bei der Genauigkeit, Fairness-Scores, Reaktionszeiten bei Vorfällen), die zur Überwachung des Systemzustands, des Risikos und der Compliance-Ziele von KI-Systemen herangezogen werden.
Bundesgesetz Mexikos über KI und Algorithmen
Ein Entwurf für ein mexikanisches Bundesgesetz über KI und Algorithmen, der ein risikobasiertes Klassifizierungssystem, die Nationale KI-Kommission (CONAIA) sowie Anforderungen zur Kennzeichnung von KI-generierten Inhalten durch Wasserzeichen vorschlägt.
Minderungsstrategien
Geplante Maßnahmen (z. B. Behebung von Verzerrungen, erneutes Training, Feature-Re-Engineering) zur Bewältigung identifizierter KI-Risiken und Compliance-Lücken.
Minnesota CDPA (KI-Bestimmungen)
Die KI-spezifischen Komponenten des Minnesota Consumer Data Privacy Act.
Modellkarte
Ein kurzes, standardisiertes Dokument, das wesentliche Informationen über die Leistung, Einschränkungen und beabsichtigten Anwendungsfälle eines Machine-Learning-Modells liefert.
Modell-Disgorgement
Eine behördliche Auflage, die ein Unternehmen dazu verpflichtet, KI-Modelle oder -Algorithmen zu löschen, die unter Verwendung von unrechtmäßig oder unbefugt erlangten Daten entwickelt wurden.
Modellabweichung
Der allmähliche Verlust der Vorhersagegenauigkeit eines KI-Modells im Laufe der Zeit, verursacht durch Veränderungen der realen Datenstrukturen oder der Betriebsumgebung.
Erklärbarkeit von Modellen
Techniken und Dokumentationen, die die Entscheidungslogik eines KI-Modells für Stakeholder und Auditoren verständlich und nachvollziehbar machen.
Modell-Governance
Die Richtlinien, Rollen und Kontrollmechanismen, die gewährleisten, dass KI-Modelle in Übereinstimmung mit den organisatorischen Standards und regulatorischen Anforderungen entwickelt, genehmigt und eingesetzt werden.
Modellüberwachung
Kontinuierliche Überwachung der Leistung eines KI-Modells, von Daten-Drifts sowie betrieblichen Kennzahlen, um Leistungsabfall oder neu entstehende Risiken frühzeitig zu erkennen.
Modell-Retraining
Der Prozess der Aktualisierung eines KI-Modells mit neuen oder aktualisierten Daten, um die Leistung und Compliance bei sich verändernden Datenverteilungen aufrechtzuerhalten.
Modellrisikomanagement
Das Modellrisikomanagement bezeichnet die Disziplin der Identifizierung, Messung und Kontrolle des Risikos, dass ein Modell fehlerhafte Ergebnisse liefert oder missbräuchlich verwendet wird. Im US-Bankenwesen wird dieses durch die Richtlinie SR 26-2 geregelt, die am 17. April 2026 gemeinsam von der Federal Reserve, dem OCC und der FDIC herausgegeben wurde. Diese ersetzt SR 11-7 und schließt generative sowie agentische KI ausdrücklich aus ihrem Anwendungsbereich aus.
Modellvalidierung
Die Evaluierungsaktivitäten (z. B. Tests mit zurückgehaltenen Daten, Belastungsszenarien), die bestätigen, dass ein KI-Modell seinen beabsichtigten Zweck und seine Leistungskriterien erfüllt.
Einbindung aller relevanten Stakeholder
Einbindung diverser Interessengruppen (z. B. Rechts-, Ethik- und Betriebsabteilungen sowie Endnutzer) in KI-Governance-Prozesse, um eine ausgewogene Risikoüberwachung und die Ausrichtung auf die Geschäftsziele zu gewährleisten.
N
NIST KI-Risikomanagement-Rahmenwerk
Ein freiwilliger Leitfaden des U.S. National Institute of Standards and Technology, der bewährte Verfahren zur Risikominderung über den gesamten Lebenszyklus von KI-Systemen hinweg beschreibt.
NIST AI RMF-Profile
NIST AI RMF-Profile sind maßgeschneiderte Implementierungen des NIST AI Risk Management Frameworks. NIST definiert drei Typen: Use-Case-Profile für spezifische Anwendungen, branchenübergreifende Profile, die industrieübergreifend Anwendung finden, sowie zeitliche Profile, die den aktuellen (Current) und angestrebten (Target) Zustand einer Organisation beschreiben. Das erste branchenübergreifende Profil, das Generative AI Profile (NIST AI 600-1), wurde im Juli 2024 veröffentlicht.
Nicht-menschliche Identität (NHI)
Ein digitaler Identitätsnachweis, der von einem KI-Agenten, Bot oder Service verwendet wird, um sich bei Unternehmenssystemen zu authentifizieren und mit diesen zu interagieren.
Benannte Stelle
Eine unabhängige Drittorganisation, die von einem EU-Mitgliedstaat benannt wird, um die Konformität bestimmter Hochrisiko-KI-Systeme gemäß dem EU-KI-Gesetz zu bewerten.
NYC Local Law 144
Ein Gesetz der Stadt New York, das jährliche Audits zur Überprüfung auf Diskriminierung bei KI-Tools vorschreibt, die für Personalentscheidungen eingesetzt werden.
O
Observability
Die Fähigkeit, den internen Zustand und das Verhalten eines KI-Systems durch die Erfassung und Analyse von Protokollen, Metriken und Ausgaben abzuleiten, um eine effektive Überwachung und Fehlerbehebung zu gewährleisten.
OMB-Memorandum M-25-21
Das OMB-Memorandum M-25-21 („Accelerating Federal Use of AI through Innovation, Governance, and Public Trust“) weist US-Bundesbehörden an, einen Chief AI Officer zu ernennen, ein Inventar der KI-Anwendungsfälle zu veröffentlichen und Mindeststandards für das Risikomanagement bei „hochgradig einflussreicher KI“ (high-impact AI) anzuwenden. Es wurde im April 2025 erlassen, ersetzte das Memorandum M-24-10 und wird durch das Memorandum M-25-22 zur KI-Beschaffung ergänzt.
Fortlaufende Überwachung
Kontinuierliche Überwachung der Leistung von KI-Systemen, von Daten-Drift, Bias-Metriken und Sicherheitsereignissen, um neu entstehende Risiken frühzeitig zu erkennen und proaktiv zu adressieren.
Operative Autonomie
Die Fähigkeit eines KI-Systems, mehrstufige Aufgaben auszuführen und Entscheidungen zu treffen, ohne dass in jeder Phase ein menschliches Eingreifen erforderlich ist.
Betriebliche Resilienz
Die Fähigkeit von KI-Systemen und deren unterstützender Infrastruktur, Störungen oder unerwünschten Ereignissen vorzubeugen, diesen standzuhalten, sich von ihnen zu erholen und sich an sie anzupassen.
Output-Risiko
Das betriebliche, rechtliche und reputationsbezogene Risiko, das sich aus der Verwendung fehlerhafter, voreingenommener oder schädlicher Inhalte ergibt, die von einem KI-System generiert wurden.
Aufsicht
Der strukturierte Prozess der Überprüfung, Genehmigung und Rechenschaftspflicht für die KI-Entwicklung und -Bereitstellung, an dem in der Regel funktionsübergreifende Governance-Gremien beteiligt sind.
OWASP Agentic Top 10
Die OWASP Top 10 für agentische Anwendungen ist eine von Experten geprüfte Liste der zehn kritischsten Sicherheitsrisiken in autonomen KI-Agenten, die am 10. Dezember 2025 vom OWASP Gen AI Security Project veröffentlicht wurde. Die Einträge sind von ASI01 bis ASI10 codiert, angefangen bei der Entführung von Agentenzielen (Agent Goal Hijack) bis hin zu abtrünnigen Agenten (Rogue Agents).
P
Governance für den „Paved Road“-Ansatz
Eine Strategie, die die Compliance fördert, indem sie freigegebene, sichere Workflows so gestaltet, dass sie einfacher zu befolgen sind als nicht autorisierte Alternativen.
Berechtigungsverwaltung
Die Verwaltung von Benutzer- und Systemzugriffsrechten auf KI-Daten und -Funktionen gewährleistet das Prinzip der minimalen Rechtevergabe und verhindert unbefugte Nutzung.
Pilottestung
Ein zeitlich und lokal begrenzter Testlauf eines KI-Systems in einer kontrollierten Umgebung, um Leistung, Risiken und Governance-Kontrollen vor einer umfassenden Implementierung zu bewerten.
Richtlinienumsetzung
Die automatisierten oder manuellen Mechanismen, die sicherstellen, dass der KI-Betrieb mit den Richtlinien der Organisation, regulatorischen Vorgaben und ethischen Leitlinien übereinstimmt.
Überwachung nach der Bereitstellung
Fortlaufende Überwachung des Verhaltens von KI-Systemen und deren Betriebsumgebung nach der Einführung, um Leistungsabfall, Drift oder Compliance-Verstöße frühzeitig zu erkennen.
PRA SS1/23 (Modellrisikomanagement)
Das PRA Supervisory Statement SS1/23 legt die fünf Prinzipien der Bank of England für das Modellrisikomanagement von britischen Banken fest. Es wurde am 17. Mai 2023 veröffentlicht und ist seit dem 17. Mai 2024 wirksam. Die Richtlinie gilt für in Großbritannien registrierte Banken, Bausparkassen und von der PRA benannte Wertpapierfirmen, die über eine Genehmigung für interne Modelle verfügen. Sie erstreckt sich auch auf Modelle für künstliche Intelligenz und maschinelles Lernen, findet jedoch keine Anwendung auf Versicherungsunternehmen.
Konformitätsvermutung
Ein rechtlicher Mechanismus unter dem EU-KI-Gesetz (EU AI Act) und anderen Regelungen, bei dem die Einhaltung eines harmonisierten Standards (z. B. eines veröffentlichten EN-Standards) die widerlegbare Vermutung begründet, dass die zugrunde liegende Verordnung erfüllt ist.
Datenschutz durch Technikgestaltung (Privacy by Design)
Ein Ansatz, bei dem Datenschutz und die Privatsphäre der Nutzer von Anfang an fest in die Architektur und die Prozesse von KI-Systemen integriert werden.
Datenschutz-Folgenabschätzung
Eine strukturierte Analyse zur Identifizierung und Minimierung von Datenschutzrisiken im Zusammenhang mit KI-Systemen, die die Erfassung, Nutzung, Weitergabe und Aufbewahrung von Daten abdeckt.
Probabilistisches System
Ein System, dessen Ergebnisse auf statistischen Wahrscheinlichkeiten basieren und nicht auf einer deterministischen, fest vorgegebenen Logik.
F
Qualitative Bewertung
Die subjektive Überprüfung von Verhaltensweisen, Entscheidungen und Dokumentationen von KI-Systemen durch Experten, um ethische, rechtliche oder reputationsbezogene Bedenken zu identifizieren, die quantitativ nicht erfasst werden können.
Qualitätssicherung
Die systematischen Prozesse und Überprüfungen, die gewährleisten, dass KI-Modelle und Datenpipelines definierte Standards für Genauigkeit, Zuverlässigkeit und ethische Compliance erfüllen.
Qualitätskontrolle
Die kontinuierliche Überprüfung von KI-Ergebnissen und -Prozessen anhand von Benchmarks und Testfällen zur frühzeitigen Erkennung von Fehlern, Verzerrungen (Bias) oder Richtlinienverstößen.
Quantitative Risikoanalyse
Eine datengestützte Bewertung potenzieller KI-Bedrohungen, bei der Wahrscheinlichkeiten und Auswirkungen numerisch geschätzt werden, um Abhilfemaßnahmen effektiv zu priorisieren.
Abfrage-Datenschutz
Techniken und Richtlinien zum Schutz sensibler Informationen in Benutzeranfragen, die sicherstellen, dass protokollierte Eingaben keine personenbezogenen oder proprietären Daten gefährden.
Fragebogen-Framework
Ein strukturierter Katalog von governance-orientierten Fragen, die während des Designs, der Beschaffung oder Bereitstellung genutzt werden, um sicherzustellen, dass KI-Systeme mit den Richtlinienvorgaben übereinstimmen.
Beschlussfähigkeit für das Governance Board
Die Mindestanzahl an Mitgliedern des Governance-Ausschusses, die anwesend sein müssen, um offizielle Beschlüsse über KI-Risiken, Richtlinienfreigaben oder Auditergebnisse zu fassen.
Kontingentverwaltung
Die Kontrollen und Grenzwerte, die für die Nutzung von KI-Ressourcen (z. B. API-Aufrufe, Rechenzeit) festgelegt wurden, um Governance-Richtlinien durchzusetzen und unkontrollierte Kosten oder Missbrauch zu verhindern.
R
Argumentationskette
Der mehrstufige logische Prozess, dem ein KI-Agent folgt, um von einem ursprünglichen Ziel zu einer finalen Aktion oder Ausgabe zu gelangen.
Rückgriffsrecht
Mechanismen, die es betroffenen Personen ermöglichen, KI-gestützte Entscheidungen, welche ihre Rechte oder Interessen beeinträchtigen, anzufechten oder diesbezüglich Rechtsbehelfe einzulegen.
Red Teaming
Ein proaktiver Testansatz, bei dem interne oder externe Experten Angriffe oder Missbrauchsszenarien simulieren, um Schwachstellen in KI-Systemen aufzudecken.
Einhaltung gesetzlicher Vorschriften
Sicherstellung, dass KI-Systeme während ihres gesamten Betriebs die geltenden Gesetze, Vorschriften und Branchenstandards (z. B. DSGVO, FDA, Finanzaufsicht) einhalten.
Zuständigkeitsmatrix
Ein Werkzeug (z. B. RACI), das die Rollen und Verantwortlichkeiten für jede Governance-Aktivität klärt – wer zuständig (Responsible), rechenschaftspflichtig (Accountable), zu konsultieren (Consulted) und zu informieren (Informed) ist.
Verantwortungsvolle KI
Die Praxis, KI-Systeme so zu konzipieren, zu entwickeln und bereitzustellen, dass sie ethisch, transparent und gegenüber Stakeholdern sowie der Gesellschaft verantwortungsvoll sind.
Risikobewertung
Der Prozess der Identifizierung, Analyse und Priorisierung potenzieller Risiken oder Fehlfunktionen in KI-Systemen zur Bestimmung geeigneter Minderungsstrategien.
Risikomanagement-Framework
Ein strukturiertes System von Richtlinien und Prozessen zur systematischen Bewältigung von KI-Risiken über den gesamten Lebenszyklus des Systems hinweg – vom Entwurf bis zur Außerbetriebnahme.
Ursachenanalyse
Eine strukturierte Untersuchung zur Ermittlung der zugrunde liegenden Ursachen für Ausfälle oder unerwartetes Verhalten von KI-Systemen, die als Grundlage für Korrekturmaßnahmen dient.
S
Richtlinie zur zulässigen Nutzung
Definierte Richtlinien und Kontrollen, die autorisierte Kontexte, Benutzer und Verwendungszwecke für den Betrieb von KI-Systemen festlegen, um Missbrauch zu verhindern.
Sicherheit durch Design
Die Integration von Sicherheitskontrollen und Best Practices in KI-Systeme ab den frühesten Designphasen zur Vermeidung von Sicherheitslücken und Datenpannen.
Schatten-Agenten
Nicht autorisierte, autonome KI-Agenten, die ohne das Wissen des Governance-Teams in einer Organisation eingesetzt werden und in der Lage sind, Aktionen durchzuführen, die sich auf Geschäftssysteme und externe Parteien auswirken.
Schatten-KI
Die nicht genehmigte Nutzung von KI-Modellen, Agenten oder Tools durch Mitarbeiter ohne IT-Freigabe, was durch Datenabfluss und unbefugte autonome Aktionen verborgene Sicherheitsrisiken schafft.
Modellrahmen für KI-Governance aus Singapur
Singapurs Model AI Governance Framework ist ein freiwilliger Leitfaden der IMDA für den verantwortungsvollen Einsatz von KI. Es liegt mittlerweile in drei Ausgaben vor: dem ursprünglichen, 2019 erstmals veröffentlichten Framework, einer Ausgabe für generative KI aus dem Jahr 2024 sowie einem Model AI Governance Framework für agentische KI, das am 22. Januar 2026 veröffentlicht wurde.
Südkoreanisches KI-Basisgesetz
Südkoreas umfassender rechtlicher Rahmen für die Entwicklung von und das Vertrauen in KI.
Bewertung der gesellschaftlichen Auswirkungen
Eine strukturierte Bewertung der Auswirkungen eines KI-Systems auf soziale, wirtschaftliche und kulturelle Aspekte von Gemeinschaften, um potenzielle Risiken und Vorteile zu identifizieren.
SR 11-7 (Modellrisikomanagement)
SR 11-7 war die aufsichtsrechtliche Richtlinie der US-Notenbank (Federal Reserve) und des OCC zum Modellrisikomanagement, die am 4. April 2011 herausgegeben wurde. Fünfzehn Jahre lang setzte sie den Maßstab für die Modellvalidierung, Modellinventare und unabhängige Überprüfungen im US-Bankenwesen. Am 17. April 2026 wurde sie durch SR 26-2 ersetzt, eine überarbeitete Richtlinie, die gemeinsam von der Federal Reserve, dem OCC und der FDIC herausgegeben wurde.
SR 26-2 (Überarbeitete Richtlinien zum Modellrisikomanagement)
SR 26-2 ist die überarbeitete US-Aufsichtsrichtlinie zum Modellrisikomanagement, die am 17. April 2026 gemeinsam von der Federal Reserve, dem OCC und der FDIC herausgegeben wurde. Sie ersetzt die Richtlinien SR 11-7 sowie SR 21-8, legt einen risikobasierten Ansatz fest, der auf das spezifische Modellrisikoprofil eines Bankinstituts zugeschnitten ist, und schließt generative sowie agentische KI ausdrücklich aus ihrem Anwendungsbereich aus.
Stakeholder-Engagement
Der Prozess der Einbindung betroffener Akteure (z. B. Endanwender, Regulierungsbehörden, betroffene Gemeinschaften) in die Entwicklung und Überwachung von KI, um vielfältige Perspektiven und eine breite Akzeptanz zu gewährleisten.
Erklärung zur Anwendbarkeit (Statement of Applicability - SoA)
Ein Dokument, das bestimmt, welche Kontrollen des ISO 42001 Anhangs A für das KI-Managementsystem einer Organisation relevant sind, und erläutert, warum andere ausgeschlossen wurden.
Wesentliche Änderung
Eine Änderung an einem KI-System nach dessen Inverkehrbringen, die sich auf seine Konformität oder seinen Verwendungszweck gemäß dem Gesetz über künstliche Intelligenz der EU auswirkt.
Überwachungsrisiko
Die Gefahr, dass KI-Systeme für eine invasive Überwachung von Einzelpersonen oder Gruppen missbraucht werden könnten, was die Privatsphäre und die bürgerlichen Freiheiten verletzt.
Führendes System
Die maßgebliche Datenquelle für ein bestimmtes Datenelement oder eine Information innerhalb einer Organisation.
Schwellenwert für systemisches Risiko
Der technische oder fähigkeitsbasierte Grenzwert (z. B. 10^25 FLOPs), der ein KI-Modell mit allgemeinem Verwendungszweck so klassifiziert, dass es ein hohes Risiko für die Gesellschaft darstellt.
T
Tail-Risk
Das Potenzial für seltene, extreme Ergebnisse im Verhalten oder in der Entscheidungsfindung von KI, die außerhalb der normalen Erwartungen liegen und eine spezielle Risikominderungsplanung erfordern.
Tests & Validierung
Der systematische Prozess der Evaluierung von KI-Modellen anhand von Benchmarks, Grenzfällen und Belastungstests, um sicherzustellen, dass sie die Kriterien für Leistung, Sicherheit und Compliance erfüllen.
Risiko durch Drittanbieter
Das Risiko, welches sich aus der Abhängigkeit von externen Datenanbietern, Modellanbietern oder Serviceplattformen ergibt, die Compliance- oder Sicherheitsrisiken einbringen können.
Schwellenwerteinstellung
Festlegung von Grenzwerten oder Schwellenwerten in KI-Entscheidungsregeln (z. B. Konfidenzwerten), um Risiken wie falsch-positive gegenüber falsch-negativen Ergebnissen abzuwägen.
Trilog
Die informelle dreiseitige Verhandlung zwischen der Europäischen Kommission, dem Rat der Europäischen Union und dem Europäischen Parlament, die dazu dient, eine politische Einigung über die EU-Gesetzgebung vor deren formeller Verabschiedung zu erzielen.
Vertrauenswürdige KI
KI-Systeme, die so konzipiert und betrieben werden, dass sie ethisch, zuverlässig, sicher und im Einklang mit menschlichen Werten und gesellschaftlichen Normen stehen.
Sie
Aktionsplan für KI-Chancen im Vereinigten Königreich
Der strategische Fahrplan der britischen Regierung zur Maximierung der Vorteile von KI bei gleichzeitiger Etablierung gezielter, verbindlicher Sicherheitsregeln.
Governance von Anwendungsfällen
Die Praxis der Definition, Genehmigung und Überwachung spezifischer KI-Anwendungsfälle, um sicherzustellen, dass jeder einzelne mit den Richtlinien, ethischen Standards und der Risikobereitschaft des Unternehmens übereinstimmt.
Einwilligung des Nutzers
Der Prozess der Einholung und Protokollierung der ausdrücklichen Einwilligung von Personen vor der Erfassung, Verarbeitung oder Nutzung ihrer personenbezogenen Daten in KI-Systemen.
V
Abweichungsüberwachung
Überwachung von Schwankungen bei KI-Modellausgaben oder Leistungsmetriken im Zeitverlauf, um Abweichungen zu erkennen und auf potenzielle Leistungsverluste oder Risiken zu schließen.
Lieferanten-Risikomanagement
Die Bewertung und Überwachung von Drittanbietern von KI-Komponenten oder -Diensten, um potenzielle Compliance-, Sicherheits- oder ethische Risiken zu identifizieren und zu minimieren.
Versionsbindung
Die Praxis, ein KI-System auf eine bestimmte, getestete Version eines Foundation-Modells festzulegen, um zu verhindern, dass unangekündigte Updates das Systemverhalten verändern.
Veto-Recht
Das formelle Recht eines Governance-Gremiums oder eines Stakeholders, Bereitstellungen von KI zu blockieren oder Änderungen an diesen zu verlangen, wenn diese unannehmbare Risiken bergen.
Vigilanz-Überwachung
Kontinuierliche Überwachung des Verhaltens von KI-Systemen sowie externer Signale (z. B. regulatorischer Aktualisierungen), um neu auftretende Risiken oder Compliance-Verstöße umgehend zu erkennen und darauf zu reagieren.
KI-gestützte Videoüberwachung
Die spezifischen Governance-Prozesse für Computer-Vision-Systeme, die Datenqualität, Bias-Prüfungen und Transparenz bei bild- und videobasierten Entscheidungsfindungen gewährleisten.
W
Watchdog-Überwachung
Unabhängige Laufzeitprüfungen, die KI-Entscheidungen überwachen und Warnmeldungen oder Interventionen auslösen, wenn Richtlinien oder Schwellenwerte verletzt werden.
Wasserzeichenerstellung
Das Verfahren, nachweisbare, maschinenlesbare Herkunftsmarker in KI-generierte Inhalte wie Bilder, Audio, Video und synthetischen Text einzubetten, damit nachgelagerte Konsumenten und Plattformen diese Inhalte als KI-generiert identifizieren können.
Gewichtsüberprüfung
Untersuchung von Modellgewichten und -strukturen auf Anomalien, Backdoors oder Verzerrungen (Biases), die auf Manipulationen oder unbeabsichtigte Verhaltensweisen hinweisen könnten.
Whitelist-/Blacklist-Richtlinie
Governance-Richtlinie zur Definition zulässiger (Whitelist) und unzulässiger (Blacklist) Eingaben, Funktionen oder Vorgänge, um die Compliance zu gewährleisten und Missbrauch zu verhindern.
Whitelisting
Die ausschließliche Zulassung vorab genehmigter Datenquellen, Bibliotheken oder Modellkomponenten in KI-Pipelines, um Risiken durch ungeprüfte oder schädliche Elemente zu minimieren.
Arbeitslastentrennung
Die Trennung von KI-Rechenumgebungen (z. B. Entwicklung, Test, Produktion) und Datendomänen zur Begrenzung des Schadensradius bei Ausfällen oder Sicherheitsverletzungen.
Worst-Case-Analyse
Bewertung der extremsten potenziellen Fehlerquellen oder Missbrauchsszenarien eines KI-Systems zur fundierten Information einer robusten Risikominderung und Notfallplanung.
WORM-Speicher (Write-Once-Read-Many)
Unveränderlicher Speicher, der sicherstellt, dass Protokolle, Audit-Trails und Modellartefakte nach dem Schreiben nicht mehr geändert werden können, was die Fälschungssicherheit und forensische Überprüfungen unterstützt.
X
Audit der erklärbaren KI (XAI)
Ein Überprüfungsprozess, der bewertet, ob die Ergebnisse zur KI-Erklärbarkeit internen Richtlinien und regulatorischen Anforderungen entsprechen, um eine ausreichende Transparenz zu gewährleisten.
Erklärbare KI (XAI)
Techniken und Methoden, die den Entscheidungsprozess eines KI-Modells für den Menschen transparent und nachvollziehbar machen und so die Rechenschaftspflicht und Compliance unterstützen.
XAI-Framework
Ein strukturierter Ansatz oder ein Framework von Richtlinien, die Organisationen nutzen, um Erklärbarkeitspraktiken in ihren KI-Systemen zu implementieren, zu messen und zu steuern.
XAI-Metriken
Quantitative oder qualitative Kennzahlen (z. B. Feature-Importance-Scores, Erklärungs-Fidelity), die zur Bewertung der Qualität und Zuverlässigkeit von KI-Erklärungen herangezogen werden.
Ja
Jährliche Compliance-Überprüfung
Eine jährliche Überprüfung der KI-Governance-Prozesse, -Richtlinien und -Systeme, um die kontinuierliche Einhaltung von Vorschriften und internen Standards zu gewährleisten.
Z
Null-Toleranz für Fehler
Ein Governance-Prinzip, das darauf abzielt, Fehler oder Richtlinienverstöße in KI-Ergebnissen vollständig zu vermeiden. Unterstützt wird dies durch strenge Tests, kontinuierliche Überwachung und fortlaufende Optimierungszyklen.
Zonenbasierte Zugriffskontrolle
Ein Netzwerk- oder Data-Governance-Ansatz, der Ressourcen in Zonen mit unterschiedlichen Richtlinien unterteilt und den Zugriff auf KI-Systeme entsprechend der Datensensitivität einschränkt.
Alle
Whitepaper
Vorschriften für KI
Podcasts
Produktaktualisierungen
Presseberichterstattung
Glossar
Treten Sie unserem Podcast bei oder arbeiten Sie an Inhalten mit uns zusammen
Kontaktieren Sie uns, und wir werden sehen, was wir gemeinsam produzieren können.
Ein
Richtlinie zur akzeptablen Nutzung (AUP)
Eine Reihe von Richtlinien eines Unternehmens, die festlegen, auf welche Weise Mitarbeiter mit den vom Unternehmen bereitgestellten KI-Tools interagieren dürfen und welche Nutzungsweisen untersagt sind.
Akkreditierte Zertifizierung
Ein Zertifikat, das von einer Zertifizierungsstelle ausgestellt wurde, die von einer nationalen Akkreditierungsstelle (wie der ANAB oder dem UKAS) offiziell als kompetent für die Auditierung nach einem bestimmten Standard anerkannt wurde.
Aktionsvorschau
Eine Governance-Anforderung, nach der ein KI-Agent genau anzeigen muss, welche Auswirkungen eine irreversible Aktion hat, bevor eine Person die endgültige Freigabe erteilt.
Whitelisting von Aktionen
Eine Sicherheits- und Governance-Kontrolle, die festlegt, welche Tools, APIs und Aktionen ein KI-Agent als Einzige ausführen darf.
Adversarieller Angriff
Techniken zur Manipulation von KI-Modellen durch das Einschleusen irreführender Eingabedaten, um fehlerhafte Ergebnisse zu provozieren.
Agent Fabric
Eine integrierte Laufzeitumgebung, die mehrere KI-Agenten hostet, orchestriert und steuert – zusammen mit den Modellen, Tools und Daten, auf die sie angewiesen sind.
Hijacking von Agentenzielen (ASI01)
Eine Schwachstelle, bei der ein Angreifer die Ziele oder Entscheidungspfade eines Agenten manipuliert, um dessen autonomes Verhalten auf unerwünschte Ergebnisse umzulenken.
Agent Mesh
Eine vernetzte Topologie, in der KI-Agenten über eine gemeinsame Infrastrukturebene einander entdecken, miteinander kommunizieren und Aufgaben delegieren.
Agentic KI
Eine Klasse von Systemen der künstlichen Intelligenz, die darauf ausgelegt sind, komplexe Ziele autonom zu verfolgen und mehrstufige Aktionen (wie Softwarebereitstellungen oder Finanztransaktionen) mit minimalem menschlichem Eingreifen auszuführen.
Governance für agentische KI
Agentische KI-Governance bezeichnet die Steuerung von KI-Systemen, die eigenständig planen und agieren, im Gegensatz zu Systemen, die lediglich Vorhersagen treffen oder Inhalte erstellen. Sie definiert, was ein Agent tun darf, setzt Grenzen für dessen Autonomie, regelt die Protokollierung seiner Aktionen und legt fest, wer die Verantwortung trägt, wenn ein Agent fehlerhaft handelt.
Agentenbasierte Richtlinien-Engine
Eine Laufzeit-Softwarekomponente, die Aktionen von Agenten abfängt und diese vor der Ausführung anhand einer Reihe deterministischer Governance-Regeln bewertet.
KI-Verantwortlichkeit
Die Verpflichtung von Entwicklern und Betreibern von KI-Systemen, sicherzustellen, dass ihre Systeme verantwortungsvoll konzipiert und genutzt werden und dabei ethische Standards sowie rechtliche Anforderungen eingehalten werden.
Künstliche Intelligenz-Alignment
Der Prozess, durch den sichergestellt wird, dass die Ziele und Verhaltensweisen von KI-Systemen mit den menschlichen Werten und Absichten übereinstimmen.
KI-Assistent
Ein System für konversationelle KI, das darauf ausgelegt ist, Benutzer bei der Erledigung von Aufgaben durch Interaktion in natürlicher Sprache zu unterstützen – in der Regel gestützt durch ein großes Sprachmodell.
KI-Auditierung
Die systematische Evaluierung von KI-Systemen zur Überprüfung der Einhaltung ethischer Standards, regulatorischer Vorgaben und Leistungskennzahlen.
KI-Voreingenommenheit
Systematische Fehler in KI-Ergebnissen, die durch voreingenommene Trainingsdaten oder fehlerhafte Algorithmen entstehen und zu ungerechten Resultaten führen.
KI-Software-Stückliste (AIBOM)
Eine strukturierte Bestandsliste der Komponenten eines KI-Systems, einschließlich Basismodellen, Trainingsdatenbeständen, Bibliotheken und Abhängigkeiten – das KI-Äquivalent einer Software-Stückliste (Software Bill of Materials, SBOM).
KI-Compliance
Die Einhaltung geltender Gesetze, Vorschriften und ethischer Richtlinien durch KI-Systeme während ihres gesamten Lebenszyklus.
KI-Ethik
Das Fachgebiet, das sich mit den moralischen Implikationen und Verantwortlichkeiten befasst, die mit der Entwicklung und dem Einsatz von KI-Technologien verbunden sind.
KI-Erklärbarkeit
Das Ausmaß, in dem die internen Funktionsweisen eines KI-Systems von Menschen verstanden und interpretiert werden können.
KI-Fußabdruck
Die Gesamtheit aller KI-Systeme, -Modelle, -Agenten und integrierten KI-Funktionen, die zu einem bestimmten Zeitpunkt in einem Unternehmen im Einsatz sind, einschließlich autorisierter Systeme und sogenannter Schatten-IT.
KI-Governance
Das Rahmenwerk aus Richtlinien, Prozessen und Kontrollen, das die ethische und effektive Entwicklung sowie den verantwortungsvollen Einsatz von KI-Systemen leitet.
KI-Governance für Finanzdienstleistungen
KI-Governance für Finanzdienstleistungen beschreibt die Implementierung von Risiko- und Compliance-Kontrollen für künstliche Intelligenz im Rahmen der aufsichtsrechtlichen Vorgaben des Sektors. Die maßgeblichen Vorschriften variieren je nach Rechtsordnung und Unternehmenstyp: SR 26-2 für größere US-Banken, PRA SS1/23 für britische Banken mit Genehmigung für interne Modelle, MAS FEAT in Singapur sowie das EU-KI-Gesetz (EU AI Act) für alle genannten Akteure.
KI-Governance-Software
Spezialisierte Unternehmensexperten-Tools zur Automatisierung der Inventarisierung, Risikobewertung und regulatorischen Compliance von Systemen der künstlichen Intelligenz.
KI-Inventarisierung
Ein umfassender, zentraler Katalog aller im Unternehmen eingesetzten KI-Systeme, -Modelle und -Agenten zur Erfassung ihres geschäftlichen Zwecks, ihres Risikoniveaus und ihrer organisatorischen Zugehörigkeit.
EU-KI-Haftungsrichtlinie
Eine vorgeschlagene EU-Richtlinie, die darauf abzielt, das Verfahren für Kläger zur Geltendmachung von durch KI-Systeme verursachten Schäden zu vereinfachen, indem eine widerlegbare Kausalitätsvermutung eingeführt wird.
KI-Kompetenz
Das Verständnis von KI-Konzepten, -Leistungen und -Grenzen, das eine fundierte Interaktion mit KI-Technologien ermöglicht.
Management-System für Künstliche Intelligenz (AIMS)
Eine Gruppe miteinander in Beziehung stehender oder sich gegenseitig beeinflussender Elemente einer Organisation zur Festlegung von Richtlinien, Zielen und Prozessen für die verantwortungsvolle Entwicklung oder Nutzung von KI.
KI-Monitoring
KI-Monitoring ist die kontinuierliche Überwachung von KI-Systemen im Produktivbetrieb, um Leistungsabfall, Drift, unsicheres Verhalten und Kontrollfehler zu erkennen. Es umfasst die Modellleistung, Eingabe- und Ausgabeverteilungen, Fairness-Metriken, Kosten und Latenz sowie bei agentischen Systemen die vom System ausgeführten Aktionen.
KI-Risiko
Das Potenzial von KI-Systemen, Schäden oder unbeabsichtigte Folgen zu verursachen, einschließlich ethischer, rechtlicher und betrieblicher Risiken.
Risikomanagement für KI
Der Prozess der Identifizierung, Bewertung und Minderung von Risiken im Zusammenhang mit KI-Systemen.
Wildwuchs von KI-Anwendungen
Die unkontrollierte Verbreitung von KI-Systemen innerhalb eines Unternehmens, die in der Regel durch den einfachen Zugang zu KI-Tools und das Fehlen effektiver Erfassungs- und Inventarisierungsprozesse verursacht wird.
Folgenabschätzung für KI-Systeme
Ein formelles Verfahren zur Bewertung der potenziellen Folgen des Einsatzes eines KI-Systems auf Einzelpersonen, Gruppen und die Gesellschaft als Ganzes.
KI-Transparenz
Das Prinzip, demzufolge KI-Systeme Transparenz und Klarheit hinsichtlich ihrer Funktionsweise, Entscheidungen und Datennutzung gewährleisten sollten.
KI-TRiSM
Ein von Gartner geprägtes Akronym, das für AI Trust, Risk, and Security Management steht; ein Framework, das Governance, Vertrauenswürdigkeit und Sicherheit in einer einzigen operativen Strategie vereint.
Gesetz über künstliche Intelligenz und Daten (AIDA)
Kanadas föderaler Regulierungsrahmen (Teil des Gesetzesentwurfs Bill C-27), der darauf abzielt, eine sichere und vorurteilsfreie Entwicklung und Nutzung von KI-Systemen mit hoher Tragweite zu gewährleisten.
Algorithmische Verzerrung
Verzerrung, die entsteht, wenn ein Algorithmus aufgrund fehlerhafter Annahmen im maschinellen Lernprozess systematisch vorurteilbehaftete Ergebnisse liefert.
Algorithmic Governance
Der Einsatz von Algorithmen zur Verwaltung und Regulierung gesellschaftlicher Funktionen, der potenziell Einfluss auf Entscheidungsprozesse nimmt.
Amnestie-Programm
Eine zeitlich begrenzte Governance-Initiative, bei der Mitarbeitende dazu eingeladen werden, die Nutzung nicht genehmigter KI-Tools offenzulegen, ohne disziplinarische Maßnahmen befürchten zu müssen.
Anhang-I-Produkte
Eine Liste von Produkten, die bereits dem EU-Gesundheits- und Sicherheitsrecht unterliegen (z. B. Maschinen, Medizinprodukte) und bei denen KI, die gemäß dem EU-KI-Gesetz integriert ist, automatisch als hochriskant eingestuft wird.
Anhang III-Kategorien
Eine spezifische Liste von hochriskanten KI-Anwendungsbereichen, die im EU-KI-Gesetz definiert sind und zwingende Compliance-Verpflichtungen auslösen.
Analyse des API-Traffics
Der technische Prozess zur Überwachung und Überprüfung von Netzwerkaufrufen an externe KI-Dienstleister.
Ausnahme nach Artikel 6 Absatz 3
Ein Selbstbestimmungsmechanismus unter dem KI-Gesetz der EU, der es Anbietern ermöglicht, ein KI-System des Anhangs III als nicht hochriskant einzustufen, sofern es kein erhebliches Risiko darstellt.
Artikel 25 (EU-Gesetz über künstliche Intelligenz)
Die Bestimmung des EU-KI-Gesetzes zur Schaffung einer direkten Haftungs- und Pflichtenkette zwischen Anbietern und Betreibern von Hochrisiko-KI-Systemen, einschließlich der Übertragung der Verantwortung bei wesentlichen Systemänderungen.
Artikel 50 (EU-Gesetz über künstliche Intelligenz)
Die Bestimmung des EU-KI-Gesetzes, die Transparenzpflichten für KI-Systeme festlegt, die mit Menschen interagieren, synthetische Inhalte generieren oder Deepfakes erzeugen.
Australische Richtlinie für sichere und verantwortungsvolle KI
Die offizielle Richtlinie der australischen Bundesregierung zur Nutzung von KI innerhalb des öffentlichen Dienstes und der Regierungsbehörden.
Automatisierte KI-Governance
Der Einsatz von Software und API-Integrationen zur Durchführung kontinuierlicher Compliance-Prüfungen und Risikoüberwachungen in Echtzeit ohne manuelles Eingreifen.
B
Verzerrungsverstärkung
Das Phänomen, bei dem KI-Systeme bestehende Vorurteile in den Trainingsdaten verstärken, was zu zunehmend verzerrten Ergebnissen führt.
Audit auf algorithmische Verzerrung
Ein Evaluierungsprozess zur Erkennung und Abschwächung von Verzerrungen in KI-Systemen, der Fairness sowie die Einhaltung ethischer Standards gewährleistet.
Erkennung von Voreingenommenheit
Der Prozess der Identifizierung von Verzerrungen in KI-Modellen durch die Analyse ihrer Ergebnisse und Entscheidungsprozesse.
Verzerrungsminimierung
Verfahren, die während der KI-Entwicklung angewendet werden, um Verzerrungen in Modellen und Datensätzen zu reduzieren oder zu eliminieren.
Brasilianisches KI-Gesetz (PL 2338/2023)
Der Gesetzentwurf PL 2338/2023 ist Brasiliens vorgeschlagener Rechtsrahmen für künstliche Intelligenz. Er klassifiziert KI-Systeme nach Risikostufen, gewährt Rechte auf Erklärung sowie menschliche Überprüfung und schafft ein nationales Aufsichtssystem, das von der Datenschutzbehörde koordiniert wird. Der Senat hat den Entwurf im Dezember 2024 angenommen, und da er sich derzeit noch in der Abgeordnetenkammer befindet, ist er noch kein geltendes Recht.
Brüsseler Effekt
Das Phänomen, bei dem EU-Regulierungen durch Marktzugangsanforderungen zum globalen Standard werden, selbst für Unternehmen mit Hauptsitz außerhalb der EU.
C
Kalifornien AB 1008
Eine Änderung des CCPA, die klarstellt, dass personenbezogene Daten auch solche Daten umfassen, die von KI-Systemen generiert oder ausgegeben werden.
Kalifornisches Gesetz AB 3030
Ein kalifornisches Gesetz, das Transparenz vorschreibt, wenn generative KI im Rahmen der Kommunikation mit Patienten im Gesundheitswesen eingesetzt wird.
Kalifornische ADMT-Vorschriften
Vorschriften des California Consumer Privacy Act (CCPA) zur Regulierung von Technologien für automatisierte Entscheidungsfindung (ADMT).
Kalifornische FEHA-Regulierungen zu künstlicher Intelligenz
Staatliche Vorschriften im Rahmen des Fair Employment and Housing Act (FEHA), die auf KI-gestützte Diskriminierung am Arbeitsplatz abzielen.
Kalifornisches Gesetz zur Transparenz von KI (SB 942)
Das kalifornische Gesetz zur KI-Transparenz (California AI Transparency Act, SB 942 in der durch AB 853 geänderten Fassung) verpflichtet Anbieter vielgenutzter generativer KI-Systeme, Herkunftsnachweise in KI-generierte Bild-, Video- und Audioinhalte zu integrieren und ein kostenloses, öffentlich zugängliches Erkennungstool bereitzustellen. Es trat am 2. August 2026 in Kraft und wird durch den Generalstaatsanwalt von Kalifornien durchgesetzt.
Kaskadierender Ausfall (ASI08)
Ein Fehlermodus, bei dem ein Fehler oder eine böswillige Eingabe im Denkprozess eines einzelnen KI-Agenten eine Kettenreaktion von Ausfällen über mehrere verbundene Agenten oder Systeme hinweg auslöst.
CE-Kennzeichnung
Eine obligatorische Konformitätskennzeichnung, die die Übereinstimmung eines KI-Systems mit den Gesundheits-, Sicherheits- und Umweltschutzstandards für Produkte bestätigt, die innerhalb des EWR verkauft werden.
Benachrichtigungsfenster ändern
Ein vertraglich festgelegter Zeitraum, in dem ein Anbieter den Kunden über wesentliche Aktualisierungen eines KI-Modells informieren muss, bevor diese in der Produktivumgebung implementiert werden.
Vorläufige Maßnahmen Chinas zur Regulierung von generativer KI
Regulatorische Anforderungen für generative KI-Dienste, die der chinesischen Öffentlichkeit bereitgestellt werden.
KI-Konvention des Europarats
Der erste rechtlich bindende internationale Vertrag über KI, der sich auf den Schutz von Menschenrechten, Demokratie und Rechtsstaatlichkeit konzentriert.
Colorado AI Act (SB 24-205, außer Kraft getreten 2026)
Das Colorado-KI-Gesetz (SB 24-205), das erste umfassende Gesetz eines US-Bundesstaates zur künstlichen Intelligenz, wurde im Mai 2026 aufgehoben und durch das Gesetz Colorado SB 26-189 ersetzt. Letzteres tritt am 1. Januar 2027 in Kraft und legt einen engeren Fokus auf automatisierte Entscheidungsfindungstechnologien.
Colorado AI Act (SB 26-189)
Das Gesetz Colorado SB 26-189 ist der im Jahr 2026 beschlossene Nachfolger des ursprünglichen Colorado AI Act (SB 24-205). Es tritt am 1. Januar 2027 in Kraft und legt den Schwerpunkt der Verpflichtungen auf automatisierte Entscheidungstechnologien, die wesentliche Entscheidungen mit erheblichen Auswirkungen auf die Bürger von Colorado treffen.
Compliance-Framework
Ein strukturiertes Regelwerk und Best Practices, die Unternehmen befolgen, um sicherzustellen, dass ihre KI-Systeme den regulatorischen und ethischen Standards entsprechen.
Compliance-Risiko
Das Risiko rechtlicher oder regulatorischer Sanktionen, finanzieller Verluste oder Reputationsschäden, denen ein Unternehmen ausgesetzt ist, wenn es Gesetze, Vorschriften oder vorgeschriebene Praktiken nicht einhält.
Konzeptdrift
Die Veränderung der statistischen Eigenschaften der Zielvariable, die das Modell vorherzusagen versucht, im Laufe der Zeit, was zu einer Verschlechterung der Modellleistung führt.
Konformitätsbewertung
Ein Prozess zur Überprüfung, ob ein KI-System bestimmte Anforderungen, Standards oder regulatorische Vorgaben erfüllt, was häufig Tests und Zertifizierungen umfasst.
Interne Kontrolle (Konformitätsbewertung)
Ein Verfahren gemäß dem KI-Gesetz der EU, bei dem ein Anbieter selbst überprüft, dass sein Hochrisiko-KI-System alle regulatorischen Anforderungen erfüllt, ohne dass eine Prüfung durch eine dritte Partei erforderlich ist.
Kontrollierbarkeit
Das Ausmaß, in dem Menschen die Entscheidungen und Verhaltensweisen eines KI-Systems steuern, beeinflussen oder außer Kraft setzen können.
COREPER-Mandat
Das Verhandlungsmandat, das von den Botschaftern der EU-Mitgliedstaaten (Ausschuss der Ständigen Vertreter) der rotierenden Ratspräsidentschaft für die Trilog-Verhandlungen über EU-Rechtsvorschriften erteilt wird.
Kryptografische Agenten-Identität
Ein verifizierbarer digitaler Berechtigungsnachweis (häufig ein dezentraler Identifikator oder DID), der einen KI-Agenten und dessen Autorisierungsstufe eindeutig identifiziert.
D
Daten-Drift
Die Veränderung von Modell-Eingangsdaten im Laufe der Zeit, was zu einer Verschlechterung der Modellleistung führen kann, wenn dies nicht überwacht und behoben wird.
Datenethik
Der Zweig der Ethik, der Datenpraktiken im Hinblick auf die moralischen Verpflichtungen bei der Erfassung, dem Schutz und der Nutzung personenbezogener Daten bewertet.
Daten-Governance
Die umfassende Verwaltung der Datenverfügbarkeit, -nutzbarkeit, -integrität und -sicherheit in einem Unternehmen, die sicherstellt, dass Daten während ihres gesamten Lebenszyklus ordnungsgemäß behandelt werden.
Risiko bei der Datenintegration
Das Risiko, dass vertrauliche oder geschützte Informationen während der Interaktion eines Benutzers dauerhaft in den Trainingsdatensatz eines KI-Modells aufgenommen werden.
Datenlebenszyklus-Management
Die richtlinienbasierte Verwaltung des Datenflusses über dessen gesamten Lebenszyklus hinweg: von der Erstellung und anfänglichen Speicherung bis zu dem Zeitpunkt, an dem die Daten veraltet sind und gelöscht werden.
Datenminimierung
Das Prinzip, nur diejenigen Daten zu erheben, die für einen bestimmten Zweck absolut erforderlich sind, wodurch das Risiko von Missbrauch oder Datenpannen minimiert wird.
Datenschutz
Der Bereich der Informationstechnologie, der sich mit der Kontrolle darüber befasst, welche Daten mit wem geteilt werden, um den angemessenen Umgang mit personenbezogenen Daten zu gewährleisten.
Datenschutz
Der Prozess der Absicherung wichtiger Informationen vor Beschädigung, Kompromittierung oder Verlust, um die Einhaltung von Datenschutzgesetzen und -vorschriften zu gewährleisten.
Datenprovenienz
Eine dokumentierte Historie über den Ursprung, die Eigentumsverhältnisse und den Lebenszyklus eines Datensatzes, der für das Training oder die Feinabstimmung eines KI-Modells verwendet wird.
Datenqualität
Der Zustand von Daten basierend auf Faktoren wie Genauigkeit, Vollständigkeit, Zuverlässigkeit und Relevanz, welcher für die effektive Leistung von KI-Modellen von entscheidender Bedeutung ist.
Datenresidenz
Unter Datenresidenz versteht man die Anforderung, dass Daten in einem bestimmten Land oder einer bestimmten Region gespeichert und verarbeitet werden müssen. In KI-Systemen betrifft dies Trainingsdaten, Prompts, Modellausgaben und Interaktionsprotokolle (Inference Logs). Dies schränkt die Auswahl der Modelle ein, die ein Unternehmen nutzen kann, da das Senden eines Prompts an ein extern gehostetes Modell einen grenzüberschreitenden Datentransfer darstellt.
Datensouveränität
Das Prinzip, demzufolge Daten den Gesetzen und Governance-Strukturen des Landes unterliegen, in dem sie erhoben, gespeichert oder verarbeitet werden.
Betroffene Person
Eine Person, deren personenbezogene Daten erfasst, gespeichert oder verarbeitet werden – von besonderer Relevanz im Kontext von Datenschutzgesetzen wie der DSGVO.
Deidentifizierung
Der Prozess der Entfernung oder Unkenntlichmachung persönlicher Identifikationsmerkmale aus Datensätzen, um die Identifizierung von Einzelpersonen zu erschweren, dient dem Schutz der Privatsphäre.
Deepfake
Synthetische Medien, bei denen eine Person in einem bestehenden Bild oder Video mithilfe von Deep-Learning-Techniken durch das Abbild einer anderen Person ersetzt wird.
Differenzielle Privatsphäre
Ein System zur öffentlichen Bereitstellung von Informationen über einen Datensatz, das Muster von Gruppen innerhalb des Datensatzes beschreibt, während Informationen über einzelne Personen zurückgehalten werden.
EU-Sammelgesetzgebung zur künstlichen Intelligenz
Ein Gesetzgebungspaket für 2025/2026, das darauf ausgelegt ist, technische Standards, Konformitätsbewertungen und Fristen zur Durchsetzung im Rahmen des EU AI Acts und damit verbundener digitaler Sicherheitsgesetze zu straffen und zu harmonisieren.
Diskriminierung
Im Bereich der KI bezieht sich dies auf die ungerechte Behandlung von Personen oder Gruppen aufgrund von Voreingenommenheiten in Daten oder Algorithmen, was zu ungleichen Ergebnissen führt.
Dual-Use-Basismodell
Ein KI-Modell, das auf einer enormen Datenmenge trainiert wurde und über eine hohe Leistungsfähigkeit verfügt, sodass es sowohl für zivile als auch für schädliche oder militärische Zwecke eingesetzt werden könnte.
Dynamische Risikobewertung
Der kontinuierliche Prozess der Identifizierung und Bewertung von Risiken in Echtzeit, der rechtzeitige Reaktionen auf neu entstehende Bedrohungen in KI-Systemen ermöglicht.
E
Edge-Analytik
Die Analyse von Daten direkt am Netzwerkrand (Edge), nahe der Quelle der Datenerzeugung, reduziert Latenzzeiten sowie die benötigte Bandbreite.
Enzai
Eine Governance-Plattform für Unternehmens-KI, die es Organisationen ermöglicht, ihre KI-Systeme zu erfassen, zu bewerten und zu steuern, um eine maximale KI-Einführung bei gleichzeitiger Minimierung von KI-Risiken zu gewährleisten.
Eskalationslogik
Ein Satz vordefinierter Regeln und Auslöser, die einen KI-Agenten dazu zwingen, den autonomen Betrieb einzustellen und die Kontrolle wieder an einen menschlichen Bediener zu übergeben.
Anforderungen der ESMA an die AI/ML-Governance
Die Erwartungen der ESMA bezüglich KI und maschinellem Lernen legen fest, wie EU-Wertpapierfirmen die MiFID-II-Verpflichtungen bei der Nutzung von KI anzuwenden haben. Die Europäische Wertpapier- und Marktaufsichtsbehörde hat im Mai 2024 Leitlinien zu KI bei Wertpapierdienstleistungen für Kleinanleger herausgegeben, gefolgt von einem aufsichtsrechtlichen Briefing zum algorithmischen Handel am 26. Februar 2026, das sich mit KI und deren Zusammenspiel mit dem EU-KI-Gesetz befasst.
Ethische KI
Die Praxis, KI-Systeme so zu konzipieren, zu entwickeln und bereitzustellen, dass sie mit ethischen Grundsätzen und Werten im Einklang stehen und Fairness, Rechenschaftspflicht sowie Transparenz gewährleisten.
Ethisches KI-Auditing
Der Prozess der systematischen Evaluierung von KI-Systemen, um sicherzustellen, dass sie ethischen Standards entsprechen und keinen Schaden anrichten.
Zertifizierung für ethische KI
Eine formelle Anerkennung, dass ein KI-System etablierte ethische Standards und Richtlinien einhält.
Ethische KI-Governance
Das Rahmenwerk aus Richtlinien, Verfahren und Praktiken, das sicherstellt, dass KI-Systeme verantwortungsvoll und ethisch entwickelt und eingesetzt werden.
Ethische Richtlinien
Strukturierte Prinzipien und Richtlinien, die als Orientierung für eine ethische Entwicklung und Bereitstellung von KI-Systemen dienen.
Ethik-Folgenabschätzung
Ein systematischer Evaluierungsprozess zur Identifizierung und Bewältigung der ethischen Implikationen und potenziellen gesellschaftlichen Auswirkungen von KI-Systemen vor deren Bereitstellung.
Ethisches Risiko
Das Potenzial eines KI-Systems, durch unethisches Verhalten Schaden zu verursachen, einschließlich Befangenheit, Diskriminierung oder der Verletzung der Privatsphäre.
Ethikleitlinien für eine vertrauenswürdige KI
Ein Satz von Richtlinien, die von der Hochrangigen Expertengruppe für KI der Europäischen Kommission entwickelt wurden, um vertrauenswürdige KI zu fördern. Der Fokus liegt dabei auf menschlicher Selbstbestimmung, technischer Robustheit, Datenschutz, Transparenz, Diversität, gesellschaftlichem Wohlergehen und Rechenschaftspflicht.
EU-KI-Gesetz
Der weltweit erste umfassende, sektorübergreifende Rechtsrahmen für KI, der ein risikobasiertes Klassifizierungssystem für Systeme etabliert, die innerhalb der Europäischen Union bereitgestellt oder genutzt werden.
Hochrisiko-Kategorien nach dem EU-KI-Gesetz
Die beiden Klassifizierungen von Hochrisiko-KI-Systemen gemäß dem EU-KI-Gesetz: eigenständige Systeme, die in Anhang III aufgeführt sind (umfassend Biometrie, kritische Infrastrukturen, Beschäftigung, Bildung, Strafverfolgung und andere genannte Verwendungszwecke), und in regulierte Produkte eingebettete KI, die in Anhang I aufgeführt sind (umfassend Medizinprodukte, Fahrzeuge, Maschinen und andere regulierte Produktkategorien).
Risikoklassifizierung nach dem EU-KI-Gesetz
Der verpflichtende Prozess zur Einstufung eines KI-Systems in eine von vier Risikoklassen (Unannehmbar, Hoch, Begrenzt, Minimal) gemäß dem KI-Gesetz der EU (EU AI Act).
EU-Büro für KI
Das Gremium der Europäischen Kommission, das zur Überwachung der Umsetzung und Durchsetzung des KI-Gesetzes der EU eingerichtet wurde, insbesondere für KI-Modelle mit allgemeinem Verwendungszweck und systemischem Risiko.
EU-Gesetzgebungspaket für digitale Dienste
Das umfassendere Gesetzgebungs-Vereinfachungspaket 2025–2026 der Europäischen Union, das mehrere digitale Regulierungsvorschriften adressiert, darunter das KI-Gesetz (AI Act), Bestimmungen der DSGVO, das Cyber-Resilienz-Gesetz sowie Änderungen des Datengesetzes (Data Act).
Übermäßige Agenturtätigkeit
Eine Schwachstelle, bei der einem KI-System im Verhältnis zu seiner beabsichtigten Funktion zu viel Autonomie, zu viele Werkzeuge oder überprivilegierte Zugriffsrechte gewährt werden.
Präsidialerlass 14110
Die Richtlinie der Biden-Regierung (unterzeichnet im Oktober 2023, aufgehoben im Januar 2025), die US-amerikanische Standards für KI-Sicherheit, Gefahrenabwehr und Datenschutz etablierte und das U.S. AI Safety Institute beim NIST ins Leben rief.
Erklärbarkeitsmethoden
Methoden zur Interpretation und zum Verständnis der von KI-Modellen getroffenen Entscheidungen, wie beispielsweise LIME, SHAP und Saliency Maps (Aktivitätskarten).
Erklärbarkeit vs. Interpretierbarkeit
Während beide Ansätze darauf abzielen, KI-Entscheidungen nachvollziehbar zu machen, konzentriert sich die Erklärbarkeit (Explainability) auf die Begründung von Entscheidungen, wohingegen sich die Interpretierbarkeit (Interpretability) auf die Transparenz der internen Funktionsweise des Modells bezieht.
Erklärbare KI (XAI)
KI-Systeme, die so konzipiert sind, dass sie nachvollziehbare Begründungen für ihre Entscheidungen und Handlungen liefern, wodurch Transparenz und Vertrauen gestärkt werden.
Erklärbare maschinelle Lernverfahren
Maschinelle Lernmodelle, die so konzipiert sind, dass sie klare und nachvollziehbare Erklärungen für ihre Vorhersagen und Entscheidungen liefern.
F
Fairness-Metriken
Quantitative Kennzahlen (z. B. demografische Parität, ausgeglichene Quoten), die verwendet werden, um zu bewerten, wie fair die Vorhersagen eines KI-Modells über verschiedene Gruppen hinweg sind.
Falsch-Negativ
Wenn ein KI-Modell fälschlicherweise eine negative Klasse für eine Instanz vorhersagt, die tatsächlich positiv ist (Fehler 2. Art).
Falsch-Positiv-Befund
Wenn ein KI-Modell fälschlicherweise eine positive Klasse für eine tatsächlich negative Instanz vorhersagt (Fehler 1. Art).
Fehlertoleranz
Die Fähigkeit eines KI-Systems, auch dann korrekt weiterzufunktionieren, wenn einzelne Komponenten ausfallen oder Fehler verursachen.
Föderierte KI-Governance
Ein Governance-Modell, bei dem zentrale Richtlinien und Aufsicht mit dezentraler Entscheidungsfindung durch Geschäftsbereiche oder Regionalbüros kombiniert werden, um Konsistenz und operative Flexibilität harmonisch miteinander zu verbinden.
Feedback-Schleife
Ein Prozess, bei dem KI-Ergebnisse wieder als Eingaben zurückgeführt werden, was das Modellverhalten verstärken kann – im positiven Sinne (bestärkendes Lernen) oder im negativen Sinne (Verstärkung von Vorurteilen).
FS AI RMF (Risk Management Framework für künstliche Intelligenz im Finanzdienstleistungssektor)
Das Financial Services AI Risk Management Framework (FS AI RMF) ist ein freiwilliges, sektorspezifisches Rahmenwerk, das im Februar 2026 vom US-Finanzministerium zusammen mit dem Cyber Risk Institute veröffentlicht wurde. Es orientiert sich am NIST AI RMF und bietet eine Matrix von 230 Kontrollzielen über den gesamten KI-Lebenszyklus hinweg, die Banken, Kreditgenossenschaften, Versicherer, Investmentgesellschaften und deren Drittanbieter abdeckt.
Funktionale Sicherheit
Sicherstellung, dass KI-Systeme unter allen Bedingungen sicher funktionieren – insbesondere in Branchen wie der Automobilindustrie oder dem Gesundheitswesen –, häufig realisiert durch Redundanz und Kontrollmechanismen.
Grundrechtecharta-Folgenabschätzung (FRIA)
Eine obligatorische Bewertung gemäß dem EU-KI-Gesetz für bestimmte Betreiber, um festzustellen, wie sich der Einsatz eines Hochrisiko-KI-Systems auf die Grundrechte und Menschenrechte auswirken könnte.
G
Gap-Analyse
Der Prozess des Abgleichs aktueller KI-Governance-Praktiken mit gewünschten Standards oder regulatorischen Vorgaben zur Identifizierung von Optimierungsbedarfen.
DSGVO
Die Datenschutz-Grundverordnung der EU, die strenge Anforderungen an die Erhebung und Verarbeitung personenbezogener Daten sowie an die Rechte des Einzelnen festlegt.
Ziel-Abweichung
Ein Phänomen, bei dem sich die internen Unterziele oder Argumentationspfade eines KI-Agenten schrittweise von den ursprünglich durch den Menschen vorgegebenen Zielen entfernen.
Aufsichtsgremium
Eine funktionsübergreifende Gruppe (z. B. aus den Bereichen Recht, Ethik, Technik), die mit der Überwachung von KI-Governance-Richtlinien und deren Umsetzung innerhalb einer Organisation betraut ist.
Governance-Framework
Ein strukturiertes Modell, das aufzeigt, wie die verschiedenen Komponenten der KI-Governance (Risikomanagement, Rechenschaftspflicht, Aufsicht) ineinandergreifen, um Compliance und eine ethische Nutzung zu gewährleisten.
Governance-Reifegradmodell
Ein Governance-Reifegradmodell ist eine stufenweise Skala zur Bewertung, wie weit die KI-Governance einer Organisation entwickelt ist. Sie reicht in der Regel von Ad-hoc-Praktiken bis hin zu messbaren und kontinuierlich verbesserten Prozessen. Es dient dazu, eine Ausgangsposition zu bestimmen, ein realistisches Ziel festzulegen und Investitionen zu priorisieren, nicht jedoch zur Zertifizierung der Compliance.
Governance-Richtlinie
Ein formelles Dokument, das Regeln, Rollen und Verfahren für die KI-Entwicklung und -Aufsicht innerhalb einer Organisation festlegt.
Governance-Scorecard
Ein Dashboard oder eine Scorecard zur Verfolgung von Kennzahlen (z. B. Befangenheitsvorfälle, Compliance-Audits), um die Effektivität der KI-Governance im Zeitverlauf zu messen.
GPAI-Verhaltenskodex
Das detaillierte Regulierungsinstrument, das spezifische Verpflichtungen zur Transparenz, Sicherheitsprüfung und Risikominderung für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck (GPAI) gemäß dem EU-KI-Gesetz festlegt.
GPAI-Modell
Ein vielseitig einsetzbares Modell der künstlichen Intelligenz, das in der Lage ist, ein breites Spektrum an unterschiedlichen Aufgaben zu erfüllen und sich nahtlos in verschiedene Anwendungen zu integrieren.
Granulare Einwilligung
Ein Ansatz zum Datenschutz, der es Einzelpersonen ermöglicht, spezifische Berechtigungen für jede Art der Datennutzung zu erteilen oder zu verweigern, wodurch Transparenz und Kontrolle verbessert werden.
Leitplanken
Vordefinierte (technische und richtlinienbasierte) Einschränkungen oder Prüfungen, die in KI-Systeme integriert sind, um unsicheres oder nicht-konformes Verhalten zur Laufzeit zu verhindern.
Leitlinie (Ethische KI)
Eine unverbindliche Empfehlung oder ein Best-Practice-Dokument, das von Organisationen (z. B. IEEE, EU) herausgegeben wird, um eine verantwortungsvolle Entwicklung und Bereitstellung von KI zu gestalten.
H
Halluzination
Wenn generative KI fehlerhafte oder erfundene Informationen erzeugt, die plausibel erscheinen, jedoch keinerlei Grundlage in den Trainingsdaten haben.
Schadensbewertung
Die Bewertung potenzieller negativer Auswirkungen (physischer, psychologischer und gesellschaftlicher Art) von KI-Systemen sowie die Definition von Minimierungsstrategien.
Harmonisierung
Harmonisierung von KI-Richtlinien, Standards und Vorschriften über verschiedene Rechtsräume hinweg, um Konflikte zu minimieren und Interoperabilität zu gewährleisten.
Harmonisierte Struktur
Ein standardisiertes Template für alle ISO-Managementsystemnormen, ehemals bekannt als Annex SL, das eine einheitliche Terminologie und Klauselnummerierung gewährleistet.
Heuristische Evaluation
Eine Methode der Usability-Evaluierung, bei der Experten ein KI-System anhand etablierter Usability-Prinzipien bewerten, um potenzielle Schwachstellen zu identifizieren.
Hochrisiko-KI-System
KI-Anwendungen, die ein erhebliches Potenzial zur Gefährdung der Gesundheit, Sicherheit oder der Grundrechte von Personen aufweisen und somit die strengsten Compliance-Anforderungen unter dem EU-KI-Gesetz auslösen.
Hochrisiko-KI
KI-Anwendungen, deren Fehlfunktionen erheblichen Schaden verursachen könnten (z. B. in der medizinischen Diagnostik oder bei autonomen Fahrzeugen) und die daher einer verstärkten Governance und Aufsicht bedürfen.
Human-in-the-Loop
Die Einbindung menschlichen Urteilsvermögens in KI-Prozesse (Training, Validierung, Überprüfung von Entscheidungen), um die Genauigkeit und Verantwortlichkeit zu verbessern.
Menschliche Aufsicht
Mechanismen, die es autorisierten Personen ermöglichen, Entscheidungen von KI-Systemen zu überwachen, einzugreifen oder diese außer Kraft zu setzen, um die Einhaltung ethischer und rechtlicher Standards zu gewährleisten.
Menschenrechts-Folgenabschätzung
Ein Verfahren zur Bewertung der Auswirkungen von KI-Systemen auf Grundrechte (wie Privatsphäre, freie Meinungsäußerung und Nichtdiskriminierung) sowie zur Identifizierung geeigneter Maßnahmen zur Risikominderung.
Ich
Folgenabschätzung
Eine strukturierte Bewertung zur Identifizierung, Analyse und Abschwächung potenzieller ethischer, rechtlicher und gesellschaftlicher Auswirkungen eines KI-Systems vor dessen Bereitstellung.
Durchführungsrechtsakte
Sekundärrecht der EU, das von der Europäischen Kommission erlassen wird, um einheitliche Bedingungen für die Umsetzung von Primärrecht festzulegen, und das in allen Mitgliedstaaten rechtsverbindlich ist.
Anreizabstimmung
Die Gestaltung von Anreizstrukturen und Zielsetzungen, um sicherzustellen, dass die Ziele von KI-Systemen stets im Einklang mit menschlichen Werten und organisatorischen Prioritäten stehen.
Induktiver Bias
Die Annahmen, die ein Lernalgorithmus nutzt, um von beobachteten Daten auf unbekannte Instanzen zu verallgemeinern.
Information Governance
Die Richtlinien, Verfahren und Kontrollen, die die Datenqualität, den Datenschutz und die Nutzbarkeit der Datenbestände eines Unternehmens gewährleisten, einschließlich der Trainingsdatenätze für künstliche Intelligenz.
Informationsdatenschutz
Das Recht von Einzelpersonen zu kontrollieren, wie ihre personenbezogenen Daten durch KI-Systeme erfasst, verwendet, gespeichert und weitergegeben werden.
Vererbtes Datenrisiko
Das regulatorische und ethische Haftungsrisiko, das ein Unternehmen eingeht, wenn es ein KI-System einsetzt, das mit Daten trainiert wurde, die das Unternehmen nicht selbst erfasst oder geprüft hat.
Eingangs-Workflow
Der standardisierte Prozess und die Reihe von Prüfungen, die ein neues KI-System durchlaufen muss, bevor es entwickelt oder beschafft werden kann.
Intent-Validierung
Der Prozess der Verifizierung, dass die geplanten Teilschritte eines KI-Agenten konsistent mit dem ursprünglich vom Menschen vorgegebenen Ziel übereinstimmen.
Interoperabilität
Die Fähigkeit unterschiedlicher KI-Systeme und -Komponenten, Informationen nahtlos auszutauschen, zu verstehen und zu nutzen – häufig über offene Standards oder APIs.
Interpretierbarkeit
Das Ausmaß, in dem ein Mensch die internen Mechanismen oder die Entscheidungslogik eines KI-Modells verstehen kann.
ISO/IEC 42001
Der internationale Standard, der Anforderungen für die Einführung, Umsetzung, Aufrechterhaltung und kontinuierliche Verbesserung eines Managementsystems für Künstliche Intelligenz (AIMS) festlegt.
ISO/IEC 42005
Der internationale Standard, der Leitlinien für die Durchführung von Folgenabschätzungen für KI-Systeme bereitstellt.
ISO/IEC JTC 1/SC 42
Das gemeinsame ISO/IEC-Komitee für die Standardisierung im Bereich der künstlichen Intelligenz entwickelt internationale KI-Standards für Governance, Risikomanagement und Interoperabilität.
J
Jailbreak-Angriff
Eine Form des Prompt-Injection-Angriffs, bei der Benutzer Schwachstellen ausnutzen, um Sicherheitsvorkehrungen in generativen KI-Modellen zu umgehen, was potenziell zu unsicheren oder unbefugten Ergebnissen führen kann.
Japanisches Gesetz zur Förderung von KI
Ein japanisches Gesetz (beschlossen 2025), das grundlegende Prinzipien zur Förderung von KI und zur Risikominderung festlegt.
Gesamtschuldnerische Haftung
Rechtsprinzip, nach dem mehrere Parteien (z. B. Entwickler, Bereitsteller) die gemeinsame Verantwortung für KI-bedingte Schäden tragen, was Einfluss auf Vertrags- und Governance-Strukturen hat.
Gemeinsame Modellierung
Entwicklung von KI-Systemen, die mehrere Aufgaben gemeinsam erlernen (z. B. Spracherkennung und Übersetzung), wobei Governance für Komplexität und Auditierbarkeit erforderlich ist.
Gerichtsstand
Die rechtliche Verfügungsgewalt über Daten, KI-Prozesse und Haftung, welche sich je nach Region unterscheidet und direkte Auswirkungen auf die Einhaltung regionaler Vorschriften (z. B. DSGVO, CCPA) hat.
K
Leistungskennzahl
Eine quantifizierbare Metrik (z. B. Abweichung der Modellgenauigkeit, Zeitspanne zur Behebung von Verzerrungen), die zur Überwachung und Berichterstattung von KI-Governance- und Compliance-Zielen verwendet wird.
Wichtiger Risikoindikator
Ein Frühindikator (z. B. die Häufigkeit von Vorhersagen außerhalb des definierten Rahmens oder die Rate nicht nachvollziehbarer Entscheidungen), der aufkommende KI-Risiken signalisiert, bevor diese eintreten.
Wissensmanagement
Praktiken und Werkzeuge zur Erfassung, Strukturierung und gemeinsamen Nutzung von organisatorischem Wissen (z. B. Modelldokumentation, Audit-Protokolle), um Reproduzierbarkeit und Compliance-Aufsicht zu gewährleisten.
L
Minimale Agenturabhängigkeit
Ein Sicherheits- und Governance-Prinzip, das besagt, dass KI-Agenten nur das Mindestmaß an Autonomie und Werkzeugzugriffen gewährt werden sollte, das zur Erfüllung einer bestimmten Aufgabe erforderlich ist.
Minimalprinzip
Ein Sicherheitsprinzip, bei dem KI-Komponenten und Benutzern nur die minimal erforderlichen Zugriffsrechte gewährt werden, die zur Erfüllung ihrer Aufgaben notwendig sind, um das Risiko eines Missbrauchs zu minimieren.
Rechtliche Compliance
Die Praxis, die sicherstellt, dass KI-Systeme während ihres gesamten Lebenszyklus den geltenden Gesetzen, Vorschriften und Industriestandards entsprechen.
Haftungsrahmen
Ein strukturierter Ansatz zur Festlegung der Verantwortlichkeiten bei KI-bezogenen Schäden oder Fehlfunktionen, der Entwickler, Bereitsteller und Betreiber gleichermaßen einbezieht.
Lebenszyklusmanagement
Die koordinierten Prozesse für die Entwicklung, Bereitstellung, Überwachung, Wartung und Außerbetriebnahme von KI-Systemen, um eine kontinuierliche Compliance und Risikokontrolle zu gewährleisten.
Lokalisierung
Die Anpassung von KI-Systemen an lokale Sprachen, Vorschriften, kulturelle Normen und Anforderungen an die Datenresidenz in verschiedenen Rechtsordnungen.
M
Marktüberwachungsbehörde
Die nationale Regulierungsbehörde in jedem EU-Mitgliedstaat, die für die Überwachung von KI-Systemen zuständig ist, um deren Konformität mit dem Gesetz über künstliche Intelligenz der EU (EU AI Act) sicherzustellen.
MAS-FEAT-Prinzipien
Die MAS FEAT-Prinzipien sind vier Grundsätze zu Fairness, Ethik, Rechenschaftspflicht und Transparenz (Fairness, Ethics, Accountability and Transparency). Sie wurden am 12. November 2018 von der Monetary Authority of Singapore veröffentlicht, um den verantwortungsvollen Einsatz von künstlicher Intelligenz und Datenanalysen im Finanzsektor Singapurs zu fördern. Dabei handelt es sich um unverbindliche Leitlinien, nicht um durchsetzbare Vorschriften, die durch die Veritas-Bewertungsmethodik unterstützt werden.
Sinnvolle menschliche Kontrolle
Ein regulatorischer und betrieblicher Standard, der sicherstellt, dass der Mensch die Fähigkeit behält, KI-Entscheidungsprozesse zu überwachen, einzugreifen und diese außer Kraft zu setzen.
Metadaten-Management
Die Erfassung und Pflege deskriptiver Daten (z. B. Datenherkunft, Feature-Definitionen, Modellparameter) zur Unterstützung der Rückverfolgbarkeit und von Audits.
Kenn za hl en & KP Is
Quantitative Kennzahlen (z. B. Abweichungen bei der Genauigkeit, Fairness-Scores, Reaktionszeiten bei Vorfällen), die zur Überwachung des Systemzustands, des Risikos und der Compliance-Ziele von KI-Systemen herangezogen werden.
Bundesgesetz Mexikos über KI und Algorithmen
Ein Entwurf für ein mexikanisches Bundesgesetz über KI und Algorithmen, der ein risikobasiertes Klassifizierungssystem, die Nationale KI-Kommission (CONAIA) sowie Anforderungen zur Kennzeichnung von KI-generierten Inhalten durch Wasserzeichen vorschlägt.
Minderungsstrategien
Geplante Maßnahmen (z. B. Behebung von Verzerrungen, erneutes Training, Feature-Re-Engineering) zur Bewältigung identifizierter KI-Risiken und Compliance-Lücken.
Minnesota CDPA (KI-Bestimmungen)
Die KI-spezifischen Komponenten des Minnesota Consumer Data Privacy Act.
Modellkarte
Ein kurzes, standardisiertes Dokument, das wesentliche Informationen über die Leistung, Einschränkungen und beabsichtigten Anwendungsfälle eines Machine-Learning-Modells liefert.
Modell-Disgorgement
Eine behördliche Auflage, die ein Unternehmen dazu verpflichtet, KI-Modelle oder -Algorithmen zu löschen, die unter Verwendung von unrechtmäßig oder unbefugt erlangten Daten entwickelt wurden.
Modellabweichung
Der allmähliche Verlust der Vorhersagegenauigkeit eines KI-Modells im Laufe der Zeit, verursacht durch Veränderungen der realen Datenstrukturen oder der Betriebsumgebung.
Erklärbarkeit von Modellen
Techniken und Dokumentationen, die die Entscheidungslogik eines KI-Modells für Stakeholder und Auditoren verständlich und nachvollziehbar machen.
Modell-Governance
Die Richtlinien, Rollen und Kontrollmechanismen, die gewährleisten, dass KI-Modelle in Übereinstimmung mit den organisatorischen Standards und regulatorischen Anforderungen entwickelt, genehmigt und eingesetzt werden.
Modellüberwachung
Kontinuierliche Überwachung der Leistung eines KI-Modells, von Daten-Drifts sowie betrieblichen Kennzahlen, um Leistungsabfall oder neu entstehende Risiken frühzeitig zu erkennen.
Modell-Retraining
Der Prozess der Aktualisierung eines KI-Modells mit neuen oder aktualisierten Daten, um die Leistung und Compliance bei sich verändernden Datenverteilungen aufrechtzuerhalten.
Modellrisikomanagement
Das Modellrisikomanagement bezeichnet die Disziplin der Identifizierung, Messung und Kontrolle des Risikos, dass ein Modell fehlerhafte Ergebnisse liefert oder missbräuchlich verwendet wird. Im US-Bankenwesen wird dieses durch die Richtlinie SR 26-2 geregelt, die am 17. April 2026 gemeinsam von der Federal Reserve, dem OCC und der FDIC herausgegeben wurde. Diese ersetzt SR 11-7 und schließt generative sowie agentische KI ausdrücklich aus ihrem Anwendungsbereich aus.
Modellvalidierung
Die Evaluierungsaktivitäten (z. B. Tests mit zurückgehaltenen Daten, Belastungsszenarien), die bestätigen, dass ein KI-Modell seinen beabsichtigten Zweck und seine Leistungskriterien erfüllt.
Einbindung aller relevanten Stakeholder
Einbindung diverser Interessengruppen (z. B. Rechts-, Ethik- und Betriebsabteilungen sowie Endnutzer) in KI-Governance-Prozesse, um eine ausgewogene Risikoüberwachung und die Ausrichtung auf die Geschäftsziele zu gewährleisten.
N
NIST KI-Risikomanagement-Rahmenwerk
Ein freiwilliger Leitfaden des U.S. National Institute of Standards and Technology, der bewährte Verfahren zur Risikominderung über den gesamten Lebenszyklus von KI-Systemen hinweg beschreibt.
NIST AI RMF-Profile
NIST AI RMF-Profile sind maßgeschneiderte Implementierungen des NIST AI Risk Management Frameworks. NIST definiert drei Typen: Use-Case-Profile für spezifische Anwendungen, branchenübergreifende Profile, die industrieübergreifend Anwendung finden, sowie zeitliche Profile, die den aktuellen (Current) und angestrebten (Target) Zustand einer Organisation beschreiben. Das erste branchenübergreifende Profil, das Generative AI Profile (NIST AI 600-1), wurde im Juli 2024 veröffentlicht.
Nicht-menschliche Identität (NHI)
Ein digitaler Identitätsnachweis, der von einem KI-Agenten, Bot oder Service verwendet wird, um sich bei Unternehmenssystemen zu authentifizieren und mit diesen zu interagieren.
Benannte Stelle
Eine unabhängige Drittorganisation, die von einem EU-Mitgliedstaat benannt wird, um die Konformität bestimmter Hochrisiko-KI-Systeme gemäß dem EU-KI-Gesetz zu bewerten.
NYC Local Law 144
Ein Gesetz der Stadt New York, das jährliche Audits zur Überprüfung auf Diskriminierung bei KI-Tools vorschreibt, die für Personalentscheidungen eingesetzt werden.
O
Observability
Die Fähigkeit, den internen Zustand und das Verhalten eines KI-Systems durch die Erfassung und Analyse von Protokollen, Metriken und Ausgaben abzuleiten, um eine effektive Überwachung und Fehlerbehebung zu gewährleisten.
OMB-Memorandum M-25-21
Das OMB-Memorandum M-25-21 („Accelerating Federal Use of AI through Innovation, Governance, and Public Trust“) weist US-Bundesbehörden an, einen Chief AI Officer zu ernennen, ein Inventar der KI-Anwendungsfälle zu veröffentlichen und Mindeststandards für das Risikomanagement bei „hochgradig einflussreicher KI“ (high-impact AI) anzuwenden. Es wurde im April 2025 erlassen, ersetzte das Memorandum M-24-10 und wird durch das Memorandum M-25-22 zur KI-Beschaffung ergänzt.
Fortlaufende Überwachung
Kontinuierliche Überwachung der Leistung von KI-Systemen, von Daten-Drift, Bias-Metriken und Sicherheitsereignissen, um neu entstehende Risiken frühzeitig zu erkennen und proaktiv zu adressieren.
Operative Autonomie
Die Fähigkeit eines KI-Systems, mehrstufige Aufgaben auszuführen und Entscheidungen zu treffen, ohne dass in jeder Phase ein menschliches Eingreifen erforderlich ist.
Betriebliche Resilienz
Die Fähigkeit von KI-Systemen und deren unterstützender Infrastruktur, Störungen oder unerwünschten Ereignissen vorzubeugen, diesen standzuhalten, sich von ihnen zu erholen und sich an sie anzupassen.
Output-Risiko
Das betriebliche, rechtliche und reputationsbezogene Risiko, das sich aus der Verwendung fehlerhafter, voreingenommener oder schädlicher Inhalte ergibt, die von einem KI-System generiert wurden.
Aufsicht
Der strukturierte Prozess der Überprüfung, Genehmigung und Rechenschaftspflicht für die KI-Entwicklung und -Bereitstellung, an dem in der Regel funktionsübergreifende Governance-Gremien beteiligt sind.
OWASP Agentic Top 10
Die OWASP Top 10 für agentische Anwendungen ist eine von Experten geprüfte Liste der zehn kritischsten Sicherheitsrisiken in autonomen KI-Agenten, die am 10. Dezember 2025 vom OWASP Gen AI Security Project veröffentlicht wurde. Die Einträge sind von ASI01 bis ASI10 codiert, angefangen bei der Entführung von Agentenzielen (Agent Goal Hijack) bis hin zu abtrünnigen Agenten (Rogue Agents).
P
Governance für den „Paved Road“-Ansatz
Eine Strategie, die die Compliance fördert, indem sie freigegebene, sichere Workflows so gestaltet, dass sie einfacher zu befolgen sind als nicht autorisierte Alternativen.
Berechtigungsverwaltung
Die Verwaltung von Benutzer- und Systemzugriffsrechten auf KI-Daten und -Funktionen gewährleistet das Prinzip der minimalen Rechtevergabe und verhindert unbefugte Nutzung.
Pilottestung
Ein zeitlich und lokal begrenzter Testlauf eines KI-Systems in einer kontrollierten Umgebung, um Leistung, Risiken und Governance-Kontrollen vor einer umfassenden Implementierung zu bewerten.
Richtlinienumsetzung
Die automatisierten oder manuellen Mechanismen, die sicherstellen, dass der KI-Betrieb mit den Richtlinien der Organisation, regulatorischen Vorgaben und ethischen Leitlinien übereinstimmt.
Überwachung nach der Bereitstellung
Fortlaufende Überwachung des Verhaltens von KI-Systemen und deren Betriebsumgebung nach der Einführung, um Leistungsabfall, Drift oder Compliance-Verstöße frühzeitig zu erkennen.
PRA SS1/23 (Modellrisikomanagement)
Das PRA Supervisory Statement SS1/23 legt die fünf Prinzipien der Bank of England für das Modellrisikomanagement von britischen Banken fest. Es wurde am 17. Mai 2023 veröffentlicht und ist seit dem 17. Mai 2024 wirksam. Die Richtlinie gilt für in Großbritannien registrierte Banken, Bausparkassen und von der PRA benannte Wertpapierfirmen, die über eine Genehmigung für interne Modelle verfügen. Sie erstreckt sich auch auf Modelle für künstliche Intelligenz und maschinelles Lernen, findet jedoch keine Anwendung auf Versicherungsunternehmen.
Konformitätsvermutung
Ein rechtlicher Mechanismus unter dem EU-KI-Gesetz (EU AI Act) und anderen Regelungen, bei dem die Einhaltung eines harmonisierten Standards (z. B. eines veröffentlichten EN-Standards) die widerlegbare Vermutung begründet, dass die zugrunde liegende Verordnung erfüllt ist.
Datenschutz durch Technikgestaltung (Privacy by Design)
Ein Ansatz, bei dem Datenschutz und die Privatsphäre der Nutzer von Anfang an fest in die Architektur und die Prozesse von KI-Systemen integriert werden.
Datenschutz-Folgenabschätzung
Eine strukturierte Analyse zur Identifizierung und Minimierung von Datenschutzrisiken im Zusammenhang mit KI-Systemen, die die Erfassung, Nutzung, Weitergabe und Aufbewahrung von Daten abdeckt.
Probabilistisches System
Ein System, dessen Ergebnisse auf statistischen Wahrscheinlichkeiten basieren und nicht auf einer deterministischen, fest vorgegebenen Logik.
F
Qualitative Bewertung
Die subjektive Überprüfung von Verhaltensweisen, Entscheidungen und Dokumentationen von KI-Systemen durch Experten, um ethische, rechtliche oder reputationsbezogene Bedenken zu identifizieren, die quantitativ nicht erfasst werden können.
Qualitätssicherung
Die systematischen Prozesse und Überprüfungen, die gewährleisten, dass KI-Modelle und Datenpipelines definierte Standards für Genauigkeit, Zuverlässigkeit und ethische Compliance erfüllen.
Qualitätskontrolle
Die kontinuierliche Überprüfung von KI-Ergebnissen und -Prozessen anhand von Benchmarks und Testfällen zur frühzeitigen Erkennung von Fehlern, Verzerrungen (Bias) oder Richtlinienverstößen.
Quantitative Risikoanalyse
Eine datengestützte Bewertung potenzieller KI-Bedrohungen, bei der Wahrscheinlichkeiten und Auswirkungen numerisch geschätzt werden, um Abhilfemaßnahmen effektiv zu priorisieren.
Abfrage-Datenschutz
Techniken und Richtlinien zum Schutz sensibler Informationen in Benutzeranfragen, die sicherstellen, dass protokollierte Eingaben keine personenbezogenen oder proprietären Daten gefährden.
Fragebogen-Framework
Ein strukturierter Katalog von governance-orientierten Fragen, die während des Designs, der Beschaffung oder Bereitstellung genutzt werden, um sicherzustellen, dass KI-Systeme mit den Richtlinienvorgaben übereinstimmen.
Beschlussfähigkeit für das Governance Board
Die Mindestanzahl an Mitgliedern des Governance-Ausschusses, die anwesend sein müssen, um offizielle Beschlüsse über KI-Risiken, Richtlinienfreigaben oder Auditergebnisse zu fassen.
Kontingentverwaltung
Die Kontrollen und Grenzwerte, die für die Nutzung von KI-Ressourcen (z. B. API-Aufrufe, Rechenzeit) festgelegt wurden, um Governance-Richtlinien durchzusetzen und unkontrollierte Kosten oder Missbrauch zu verhindern.
R
Argumentationskette
Der mehrstufige logische Prozess, dem ein KI-Agent folgt, um von einem ursprünglichen Ziel zu einer finalen Aktion oder Ausgabe zu gelangen.
Rückgriffsrecht
Mechanismen, die es betroffenen Personen ermöglichen, KI-gestützte Entscheidungen, welche ihre Rechte oder Interessen beeinträchtigen, anzufechten oder diesbezüglich Rechtsbehelfe einzulegen.
Red Teaming
Ein proaktiver Testansatz, bei dem interne oder externe Experten Angriffe oder Missbrauchsszenarien simulieren, um Schwachstellen in KI-Systemen aufzudecken.
Einhaltung gesetzlicher Vorschriften
Sicherstellung, dass KI-Systeme während ihres gesamten Betriebs die geltenden Gesetze, Vorschriften und Branchenstandards (z. B. DSGVO, FDA, Finanzaufsicht) einhalten.
Zuständigkeitsmatrix
Ein Werkzeug (z. B. RACI), das die Rollen und Verantwortlichkeiten für jede Governance-Aktivität klärt – wer zuständig (Responsible), rechenschaftspflichtig (Accountable), zu konsultieren (Consulted) und zu informieren (Informed) ist.
Verantwortungsvolle KI
Die Praxis, KI-Systeme so zu konzipieren, zu entwickeln und bereitzustellen, dass sie ethisch, transparent und gegenüber Stakeholdern sowie der Gesellschaft verantwortungsvoll sind.
Risikobewertung
Der Prozess der Identifizierung, Analyse und Priorisierung potenzieller Risiken oder Fehlfunktionen in KI-Systemen zur Bestimmung geeigneter Minderungsstrategien.
Risikomanagement-Framework
Ein strukturiertes System von Richtlinien und Prozessen zur systematischen Bewältigung von KI-Risiken über den gesamten Lebenszyklus des Systems hinweg – vom Entwurf bis zur Außerbetriebnahme.
Ursachenanalyse
Eine strukturierte Untersuchung zur Ermittlung der zugrunde liegenden Ursachen für Ausfälle oder unerwartetes Verhalten von KI-Systemen, die als Grundlage für Korrekturmaßnahmen dient.
S
Richtlinie zur zulässigen Nutzung
Definierte Richtlinien und Kontrollen, die autorisierte Kontexte, Benutzer und Verwendungszwecke für den Betrieb von KI-Systemen festlegen, um Missbrauch zu verhindern.
Sicherheit durch Design
Die Integration von Sicherheitskontrollen und Best Practices in KI-Systeme ab den frühesten Designphasen zur Vermeidung von Sicherheitslücken und Datenpannen.
Schatten-Agenten
Nicht autorisierte, autonome KI-Agenten, die ohne das Wissen des Governance-Teams in einer Organisation eingesetzt werden und in der Lage sind, Aktionen durchzuführen, die sich auf Geschäftssysteme und externe Parteien auswirken.
Schatten-KI
Die nicht genehmigte Nutzung von KI-Modellen, Agenten oder Tools durch Mitarbeiter ohne IT-Freigabe, was durch Datenabfluss und unbefugte autonome Aktionen verborgene Sicherheitsrisiken schafft.
Modellrahmen für KI-Governance aus Singapur
Singapurs Model AI Governance Framework ist ein freiwilliger Leitfaden der IMDA für den verantwortungsvollen Einsatz von KI. Es liegt mittlerweile in drei Ausgaben vor: dem ursprünglichen, 2019 erstmals veröffentlichten Framework, einer Ausgabe für generative KI aus dem Jahr 2024 sowie einem Model AI Governance Framework für agentische KI, das am 22. Januar 2026 veröffentlicht wurde.
Südkoreanisches KI-Basisgesetz
Südkoreas umfassender rechtlicher Rahmen für die Entwicklung von und das Vertrauen in KI.
Bewertung der gesellschaftlichen Auswirkungen
Eine strukturierte Bewertung der Auswirkungen eines KI-Systems auf soziale, wirtschaftliche und kulturelle Aspekte von Gemeinschaften, um potenzielle Risiken und Vorteile zu identifizieren.
SR 11-7 (Modellrisikomanagement)
SR 11-7 war die aufsichtsrechtliche Richtlinie der US-Notenbank (Federal Reserve) und des OCC zum Modellrisikomanagement, die am 4. April 2011 herausgegeben wurde. Fünfzehn Jahre lang setzte sie den Maßstab für die Modellvalidierung, Modellinventare und unabhängige Überprüfungen im US-Bankenwesen. Am 17. April 2026 wurde sie durch SR 26-2 ersetzt, eine überarbeitete Richtlinie, die gemeinsam von der Federal Reserve, dem OCC und der FDIC herausgegeben wurde.
SR 26-2 (Überarbeitete Richtlinien zum Modellrisikomanagement)
SR 26-2 ist die überarbeitete US-Aufsichtsrichtlinie zum Modellrisikomanagement, die am 17. April 2026 gemeinsam von der Federal Reserve, dem OCC und der FDIC herausgegeben wurde. Sie ersetzt die Richtlinien SR 11-7 sowie SR 21-8, legt einen risikobasierten Ansatz fest, der auf das spezifische Modellrisikoprofil eines Bankinstituts zugeschnitten ist, und schließt generative sowie agentische KI ausdrücklich aus ihrem Anwendungsbereich aus.
Stakeholder-Engagement
Der Prozess der Einbindung betroffener Akteure (z. B. Endanwender, Regulierungsbehörden, betroffene Gemeinschaften) in die Entwicklung und Überwachung von KI, um vielfältige Perspektiven und eine breite Akzeptanz zu gewährleisten.
Erklärung zur Anwendbarkeit (Statement of Applicability - SoA)
Ein Dokument, das bestimmt, welche Kontrollen des ISO 42001 Anhangs A für das KI-Managementsystem einer Organisation relevant sind, und erläutert, warum andere ausgeschlossen wurden.
Wesentliche Änderung
Eine Änderung an einem KI-System nach dessen Inverkehrbringen, die sich auf seine Konformität oder seinen Verwendungszweck gemäß dem Gesetz über künstliche Intelligenz der EU auswirkt.
Überwachungsrisiko
Die Gefahr, dass KI-Systeme für eine invasive Überwachung von Einzelpersonen oder Gruppen missbraucht werden könnten, was die Privatsphäre und die bürgerlichen Freiheiten verletzt.
Führendes System
Die maßgebliche Datenquelle für ein bestimmtes Datenelement oder eine Information innerhalb einer Organisation.
Schwellenwert für systemisches Risiko
Der technische oder fähigkeitsbasierte Grenzwert (z. B. 10^25 FLOPs), der ein KI-Modell mit allgemeinem Verwendungszweck so klassifiziert, dass es ein hohes Risiko für die Gesellschaft darstellt.
T
Tail-Risk
Das Potenzial für seltene, extreme Ergebnisse im Verhalten oder in der Entscheidungsfindung von KI, die außerhalb der normalen Erwartungen liegen und eine spezielle Risikominderungsplanung erfordern.
Tests & Validierung
Der systematische Prozess der Evaluierung von KI-Modellen anhand von Benchmarks, Grenzfällen und Belastungstests, um sicherzustellen, dass sie die Kriterien für Leistung, Sicherheit und Compliance erfüllen.
Risiko durch Drittanbieter
Das Risiko, welches sich aus der Abhängigkeit von externen Datenanbietern, Modellanbietern oder Serviceplattformen ergibt, die Compliance- oder Sicherheitsrisiken einbringen können.
Schwellenwerteinstellung
Festlegung von Grenzwerten oder Schwellenwerten in KI-Entscheidungsregeln (z. B. Konfidenzwerten), um Risiken wie falsch-positive gegenüber falsch-negativen Ergebnissen abzuwägen.
Trilog
Die informelle dreiseitige Verhandlung zwischen der Europäischen Kommission, dem Rat der Europäischen Union und dem Europäischen Parlament, die dazu dient, eine politische Einigung über die EU-Gesetzgebung vor deren formeller Verabschiedung zu erzielen.
Vertrauenswürdige KI
KI-Systeme, die so konzipiert und betrieben werden, dass sie ethisch, zuverlässig, sicher und im Einklang mit menschlichen Werten und gesellschaftlichen Normen stehen.
Sie
Aktionsplan für KI-Chancen im Vereinigten Königreich
Der strategische Fahrplan der britischen Regierung zur Maximierung der Vorteile von KI bei gleichzeitiger Etablierung gezielter, verbindlicher Sicherheitsregeln.
Governance von Anwendungsfällen
Die Praxis der Definition, Genehmigung und Überwachung spezifischer KI-Anwendungsfälle, um sicherzustellen, dass jeder einzelne mit den Richtlinien, ethischen Standards und der Risikobereitschaft des Unternehmens übereinstimmt.
Einwilligung des Nutzers
Der Prozess der Einholung und Protokollierung der ausdrücklichen Einwilligung von Personen vor der Erfassung, Verarbeitung oder Nutzung ihrer personenbezogenen Daten in KI-Systemen.
V
Abweichungsüberwachung
Überwachung von Schwankungen bei KI-Modellausgaben oder Leistungsmetriken im Zeitverlauf, um Abweichungen zu erkennen und auf potenzielle Leistungsverluste oder Risiken zu schließen.
Lieferanten-Risikomanagement
Die Bewertung und Überwachung von Drittanbietern von KI-Komponenten oder -Diensten, um potenzielle Compliance-, Sicherheits- oder ethische Risiken zu identifizieren und zu minimieren.
Versionsbindung
Die Praxis, ein KI-System auf eine bestimmte, getestete Version eines Foundation-Modells festzulegen, um zu verhindern, dass unangekündigte Updates das Systemverhalten verändern.
Veto-Recht
Das formelle Recht eines Governance-Gremiums oder eines Stakeholders, Bereitstellungen von KI zu blockieren oder Änderungen an diesen zu verlangen, wenn diese unannehmbare Risiken bergen.
Vigilanz-Überwachung
Kontinuierliche Überwachung des Verhaltens von KI-Systemen sowie externer Signale (z. B. regulatorischer Aktualisierungen), um neu auftretende Risiken oder Compliance-Verstöße umgehend zu erkennen und darauf zu reagieren.
KI-gestützte Videoüberwachung
Die spezifischen Governance-Prozesse für Computer-Vision-Systeme, die Datenqualität, Bias-Prüfungen und Transparenz bei bild- und videobasierten Entscheidungsfindungen gewährleisten.
W
Watchdog-Überwachung
Unabhängige Laufzeitprüfungen, die KI-Entscheidungen überwachen und Warnmeldungen oder Interventionen auslösen, wenn Richtlinien oder Schwellenwerte verletzt werden.
Wasserzeichenerstellung
Das Verfahren, nachweisbare, maschinenlesbare Herkunftsmarker in KI-generierte Inhalte wie Bilder, Audio, Video und synthetischen Text einzubetten, damit nachgelagerte Konsumenten und Plattformen diese Inhalte als KI-generiert identifizieren können.
Gewichtsüberprüfung
Untersuchung von Modellgewichten und -strukturen auf Anomalien, Backdoors oder Verzerrungen (Biases), die auf Manipulationen oder unbeabsichtigte Verhaltensweisen hinweisen könnten.
Whitelist-/Blacklist-Richtlinie
Governance-Richtlinie zur Definition zulässiger (Whitelist) und unzulässiger (Blacklist) Eingaben, Funktionen oder Vorgänge, um die Compliance zu gewährleisten und Missbrauch zu verhindern.
Whitelisting
Die ausschließliche Zulassung vorab genehmigter Datenquellen, Bibliotheken oder Modellkomponenten in KI-Pipelines, um Risiken durch ungeprüfte oder schädliche Elemente zu minimieren.
Arbeitslastentrennung
Die Trennung von KI-Rechenumgebungen (z. B. Entwicklung, Test, Produktion) und Datendomänen zur Begrenzung des Schadensradius bei Ausfällen oder Sicherheitsverletzungen.
Worst-Case-Analyse
Bewertung der extremsten potenziellen Fehlerquellen oder Missbrauchsszenarien eines KI-Systems zur fundierten Information einer robusten Risikominderung und Notfallplanung.
WORM-Speicher (Write-Once-Read-Many)
Unveränderlicher Speicher, der sicherstellt, dass Protokolle, Audit-Trails und Modellartefakte nach dem Schreiben nicht mehr geändert werden können, was die Fälschungssicherheit und forensische Überprüfungen unterstützt.
X
Audit der erklärbaren KI (XAI)
Ein Überprüfungsprozess, der bewertet, ob die Ergebnisse zur KI-Erklärbarkeit internen Richtlinien und regulatorischen Anforderungen entsprechen, um eine ausreichende Transparenz zu gewährleisten.
Erklärbare KI (XAI)
Techniken und Methoden, die den Entscheidungsprozess eines KI-Modells für den Menschen transparent und nachvollziehbar machen und so die Rechenschaftspflicht und Compliance unterstützen.
XAI-Framework
Ein strukturierter Ansatz oder ein Framework von Richtlinien, die Organisationen nutzen, um Erklärbarkeitspraktiken in ihren KI-Systemen zu implementieren, zu messen und zu steuern.
XAI-Metriken
Quantitative oder qualitative Kennzahlen (z. B. Feature-Importance-Scores, Erklärungs-Fidelity), die zur Bewertung der Qualität und Zuverlässigkeit von KI-Erklärungen herangezogen werden.
Ja
Jährliche Compliance-Überprüfung
Eine jährliche Überprüfung der KI-Governance-Prozesse, -Richtlinien und -Systeme, um die kontinuierliche Einhaltung von Vorschriften und internen Standards zu gewährleisten.
Z
Null-Toleranz für Fehler
Ein Governance-Prinzip, das darauf abzielt, Fehler oder Richtlinienverstöße in KI-Ergebnissen vollständig zu vermeiden. Unterstützt wird dies durch strenge Tests, kontinuierliche Überwachung und fortlaufende Optimierungszyklen.
Zonenbasierte Zugriffskontrolle
Ein Netzwerk- oder Data-Governance-Ansatz, der Ressourcen in Zonen mit unterschiedlichen Richtlinien unterteilt und den Zugriff auf KI-Systeme entsprechend der Datensensitivität einschränkt.
Whitepaper
Alle
Vorschriften für KI
Podcasts
Produktaktualisierungen
Presseberichterstattung
Glossar
Ein
Richtlinie zur akzeptablen Nutzung (AUP)
Eine Reihe von Richtlinien eines Unternehmens, die festlegen, auf welche Weise Mitarbeiter mit den vom Unternehmen bereitgestellten KI-Tools interagieren dürfen und welche Nutzungsweisen untersagt sind.
Akkreditierte Zertifizierung
Ein Zertifikat, das von einer Zertifizierungsstelle ausgestellt wurde, die von einer nationalen Akkreditierungsstelle (wie der ANAB oder dem UKAS) offiziell als kompetent für die Auditierung nach einem bestimmten Standard anerkannt wurde.
Aktionsvorschau
Eine Governance-Anforderung, nach der ein KI-Agent genau anzeigen muss, welche Auswirkungen eine irreversible Aktion hat, bevor eine Person die endgültige Freigabe erteilt.
Whitelisting von Aktionen
Eine Sicherheits- und Governance-Kontrolle, die festlegt, welche Tools, APIs und Aktionen ein KI-Agent als Einzige ausführen darf.
Adversarieller Angriff
Techniken zur Manipulation von KI-Modellen durch das Einschleusen irreführender Eingabedaten, um fehlerhafte Ergebnisse zu provozieren.
Agent Fabric
Eine integrierte Laufzeitumgebung, die mehrere KI-Agenten hostet, orchestriert und steuert – zusammen mit den Modellen, Tools und Daten, auf die sie angewiesen sind.
Hijacking von Agentenzielen (ASI01)
Eine Schwachstelle, bei der ein Angreifer die Ziele oder Entscheidungspfade eines Agenten manipuliert, um dessen autonomes Verhalten auf unerwünschte Ergebnisse umzulenken.
Agent Mesh
Eine vernetzte Topologie, in der KI-Agenten über eine gemeinsame Infrastrukturebene einander entdecken, miteinander kommunizieren und Aufgaben delegieren.
Agentic KI
Eine Klasse von Systemen der künstlichen Intelligenz, die darauf ausgelegt sind, komplexe Ziele autonom zu verfolgen und mehrstufige Aktionen (wie Softwarebereitstellungen oder Finanztransaktionen) mit minimalem menschlichem Eingreifen auszuführen.
Governance für agentische KI
Agentische KI-Governance bezeichnet die Steuerung von KI-Systemen, die eigenständig planen und agieren, im Gegensatz zu Systemen, die lediglich Vorhersagen treffen oder Inhalte erstellen. Sie definiert, was ein Agent tun darf, setzt Grenzen für dessen Autonomie, regelt die Protokollierung seiner Aktionen und legt fest, wer die Verantwortung trägt, wenn ein Agent fehlerhaft handelt.
Agentenbasierte Richtlinien-Engine
Eine Laufzeit-Softwarekomponente, die Aktionen von Agenten abfängt und diese vor der Ausführung anhand einer Reihe deterministischer Governance-Regeln bewertet.
KI-Verantwortlichkeit
Die Verpflichtung von Entwicklern und Betreibern von KI-Systemen, sicherzustellen, dass ihre Systeme verantwortungsvoll konzipiert und genutzt werden und dabei ethische Standards sowie rechtliche Anforderungen eingehalten werden.
Künstliche Intelligenz-Alignment
Der Prozess, durch den sichergestellt wird, dass die Ziele und Verhaltensweisen von KI-Systemen mit den menschlichen Werten und Absichten übereinstimmen.
KI-Assistent
Ein System für konversationelle KI, das darauf ausgelegt ist, Benutzer bei der Erledigung von Aufgaben durch Interaktion in natürlicher Sprache zu unterstützen – in der Regel gestützt durch ein großes Sprachmodell.
KI-Auditierung
Die systematische Evaluierung von KI-Systemen zur Überprüfung der Einhaltung ethischer Standards, regulatorischer Vorgaben und Leistungskennzahlen.
KI-Voreingenommenheit
Systematische Fehler in KI-Ergebnissen, die durch voreingenommene Trainingsdaten oder fehlerhafte Algorithmen entstehen und zu ungerechten Resultaten führen.
KI-Software-Stückliste (AIBOM)
Eine strukturierte Bestandsliste der Komponenten eines KI-Systems, einschließlich Basismodellen, Trainingsdatenbeständen, Bibliotheken und Abhängigkeiten – das KI-Äquivalent einer Software-Stückliste (Software Bill of Materials, SBOM).
KI-Compliance
Die Einhaltung geltender Gesetze, Vorschriften und ethischer Richtlinien durch KI-Systeme während ihres gesamten Lebenszyklus.
KI-Ethik
Das Fachgebiet, das sich mit den moralischen Implikationen und Verantwortlichkeiten befasst, die mit der Entwicklung und dem Einsatz von KI-Technologien verbunden sind.
KI-Erklärbarkeit
Das Ausmaß, in dem die internen Funktionsweisen eines KI-Systems von Menschen verstanden und interpretiert werden können.
KI-Fußabdruck
Die Gesamtheit aller KI-Systeme, -Modelle, -Agenten und integrierten KI-Funktionen, die zu einem bestimmten Zeitpunkt in einem Unternehmen im Einsatz sind, einschließlich autorisierter Systeme und sogenannter Schatten-IT.
KI-Governance
Das Rahmenwerk aus Richtlinien, Prozessen und Kontrollen, das die ethische und effektive Entwicklung sowie den verantwortungsvollen Einsatz von KI-Systemen leitet.
KI-Governance für Finanzdienstleistungen
KI-Governance für Finanzdienstleistungen beschreibt die Implementierung von Risiko- und Compliance-Kontrollen für künstliche Intelligenz im Rahmen der aufsichtsrechtlichen Vorgaben des Sektors. Die maßgeblichen Vorschriften variieren je nach Rechtsordnung und Unternehmenstyp: SR 26-2 für größere US-Banken, PRA SS1/23 für britische Banken mit Genehmigung für interne Modelle, MAS FEAT in Singapur sowie das EU-KI-Gesetz (EU AI Act) für alle genannten Akteure.
KI-Governance-Software
Spezialisierte Unternehmensexperten-Tools zur Automatisierung der Inventarisierung, Risikobewertung und regulatorischen Compliance von Systemen der künstlichen Intelligenz.
KI-Inventarisierung
Ein umfassender, zentraler Katalog aller im Unternehmen eingesetzten KI-Systeme, -Modelle und -Agenten zur Erfassung ihres geschäftlichen Zwecks, ihres Risikoniveaus und ihrer organisatorischen Zugehörigkeit.
EU-KI-Haftungsrichtlinie
Eine vorgeschlagene EU-Richtlinie, die darauf abzielt, das Verfahren für Kläger zur Geltendmachung von durch KI-Systeme verursachten Schäden zu vereinfachen, indem eine widerlegbare Kausalitätsvermutung eingeführt wird.
KI-Kompetenz
Das Verständnis von KI-Konzepten, -Leistungen und -Grenzen, das eine fundierte Interaktion mit KI-Technologien ermöglicht.
Management-System für Künstliche Intelligenz (AIMS)
Eine Gruppe miteinander in Beziehung stehender oder sich gegenseitig beeinflussender Elemente einer Organisation zur Festlegung von Richtlinien, Zielen und Prozessen für die verantwortungsvolle Entwicklung oder Nutzung von KI.
KI-Monitoring
KI-Monitoring ist die kontinuierliche Überwachung von KI-Systemen im Produktivbetrieb, um Leistungsabfall, Drift, unsicheres Verhalten und Kontrollfehler zu erkennen. Es umfasst die Modellleistung, Eingabe- und Ausgabeverteilungen, Fairness-Metriken, Kosten und Latenz sowie bei agentischen Systemen die vom System ausgeführten Aktionen.
KI-Risiko
Das Potenzial von KI-Systemen, Schäden oder unbeabsichtigte Folgen zu verursachen, einschließlich ethischer, rechtlicher und betrieblicher Risiken.
Risikomanagement für KI
Der Prozess der Identifizierung, Bewertung und Minderung von Risiken im Zusammenhang mit KI-Systemen.
Wildwuchs von KI-Anwendungen
Die unkontrollierte Verbreitung von KI-Systemen innerhalb eines Unternehmens, die in der Regel durch den einfachen Zugang zu KI-Tools und das Fehlen effektiver Erfassungs- und Inventarisierungsprozesse verursacht wird.
Folgenabschätzung für KI-Systeme
Ein formelles Verfahren zur Bewertung der potenziellen Folgen des Einsatzes eines KI-Systems auf Einzelpersonen, Gruppen und die Gesellschaft als Ganzes.
KI-Transparenz
Das Prinzip, demzufolge KI-Systeme Transparenz und Klarheit hinsichtlich ihrer Funktionsweise, Entscheidungen und Datennutzung gewährleisten sollten.
KI-TRiSM
Ein von Gartner geprägtes Akronym, das für AI Trust, Risk, and Security Management steht; ein Framework, das Governance, Vertrauenswürdigkeit und Sicherheit in einer einzigen operativen Strategie vereint.
Gesetz über künstliche Intelligenz und Daten (AIDA)
Kanadas föderaler Regulierungsrahmen (Teil des Gesetzesentwurfs Bill C-27), der darauf abzielt, eine sichere und vorurteilsfreie Entwicklung und Nutzung von KI-Systemen mit hoher Tragweite zu gewährleisten.
Algorithmische Verzerrung
Verzerrung, die entsteht, wenn ein Algorithmus aufgrund fehlerhafter Annahmen im maschinellen Lernprozess systematisch vorurteilbehaftete Ergebnisse liefert.
Algorithmic Governance
Der Einsatz von Algorithmen zur Verwaltung und Regulierung gesellschaftlicher Funktionen, der potenziell Einfluss auf Entscheidungsprozesse nimmt.
Amnestie-Programm
Eine zeitlich begrenzte Governance-Initiative, bei der Mitarbeitende dazu eingeladen werden, die Nutzung nicht genehmigter KI-Tools offenzulegen, ohne disziplinarische Maßnahmen befürchten zu müssen.
Anhang-I-Produkte
Eine Liste von Produkten, die bereits dem EU-Gesundheits- und Sicherheitsrecht unterliegen (z. B. Maschinen, Medizinprodukte) und bei denen KI, die gemäß dem EU-KI-Gesetz integriert ist, automatisch als hochriskant eingestuft wird.
Anhang III-Kategorien
Eine spezifische Liste von hochriskanten KI-Anwendungsbereichen, die im EU-KI-Gesetz definiert sind und zwingende Compliance-Verpflichtungen auslösen.
Analyse des API-Traffics
Der technische Prozess zur Überwachung und Überprüfung von Netzwerkaufrufen an externe KI-Dienstleister.
Ausnahme nach Artikel 6 Absatz 3
Ein Selbstbestimmungsmechanismus unter dem KI-Gesetz der EU, der es Anbietern ermöglicht, ein KI-System des Anhangs III als nicht hochriskant einzustufen, sofern es kein erhebliches Risiko darstellt.
Artikel 25 (EU-Gesetz über künstliche Intelligenz)
Die Bestimmung des EU-KI-Gesetzes zur Schaffung einer direkten Haftungs- und Pflichtenkette zwischen Anbietern und Betreibern von Hochrisiko-KI-Systemen, einschließlich der Übertragung der Verantwortung bei wesentlichen Systemänderungen.
Artikel 50 (EU-Gesetz über künstliche Intelligenz)
Die Bestimmung des EU-KI-Gesetzes, die Transparenzpflichten für KI-Systeme festlegt, die mit Menschen interagieren, synthetische Inhalte generieren oder Deepfakes erzeugen.
Australische Richtlinie für sichere und verantwortungsvolle KI
Die offizielle Richtlinie der australischen Bundesregierung zur Nutzung von KI innerhalb des öffentlichen Dienstes und der Regierungsbehörden.
Automatisierte KI-Governance
Der Einsatz von Software und API-Integrationen zur Durchführung kontinuierlicher Compliance-Prüfungen und Risikoüberwachungen in Echtzeit ohne manuelles Eingreifen.
B
Verzerrungsverstärkung
Das Phänomen, bei dem KI-Systeme bestehende Vorurteile in den Trainingsdaten verstärken, was zu zunehmend verzerrten Ergebnissen führt.
Audit auf algorithmische Verzerrung
Ein Evaluierungsprozess zur Erkennung und Abschwächung von Verzerrungen in KI-Systemen, der Fairness sowie die Einhaltung ethischer Standards gewährleistet.
Erkennung von Voreingenommenheit
Der Prozess der Identifizierung von Verzerrungen in KI-Modellen durch die Analyse ihrer Ergebnisse und Entscheidungsprozesse.
Verzerrungsminimierung
Verfahren, die während der KI-Entwicklung angewendet werden, um Verzerrungen in Modellen und Datensätzen zu reduzieren oder zu eliminieren.
Brasilianisches KI-Gesetz (PL 2338/2023)
Der Gesetzentwurf PL 2338/2023 ist Brasiliens vorgeschlagener Rechtsrahmen für künstliche Intelligenz. Er klassifiziert KI-Systeme nach Risikostufen, gewährt Rechte auf Erklärung sowie menschliche Überprüfung und schafft ein nationales Aufsichtssystem, das von der Datenschutzbehörde koordiniert wird. Der Senat hat den Entwurf im Dezember 2024 angenommen, und da er sich derzeit noch in der Abgeordnetenkammer befindet, ist er noch kein geltendes Recht.
Brüsseler Effekt
Das Phänomen, bei dem EU-Regulierungen durch Marktzugangsanforderungen zum globalen Standard werden, selbst für Unternehmen mit Hauptsitz außerhalb der EU.
C
Kalifornien AB 1008
Eine Änderung des CCPA, die klarstellt, dass personenbezogene Daten auch solche Daten umfassen, die von KI-Systemen generiert oder ausgegeben werden.
Kalifornisches Gesetz AB 3030
Ein kalifornisches Gesetz, das Transparenz vorschreibt, wenn generative KI im Rahmen der Kommunikation mit Patienten im Gesundheitswesen eingesetzt wird.
Kalifornische ADMT-Vorschriften
Vorschriften des California Consumer Privacy Act (CCPA) zur Regulierung von Technologien für automatisierte Entscheidungsfindung (ADMT).
Kalifornische FEHA-Regulierungen zu künstlicher Intelligenz
Staatliche Vorschriften im Rahmen des Fair Employment and Housing Act (FEHA), die auf KI-gestützte Diskriminierung am Arbeitsplatz abzielen.
Kalifornisches Gesetz zur Transparenz von KI (SB 942)
Das kalifornische Gesetz zur KI-Transparenz (California AI Transparency Act, SB 942 in der durch AB 853 geänderten Fassung) verpflichtet Anbieter vielgenutzter generativer KI-Systeme, Herkunftsnachweise in KI-generierte Bild-, Video- und Audioinhalte zu integrieren und ein kostenloses, öffentlich zugängliches Erkennungstool bereitzustellen. Es trat am 2. August 2026 in Kraft und wird durch den Generalstaatsanwalt von Kalifornien durchgesetzt.
Kaskadierender Ausfall (ASI08)
Ein Fehlermodus, bei dem ein Fehler oder eine böswillige Eingabe im Denkprozess eines einzelnen KI-Agenten eine Kettenreaktion von Ausfällen über mehrere verbundene Agenten oder Systeme hinweg auslöst.
CE-Kennzeichnung
Eine obligatorische Konformitätskennzeichnung, die die Übereinstimmung eines KI-Systems mit den Gesundheits-, Sicherheits- und Umweltschutzstandards für Produkte bestätigt, die innerhalb des EWR verkauft werden.
Benachrichtigungsfenster ändern
Ein vertraglich festgelegter Zeitraum, in dem ein Anbieter den Kunden über wesentliche Aktualisierungen eines KI-Modells informieren muss, bevor diese in der Produktivumgebung implementiert werden.
Vorläufige Maßnahmen Chinas zur Regulierung von generativer KI
Regulatorische Anforderungen für generative KI-Dienste, die der chinesischen Öffentlichkeit bereitgestellt werden.
KI-Konvention des Europarats
Der erste rechtlich bindende internationale Vertrag über KI, der sich auf den Schutz von Menschenrechten, Demokratie und Rechtsstaatlichkeit konzentriert.
Colorado AI Act (SB 24-205, außer Kraft getreten 2026)
Das Colorado-KI-Gesetz (SB 24-205), das erste umfassende Gesetz eines US-Bundesstaates zur künstlichen Intelligenz, wurde im Mai 2026 aufgehoben und durch das Gesetz Colorado SB 26-189 ersetzt. Letzteres tritt am 1. Januar 2027 in Kraft und legt einen engeren Fokus auf automatisierte Entscheidungsfindungstechnologien.
Colorado AI Act (SB 26-189)
Das Gesetz Colorado SB 26-189 ist der im Jahr 2026 beschlossene Nachfolger des ursprünglichen Colorado AI Act (SB 24-205). Es tritt am 1. Januar 2027 in Kraft und legt den Schwerpunkt der Verpflichtungen auf automatisierte Entscheidungstechnologien, die wesentliche Entscheidungen mit erheblichen Auswirkungen auf die Bürger von Colorado treffen.
Compliance-Framework
Ein strukturiertes Regelwerk und Best Practices, die Unternehmen befolgen, um sicherzustellen, dass ihre KI-Systeme den regulatorischen und ethischen Standards entsprechen.
Compliance-Risiko
Das Risiko rechtlicher oder regulatorischer Sanktionen, finanzieller Verluste oder Reputationsschäden, denen ein Unternehmen ausgesetzt ist, wenn es Gesetze, Vorschriften oder vorgeschriebene Praktiken nicht einhält.
Konzeptdrift
Die Veränderung der statistischen Eigenschaften der Zielvariable, die das Modell vorherzusagen versucht, im Laufe der Zeit, was zu einer Verschlechterung der Modellleistung führt.
Konformitätsbewertung
Ein Prozess zur Überprüfung, ob ein KI-System bestimmte Anforderungen, Standards oder regulatorische Vorgaben erfüllt, was häufig Tests und Zertifizierungen umfasst.
Interne Kontrolle (Konformitätsbewertung)
Ein Verfahren gemäß dem KI-Gesetz der EU, bei dem ein Anbieter selbst überprüft, dass sein Hochrisiko-KI-System alle regulatorischen Anforderungen erfüllt, ohne dass eine Prüfung durch eine dritte Partei erforderlich ist.
Kontrollierbarkeit
Das Ausmaß, in dem Menschen die Entscheidungen und Verhaltensweisen eines KI-Systems steuern, beeinflussen oder außer Kraft setzen können.
COREPER-Mandat
Das Verhandlungsmandat, das von den Botschaftern der EU-Mitgliedstaaten (Ausschuss der Ständigen Vertreter) der rotierenden Ratspräsidentschaft für die Trilog-Verhandlungen über EU-Rechtsvorschriften erteilt wird.
Kryptografische Agenten-Identität
Ein verifizierbarer digitaler Berechtigungsnachweis (häufig ein dezentraler Identifikator oder DID), der einen KI-Agenten und dessen Autorisierungsstufe eindeutig identifiziert.
D
Daten-Drift
Die Veränderung von Modell-Eingangsdaten im Laufe der Zeit, was zu einer Verschlechterung der Modellleistung führen kann, wenn dies nicht überwacht und behoben wird.
Datenethik
Der Zweig der Ethik, der Datenpraktiken im Hinblick auf die moralischen Verpflichtungen bei der Erfassung, dem Schutz und der Nutzung personenbezogener Daten bewertet.
Daten-Governance
Die umfassende Verwaltung der Datenverfügbarkeit, -nutzbarkeit, -integrität und -sicherheit in einem Unternehmen, die sicherstellt, dass Daten während ihres gesamten Lebenszyklus ordnungsgemäß behandelt werden.
Risiko bei der Datenintegration
Das Risiko, dass vertrauliche oder geschützte Informationen während der Interaktion eines Benutzers dauerhaft in den Trainingsdatensatz eines KI-Modells aufgenommen werden.
Datenlebenszyklus-Management
Die richtlinienbasierte Verwaltung des Datenflusses über dessen gesamten Lebenszyklus hinweg: von der Erstellung und anfänglichen Speicherung bis zu dem Zeitpunkt, an dem die Daten veraltet sind und gelöscht werden.
Datenminimierung
Das Prinzip, nur diejenigen Daten zu erheben, die für einen bestimmten Zweck absolut erforderlich sind, wodurch das Risiko von Missbrauch oder Datenpannen minimiert wird.
Datenschutz
Der Bereich der Informationstechnologie, der sich mit der Kontrolle darüber befasst, welche Daten mit wem geteilt werden, um den angemessenen Umgang mit personenbezogenen Daten zu gewährleisten.
Datenschutz
Der Prozess der Absicherung wichtiger Informationen vor Beschädigung, Kompromittierung oder Verlust, um die Einhaltung von Datenschutzgesetzen und -vorschriften zu gewährleisten.
Datenprovenienz
Eine dokumentierte Historie über den Ursprung, die Eigentumsverhältnisse und den Lebenszyklus eines Datensatzes, der für das Training oder die Feinabstimmung eines KI-Modells verwendet wird.
Datenqualität
Der Zustand von Daten basierend auf Faktoren wie Genauigkeit, Vollständigkeit, Zuverlässigkeit und Relevanz, welcher für die effektive Leistung von KI-Modellen von entscheidender Bedeutung ist.
Datenresidenz
Unter Datenresidenz versteht man die Anforderung, dass Daten in einem bestimmten Land oder einer bestimmten Region gespeichert und verarbeitet werden müssen. In KI-Systemen betrifft dies Trainingsdaten, Prompts, Modellausgaben und Interaktionsprotokolle (Inference Logs). Dies schränkt die Auswahl der Modelle ein, die ein Unternehmen nutzen kann, da das Senden eines Prompts an ein extern gehostetes Modell einen grenzüberschreitenden Datentransfer darstellt.
Datensouveränität
Das Prinzip, demzufolge Daten den Gesetzen und Governance-Strukturen des Landes unterliegen, in dem sie erhoben, gespeichert oder verarbeitet werden.
Betroffene Person
Eine Person, deren personenbezogene Daten erfasst, gespeichert oder verarbeitet werden – von besonderer Relevanz im Kontext von Datenschutzgesetzen wie der DSGVO.
Deidentifizierung
Der Prozess der Entfernung oder Unkenntlichmachung persönlicher Identifikationsmerkmale aus Datensätzen, um die Identifizierung von Einzelpersonen zu erschweren, dient dem Schutz der Privatsphäre.
Deepfake
Synthetische Medien, bei denen eine Person in einem bestehenden Bild oder Video mithilfe von Deep-Learning-Techniken durch das Abbild einer anderen Person ersetzt wird.
Differenzielle Privatsphäre
Ein System zur öffentlichen Bereitstellung von Informationen über einen Datensatz, das Muster von Gruppen innerhalb des Datensatzes beschreibt, während Informationen über einzelne Personen zurückgehalten werden.
EU-Sammelgesetzgebung zur künstlichen Intelligenz
Ein Gesetzgebungspaket für 2025/2026, das darauf ausgelegt ist, technische Standards, Konformitätsbewertungen und Fristen zur Durchsetzung im Rahmen des EU AI Acts und damit verbundener digitaler Sicherheitsgesetze zu straffen und zu harmonisieren.
Diskriminierung
Im Bereich der KI bezieht sich dies auf die ungerechte Behandlung von Personen oder Gruppen aufgrund von Voreingenommenheiten in Daten oder Algorithmen, was zu ungleichen Ergebnissen führt.
Dual-Use-Basismodell
Ein KI-Modell, das auf einer enormen Datenmenge trainiert wurde und über eine hohe Leistungsfähigkeit verfügt, sodass es sowohl für zivile als auch für schädliche oder militärische Zwecke eingesetzt werden könnte.
Dynamische Risikobewertung
Der kontinuierliche Prozess der Identifizierung und Bewertung von Risiken in Echtzeit, der rechtzeitige Reaktionen auf neu entstehende Bedrohungen in KI-Systemen ermöglicht.
E
Edge-Analytik
Die Analyse von Daten direkt am Netzwerkrand (Edge), nahe der Quelle der Datenerzeugung, reduziert Latenzzeiten sowie die benötigte Bandbreite.
Enzai
Eine Governance-Plattform für Unternehmens-KI, die es Organisationen ermöglicht, ihre KI-Systeme zu erfassen, zu bewerten und zu steuern, um eine maximale KI-Einführung bei gleichzeitiger Minimierung von KI-Risiken zu gewährleisten.
Eskalationslogik
Ein Satz vordefinierter Regeln und Auslöser, die einen KI-Agenten dazu zwingen, den autonomen Betrieb einzustellen und die Kontrolle wieder an einen menschlichen Bediener zu übergeben.
Anforderungen der ESMA an die AI/ML-Governance
Die Erwartungen der ESMA bezüglich KI und maschinellem Lernen legen fest, wie EU-Wertpapierfirmen die MiFID-II-Verpflichtungen bei der Nutzung von KI anzuwenden haben. Die Europäische Wertpapier- und Marktaufsichtsbehörde hat im Mai 2024 Leitlinien zu KI bei Wertpapierdienstleistungen für Kleinanleger herausgegeben, gefolgt von einem aufsichtsrechtlichen Briefing zum algorithmischen Handel am 26. Februar 2026, das sich mit KI und deren Zusammenspiel mit dem EU-KI-Gesetz befasst.
Ethische KI
Die Praxis, KI-Systeme so zu konzipieren, zu entwickeln und bereitzustellen, dass sie mit ethischen Grundsätzen und Werten im Einklang stehen und Fairness, Rechenschaftspflicht sowie Transparenz gewährleisten.
Ethisches KI-Auditing
Der Prozess der systematischen Evaluierung von KI-Systemen, um sicherzustellen, dass sie ethischen Standards entsprechen und keinen Schaden anrichten.
Zertifizierung für ethische KI
Eine formelle Anerkennung, dass ein KI-System etablierte ethische Standards und Richtlinien einhält.
Ethische KI-Governance
Das Rahmenwerk aus Richtlinien, Verfahren und Praktiken, das sicherstellt, dass KI-Systeme verantwortungsvoll und ethisch entwickelt und eingesetzt werden.
Ethische Richtlinien
Strukturierte Prinzipien und Richtlinien, die als Orientierung für eine ethische Entwicklung und Bereitstellung von KI-Systemen dienen.
Ethik-Folgenabschätzung
Ein systematischer Evaluierungsprozess zur Identifizierung und Bewältigung der ethischen Implikationen und potenziellen gesellschaftlichen Auswirkungen von KI-Systemen vor deren Bereitstellung.
Ethisches Risiko
Das Potenzial eines KI-Systems, durch unethisches Verhalten Schaden zu verursachen, einschließlich Befangenheit, Diskriminierung oder der Verletzung der Privatsphäre.
Ethikleitlinien für eine vertrauenswürdige KI
Ein Satz von Richtlinien, die von der Hochrangigen Expertengruppe für KI der Europäischen Kommission entwickelt wurden, um vertrauenswürdige KI zu fördern. Der Fokus liegt dabei auf menschlicher Selbstbestimmung, technischer Robustheit, Datenschutz, Transparenz, Diversität, gesellschaftlichem Wohlergehen und Rechenschaftspflicht.
EU-KI-Gesetz
Der weltweit erste umfassende, sektorübergreifende Rechtsrahmen für KI, der ein risikobasiertes Klassifizierungssystem für Systeme etabliert, die innerhalb der Europäischen Union bereitgestellt oder genutzt werden.
Hochrisiko-Kategorien nach dem EU-KI-Gesetz
Die beiden Klassifizierungen von Hochrisiko-KI-Systemen gemäß dem EU-KI-Gesetz: eigenständige Systeme, die in Anhang III aufgeführt sind (umfassend Biometrie, kritische Infrastrukturen, Beschäftigung, Bildung, Strafverfolgung und andere genannte Verwendungszwecke), und in regulierte Produkte eingebettete KI, die in Anhang I aufgeführt sind (umfassend Medizinprodukte, Fahrzeuge, Maschinen und andere regulierte Produktkategorien).
Risikoklassifizierung nach dem EU-KI-Gesetz
Der verpflichtende Prozess zur Einstufung eines KI-Systems in eine von vier Risikoklassen (Unannehmbar, Hoch, Begrenzt, Minimal) gemäß dem KI-Gesetz der EU (EU AI Act).
EU-Büro für KI
Das Gremium der Europäischen Kommission, das zur Überwachung der Umsetzung und Durchsetzung des KI-Gesetzes der EU eingerichtet wurde, insbesondere für KI-Modelle mit allgemeinem Verwendungszweck und systemischem Risiko.
EU-Gesetzgebungspaket für digitale Dienste
Das umfassendere Gesetzgebungs-Vereinfachungspaket 2025–2026 der Europäischen Union, das mehrere digitale Regulierungsvorschriften adressiert, darunter das KI-Gesetz (AI Act), Bestimmungen der DSGVO, das Cyber-Resilienz-Gesetz sowie Änderungen des Datengesetzes (Data Act).
Übermäßige Agenturtätigkeit
Eine Schwachstelle, bei der einem KI-System im Verhältnis zu seiner beabsichtigten Funktion zu viel Autonomie, zu viele Werkzeuge oder überprivilegierte Zugriffsrechte gewährt werden.
Präsidialerlass 14110
Die Richtlinie der Biden-Regierung (unterzeichnet im Oktober 2023, aufgehoben im Januar 2025), die US-amerikanische Standards für KI-Sicherheit, Gefahrenabwehr und Datenschutz etablierte und das U.S. AI Safety Institute beim NIST ins Leben rief.
Erklärbarkeitsmethoden
Methoden zur Interpretation und zum Verständnis der von KI-Modellen getroffenen Entscheidungen, wie beispielsweise LIME, SHAP und Saliency Maps (Aktivitätskarten).
Erklärbarkeit vs. Interpretierbarkeit
Während beide Ansätze darauf abzielen, KI-Entscheidungen nachvollziehbar zu machen, konzentriert sich die Erklärbarkeit (Explainability) auf die Begründung von Entscheidungen, wohingegen sich die Interpretierbarkeit (Interpretability) auf die Transparenz der internen Funktionsweise des Modells bezieht.
Erklärbare KI (XAI)
KI-Systeme, die so konzipiert sind, dass sie nachvollziehbare Begründungen für ihre Entscheidungen und Handlungen liefern, wodurch Transparenz und Vertrauen gestärkt werden.
Erklärbare maschinelle Lernverfahren
Maschinelle Lernmodelle, die so konzipiert sind, dass sie klare und nachvollziehbare Erklärungen für ihre Vorhersagen und Entscheidungen liefern.
F
Fairness-Metriken
Quantitative Kennzahlen (z. B. demografische Parität, ausgeglichene Quoten), die verwendet werden, um zu bewerten, wie fair die Vorhersagen eines KI-Modells über verschiedene Gruppen hinweg sind.
Falsch-Negativ
Wenn ein KI-Modell fälschlicherweise eine negative Klasse für eine Instanz vorhersagt, die tatsächlich positiv ist (Fehler 2. Art).
Falsch-Positiv-Befund
Wenn ein KI-Modell fälschlicherweise eine positive Klasse für eine tatsächlich negative Instanz vorhersagt (Fehler 1. Art).
Fehlertoleranz
Die Fähigkeit eines KI-Systems, auch dann korrekt weiterzufunktionieren, wenn einzelne Komponenten ausfallen oder Fehler verursachen.
Föderierte KI-Governance
Ein Governance-Modell, bei dem zentrale Richtlinien und Aufsicht mit dezentraler Entscheidungsfindung durch Geschäftsbereiche oder Regionalbüros kombiniert werden, um Konsistenz und operative Flexibilität harmonisch miteinander zu verbinden.
Feedback-Schleife
Ein Prozess, bei dem KI-Ergebnisse wieder als Eingaben zurückgeführt werden, was das Modellverhalten verstärken kann – im positiven Sinne (bestärkendes Lernen) oder im negativen Sinne (Verstärkung von Vorurteilen).
FS AI RMF (Risk Management Framework für künstliche Intelligenz im Finanzdienstleistungssektor)
Das Financial Services AI Risk Management Framework (FS AI RMF) ist ein freiwilliges, sektorspezifisches Rahmenwerk, das im Februar 2026 vom US-Finanzministerium zusammen mit dem Cyber Risk Institute veröffentlicht wurde. Es orientiert sich am NIST AI RMF und bietet eine Matrix von 230 Kontrollzielen über den gesamten KI-Lebenszyklus hinweg, die Banken, Kreditgenossenschaften, Versicherer, Investmentgesellschaften und deren Drittanbieter abdeckt.
Funktionale Sicherheit
Sicherstellung, dass KI-Systeme unter allen Bedingungen sicher funktionieren – insbesondere in Branchen wie der Automobilindustrie oder dem Gesundheitswesen –, häufig realisiert durch Redundanz und Kontrollmechanismen.
Grundrechtecharta-Folgenabschätzung (FRIA)
Eine obligatorische Bewertung gemäß dem EU-KI-Gesetz für bestimmte Betreiber, um festzustellen, wie sich der Einsatz eines Hochrisiko-KI-Systems auf die Grundrechte und Menschenrechte auswirken könnte.
G
Gap-Analyse
Der Prozess des Abgleichs aktueller KI-Governance-Praktiken mit gewünschten Standards oder regulatorischen Vorgaben zur Identifizierung von Optimierungsbedarfen.
DSGVO
Die Datenschutz-Grundverordnung der EU, die strenge Anforderungen an die Erhebung und Verarbeitung personenbezogener Daten sowie an die Rechte des Einzelnen festlegt.
Ziel-Abweichung
Ein Phänomen, bei dem sich die internen Unterziele oder Argumentationspfade eines KI-Agenten schrittweise von den ursprünglich durch den Menschen vorgegebenen Zielen entfernen.
Aufsichtsgremium
Eine funktionsübergreifende Gruppe (z. B. aus den Bereichen Recht, Ethik, Technik), die mit der Überwachung von KI-Governance-Richtlinien und deren Umsetzung innerhalb einer Organisation betraut ist.
Governance-Framework
Ein strukturiertes Modell, das aufzeigt, wie die verschiedenen Komponenten der KI-Governance (Risikomanagement, Rechenschaftspflicht, Aufsicht) ineinandergreifen, um Compliance und eine ethische Nutzung zu gewährleisten.
Governance-Reifegradmodell
Ein Governance-Reifegradmodell ist eine stufenweise Skala zur Bewertung, wie weit die KI-Governance einer Organisation entwickelt ist. Sie reicht in der Regel von Ad-hoc-Praktiken bis hin zu messbaren und kontinuierlich verbesserten Prozessen. Es dient dazu, eine Ausgangsposition zu bestimmen, ein realistisches Ziel festzulegen und Investitionen zu priorisieren, nicht jedoch zur Zertifizierung der Compliance.
Governance-Richtlinie
Ein formelles Dokument, das Regeln, Rollen und Verfahren für die KI-Entwicklung und -Aufsicht innerhalb einer Organisation festlegt.
Governance-Scorecard
Ein Dashboard oder eine Scorecard zur Verfolgung von Kennzahlen (z. B. Befangenheitsvorfälle, Compliance-Audits), um die Effektivität der KI-Governance im Zeitverlauf zu messen.
GPAI-Verhaltenskodex
Das detaillierte Regulierungsinstrument, das spezifische Verpflichtungen zur Transparenz, Sicherheitsprüfung und Risikominderung für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck (GPAI) gemäß dem EU-KI-Gesetz festlegt.
GPAI-Modell
Ein vielseitig einsetzbares Modell der künstlichen Intelligenz, das in der Lage ist, ein breites Spektrum an unterschiedlichen Aufgaben zu erfüllen und sich nahtlos in verschiedene Anwendungen zu integrieren.
Granulare Einwilligung
Ein Ansatz zum Datenschutz, der es Einzelpersonen ermöglicht, spezifische Berechtigungen für jede Art der Datennutzung zu erteilen oder zu verweigern, wodurch Transparenz und Kontrolle verbessert werden.
Leitplanken
Vordefinierte (technische und richtlinienbasierte) Einschränkungen oder Prüfungen, die in KI-Systeme integriert sind, um unsicheres oder nicht-konformes Verhalten zur Laufzeit zu verhindern.
Leitlinie (Ethische KI)
Eine unverbindliche Empfehlung oder ein Best-Practice-Dokument, das von Organisationen (z. B. IEEE, EU) herausgegeben wird, um eine verantwortungsvolle Entwicklung und Bereitstellung von KI zu gestalten.
H
Halluzination
Wenn generative KI fehlerhafte oder erfundene Informationen erzeugt, die plausibel erscheinen, jedoch keinerlei Grundlage in den Trainingsdaten haben.
Schadensbewertung
Die Bewertung potenzieller negativer Auswirkungen (physischer, psychologischer und gesellschaftlicher Art) von KI-Systemen sowie die Definition von Minimierungsstrategien.
Harmonisierung
Harmonisierung von KI-Richtlinien, Standards und Vorschriften über verschiedene Rechtsräume hinweg, um Konflikte zu minimieren und Interoperabilität zu gewährleisten.
Harmonisierte Struktur
Ein standardisiertes Template für alle ISO-Managementsystemnormen, ehemals bekannt als Annex SL, das eine einheitliche Terminologie und Klauselnummerierung gewährleistet.
Heuristische Evaluation
Eine Methode der Usability-Evaluierung, bei der Experten ein KI-System anhand etablierter Usability-Prinzipien bewerten, um potenzielle Schwachstellen zu identifizieren.
Hochrisiko-KI-System
KI-Anwendungen, die ein erhebliches Potenzial zur Gefährdung der Gesundheit, Sicherheit oder der Grundrechte von Personen aufweisen und somit die strengsten Compliance-Anforderungen unter dem EU-KI-Gesetz auslösen.
Hochrisiko-KI
KI-Anwendungen, deren Fehlfunktionen erheblichen Schaden verursachen könnten (z. B. in der medizinischen Diagnostik oder bei autonomen Fahrzeugen) und die daher einer verstärkten Governance und Aufsicht bedürfen.
Human-in-the-Loop
Die Einbindung menschlichen Urteilsvermögens in KI-Prozesse (Training, Validierung, Überprüfung von Entscheidungen), um die Genauigkeit und Verantwortlichkeit zu verbessern.
Menschliche Aufsicht
Mechanismen, die es autorisierten Personen ermöglichen, Entscheidungen von KI-Systemen zu überwachen, einzugreifen oder diese außer Kraft zu setzen, um die Einhaltung ethischer und rechtlicher Standards zu gewährleisten.
Menschenrechts-Folgenabschätzung
Ein Verfahren zur Bewertung der Auswirkungen von KI-Systemen auf Grundrechte (wie Privatsphäre, freie Meinungsäußerung und Nichtdiskriminierung) sowie zur Identifizierung geeigneter Maßnahmen zur Risikominderung.
Ich
Folgenabschätzung
Eine strukturierte Bewertung zur Identifizierung, Analyse und Abschwächung potenzieller ethischer, rechtlicher und gesellschaftlicher Auswirkungen eines KI-Systems vor dessen Bereitstellung.
Durchführungsrechtsakte
Sekundärrecht der EU, das von der Europäischen Kommission erlassen wird, um einheitliche Bedingungen für die Umsetzung von Primärrecht festzulegen, und das in allen Mitgliedstaaten rechtsverbindlich ist.
Anreizabstimmung
Die Gestaltung von Anreizstrukturen und Zielsetzungen, um sicherzustellen, dass die Ziele von KI-Systemen stets im Einklang mit menschlichen Werten und organisatorischen Prioritäten stehen.
Induktiver Bias
Die Annahmen, die ein Lernalgorithmus nutzt, um von beobachteten Daten auf unbekannte Instanzen zu verallgemeinern.
Information Governance
Die Richtlinien, Verfahren und Kontrollen, die die Datenqualität, den Datenschutz und die Nutzbarkeit der Datenbestände eines Unternehmens gewährleisten, einschließlich der Trainingsdatenätze für künstliche Intelligenz.
Informationsdatenschutz
Das Recht von Einzelpersonen zu kontrollieren, wie ihre personenbezogenen Daten durch KI-Systeme erfasst, verwendet, gespeichert und weitergegeben werden.
Vererbtes Datenrisiko
Das regulatorische und ethische Haftungsrisiko, das ein Unternehmen eingeht, wenn es ein KI-System einsetzt, das mit Daten trainiert wurde, die das Unternehmen nicht selbst erfasst oder geprüft hat.
Eingangs-Workflow
Der standardisierte Prozess und die Reihe von Prüfungen, die ein neues KI-System durchlaufen muss, bevor es entwickelt oder beschafft werden kann.
Intent-Validierung
Der Prozess der Verifizierung, dass die geplanten Teilschritte eines KI-Agenten konsistent mit dem ursprünglich vom Menschen vorgegebenen Ziel übereinstimmen.
Interoperabilität
Die Fähigkeit unterschiedlicher KI-Systeme und -Komponenten, Informationen nahtlos auszutauschen, zu verstehen und zu nutzen – häufig über offene Standards oder APIs.
Interpretierbarkeit
Das Ausmaß, in dem ein Mensch die internen Mechanismen oder die Entscheidungslogik eines KI-Modells verstehen kann.
ISO/IEC 42001
Der internationale Standard, der Anforderungen für die Einführung, Umsetzung, Aufrechterhaltung und kontinuierliche Verbesserung eines Managementsystems für Künstliche Intelligenz (AIMS) festlegt.
ISO/IEC 42005
Der internationale Standard, der Leitlinien für die Durchführung von Folgenabschätzungen für KI-Systeme bereitstellt.
ISO/IEC JTC 1/SC 42
Das gemeinsame ISO/IEC-Komitee für die Standardisierung im Bereich der künstlichen Intelligenz entwickelt internationale KI-Standards für Governance, Risikomanagement und Interoperabilität.
J
Jailbreak-Angriff
Eine Form des Prompt-Injection-Angriffs, bei der Benutzer Schwachstellen ausnutzen, um Sicherheitsvorkehrungen in generativen KI-Modellen zu umgehen, was potenziell zu unsicheren oder unbefugten Ergebnissen führen kann.
Japanisches Gesetz zur Förderung von KI
Ein japanisches Gesetz (beschlossen 2025), das grundlegende Prinzipien zur Förderung von KI und zur Risikominderung festlegt.
Gesamtschuldnerische Haftung
Rechtsprinzip, nach dem mehrere Parteien (z. B. Entwickler, Bereitsteller) die gemeinsame Verantwortung für KI-bedingte Schäden tragen, was Einfluss auf Vertrags- und Governance-Strukturen hat.
Gemeinsame Modellierung
Entwicklung von KI-Systemen, die mehrere Aufgaben gemeinsam erlernen (z. B. Spracherkennung und Übersetzung), wobei Governance für Komplexität und Auditierbarkeit erforderlich ist.
Gerichtsstand
Die rechtliche Verfügungsgewalt über Daten, KI-Prozesse und Haftung, welche sich je nach Region unterscheidet und direkte Auswirkungen auf die Einhaltung regionaler Vorschriften (z. B. DSGVO, CCPA) hat.
K
Leistungskennzahl
Eine quantifizierbare Metrik (z. B. Abweichung der Modellgenauigkeit, Zeitspanne zur Behebung von Verzerrungen), die zur Überwachung und Berichterstattung von KI-Governance- und Compliance-Zielen verwendet wird.
Wichtiger Risikoindikator
Ein Frühindikator (z. B. die Häufigkeit von Vorhersagen außerhalb des definierten Rahmens oder die Rate nicht nachvollziehbarer Entscheidungen), der aufkommende KI-Risiken signalisiert, bevor diese eintreten.
Wissensmanagement
Praktiken und Werkzeuge zur Erfassung, Strukturierung und gemeinsamen Nutzung von organisatorischem Wissen (z. B. Modelldokumentation, Audit-Protokolle), um Reproduzierbarkeit und Compliance-Aufsicht zu gewährleisten.
L
Minimale Agenturabhängigkeit
Ein Sicherheits- und Governance-Prinzip, das besagt, dass KI-Agenten nur das Mindestmaß an Autonomie und Werkzeugzugriffen gewährt werden sollte, das zur Erfüllung einer bestimmten Aufgabe erforderlich ist.
Minimalprinzip
Ein Sicherheitsprinzip, bei dem KI-Komponenten und Benutzern nur die minimal erforderlichen Zugriffsrechte gewährt werden, die zur Erfüllung ihrer Aufgaben notwendig sind, um das Risiko eines Missbrauchs zu minimieren.
Rechtliche Compliance
Die Praxis, die sicherstellt, dass KI-Systeme während ihres gesamten Lebenszyklus den geltenden Gesetzen, Vorschriften und Industriestandards entsprechen.
Haftungsrahmen
Ein strukturierter Ansatz zur Festlegung der Verantwortlichkeiten bei KI-bezogenen Schäden oder Fehlfunktionen, der Entwickler, Bereitsteller und Betreiber gleichermaßen einbezieht.
Lebenszyklusmanagement
Die koordinierten Prozesse für die Entwicklung, Bereitstellung, Überwachung, Wartung und Außerbetriebnahme von KI-Systemen, um eine kontinuierliche Compliance und Risikokontrolle zu gewährleisten.
Lokalisierung
Die Anpassung von KI-Systemen an lokale Sprachen, Vorschriften, kulturelle Normen und Anforderungen an die Datenresidenz in verschiedenen Rechtsordnungen.
M
Marktüberwachungsbehörde
Die nationale Regulierungsbehörde in jedem EU-Mitgliedstaat, die für die Überwachung von KI-Systemen zuständig ist, um deren Konformität mit dem Gesetz über künstliche Intelligenz der EU (EU AI Act) sicherzustellen.
MAS-FEAT-Prinzipien
Die MAS FEAT-Prinzipien sind vier Grundsätze zu Fairness, Ethik, Rechenschaftspflicht und Transparenz (Fairness, Ethics, Accountability and Transparency). Sie wurden am 12. November 2018 von der Monetary Authority of Singapore veröffentlicht, um den verantwortungsvollen Einsatz von künstlicher Intelligenz und Datenanalysen im Finanzsektor Singapurs zu fördern. Dabei handelt es sich um unverbindliche Leitlinien, nicht um durchsetzbare Vorschriften, die durch die Veritas-Bewertungsmethodik unterstützt werden.
Sinnvolle menschliche Kontrolle
Ein regulatorischer und betrieblicher Standard, der sicherstellt, dass der Mensch die Fähigkeit behält, KI-Entscheidungsprozesse zu überwachen, einzugreifen und diese außer Kraft zu setzen.
Metadaten-Management
Die Erfassung und Pflege deskriptiver Daten (z. B. Datenherkunft, Feature-Definitionen, Modellparameter) zur Unterstützung der Rückverfolgbarkeit und von Audits.
Kenn za hl en & KP Is
Quantitative Kennzahlen (z. B. Abweichungen bei der Genauigkeit, Fairness-Scores, Reaktionszeiten bei Vorfällen), die zur Überwachung des Systemzustands, des Risikos und der Compliance-Ziele von KI-Systemen herangezogen werden.
Bundesgesetz Mexikos über KI und Algorithmen
Ein Entwurf für ein mexikanisches Bundesgesetz über KI und Algorithmen, der ein risikobasiertes Klassifizierungssystem, die Nationale KI-Kommission (CONAIA) sowie Anforderungen zur Kennzeichnung von KI-generierten Inhalten durch Wasserzeichen vorschlägt.
Minderungsstrategien
Geplante Maßnahmen (z. B. Behebung von Verzerrungen, erneutes Training, Feature-Re-Engineering) zur Bewältigung identifizierter KI-Risiken und Compliance-Lücken.
Minnesota CDPA (KI-Bestimmungen)
Die KI-spezifischen Komponenten des Minnesota Consumer Data Privacy Act.
Modellkarte
Ein kurzes, standardisiertes Dokument, das wesentliche Informationen über die Leistung, Einschränkungen und beabsichtigten Anwendungsfälle eines Machine-Learning-Modells liefert.
Modell-Disgorgement
Eine behördliche Auflage, die ein Unternehmen dazu verpflichtet, KI-Modelle oder -Algorithmen zu löschen, die unter Verwendung von unrechtmäßig oder unbefugt erlangten Daten entwickelt wurden.
Modellabweichung
Der allmähliche Verlust der Vorhersagegenauigkeit eines KI-Modells im Laufe der Zeit, verursacht durch Veränderungen der realen Datenstrukturen oder der Betriebsumgebung.
Erklärbarkeit von Modellen
Techniken und Dokumentationen, die die Entscheidungslogik eines KI-Modells für Stakeholder und Auditoren verständlich und nachvollziehbar machen.
Modell-Governance
Die Richtlinien, Rollen und Kontrollmechanismen, die gewährleisten, dass KI-Modelle in Übereinstimmung mit den organisatorischen Standards und regulatorischen Anforderungen entwickelt, genehmigt und eingesetzt werden.
Modellüberwachung
Kontinuierliche Überwachung der Leistung eines KI-Modells, von Daten-Drifts sowie betrieblichen Kennzahlen, um Leistungsabfall oder neu entstehende Risiken frühzeitig zu erkennen.
Modell-Retraining
Der Prozess der Aktualisierung eines KI-Modells mit neuen oder aktualisierten Daten, um die Leistung und Compliance bei sich verändernden Datenverteilungen aufrechtzuerhalten.
Modellrisikomanagement
Das Modellrisikomanagement bezeichnet die Disziplin der Identifizierung, Messung und Kontrolle des Risikos, dass ein Modell fehlerhafte Ergebnisse liefert oder missbräuchlich verwendet wird. Im US-Bankenwesen wird dieses durch die Richtlinie SR 26-2 geregelt, die am 17. April 2026 gemeinsam von der Federal Reserve, dem OCC und der FDIC herausgegeben wurde. Diese ersetzt SR 11-7 und schließt generative sowie agentische KI ausdrücklich aus ihrem Anwendungsbereich aus.
Modellvalidierung
Die Evaluierungsaktivitäten (z. B. Tests mit zurückgehaltenen Daten, Belastungsszenarien), die bestätigen, dass ein KI-Modell seinen beabsichtigten Zweck und seine Leistungskriterien erfüllt.
Einbindung aller relevanten Stakeholder
Einbindung diverser Interessengruppen (z. B. Rechts-, Ethik- und Betriebsabteilungen sowie Endnutzer) in KI-Governance-Prozesse, um eine ausgewogene Risikoüberwachung und die Ausrichtung auf die Geschäftsziele zu gewährleisten.
N
NIST KI-Risikomanagement-Rahmenwerk
Ein freiwilliger Leitfaden des U.S. National Institute of Standards and Technology, der bewährte Verfahren zur Risikominderung über den gesamten Lebenszyklus von KI-Systemen hinweg beschreibt.
NIST AI RMF-Profile
NIST AI RMF-Profile sind maßgeschneiderte Implementierungen des NIST AI Risk Management Frameworks. NIST definiert drei Typen: Use-Case-Profile für spezifische Anwendungen, branchenübergreifende Profile, die industrieübergreifend Anwendung finden, sowie zeitliche Profile, die den aktuellen (Current) und angestrebten (Target) Zustand einer Organisation beschreiben. Das erste branchenübergreifende Profil, das Generative AI Profile (NIST AI 600-1), wurde im Juli 2024 veröffentlicht.
Nicht-menschliche Identität (NHI)
Ein digitaler Identitätsnachweis, der von einem KI-Agenten, Bot oder Service verwendet wird, um sich bei Unternehmenssystemen zu authentifizieren und mit diesen zu interagieren.
Benannte Stelle
Eine unabhängige Drittorganisation, die von einem EU-Mitgliedstaat benannt wird, um die Konformität bestimmter Hochrisiko-KI-Systeme gemäß dem EU-KI-Gesetz zu bewerten.
NYC Local Law 144
Ein Gesetz der Stadt New York, das jährliche Audits zur Überprüfung auf Diskriminierung bei KI-Tools vorschreibt, die für Personalentscheidungen eingesetzt werden.
O
Observability
Die Fähigkeit, den internen Zustand und das Verhalten eines KI-Systems durch die Erfassung und Analyse von Protokollen, Metriken und Ausgaben abzuleiten, um eine effektive Überwachung und Fehlerbehebung zu gewährleisten.
OMB-Memorandum M-25-21
Das OMB-Memorandum M-25-21 („Accelerating Federal Use of AI through Innovation, Governance, and Public Trust“) weist US-Bundesbehörden an, einen Chief AI Officer zu ernennen, ein Inventar der KI-Anwendungsfälle zu veröffentlichen und Mindeststandards für das Risikomanagement bei „hochgradig einflussreicher KI“ (high-impact AI) anzuwenden. Es wurde im April 2025 erlassen, ersetzte das Memorandum M-24-10 und wird durch das Memorandum M-25-22 zur KI-Beschaffung ergänzt.
Fortlaufende Überwachung
Kontinuierliche Überwachung der Leistung von KI-Systemen, von Daten-Drift, Bias-Metriken und Sicherheitsereignissen, um neu entstehende Risiken frühzeitig zu erkennen und proaktiv zu adressieren.
Operative Autonomie
Die Fähigkeit eines KI-Systems, mehrstufige Aufgaben auszuführen und Entscheidungen zu treffen, ohne dass in jeder Phase ein menschliches Eingreifen erforderlich ist.
Betriebliche Resilienz
Die Fähigkeit von KI-Systemen und deren unterstützender Infrastruktur, Störungen oder unerwünschten Ereignissen vorzubeugen, diesen standzuhalten, sich von ihnen zu erholen und sich an sie anzupassen.
Output-Risiko
Das betriebliche, rechtliche und reputationsbezogene Risiko, das sich aus der Verwendung fehlerhafter, voreingenommener oder schädlicher Inhalte ergibt, die von einem KI-System generiert wurden.
Aufsicht
Der strukturierte Prozess der Überprüfung, Genehmigung und Rechenschaftspflicht für die KI-Entwicklung und -Bereitstellung, an dem in der Regel funktionsübergreifende Governance-Gremien beteiligt sind.
OWASP Agentic Top 10
Die OWASP Top 10 für agentische Anwendungen ist eine von Experten geprüfte Liste der zehn kritischsten Sicherheitsrisiken in autonomen KI-Agenten, die am 10. Dezember 2025 vom OWASP Gen AI Security Project veröffentlicht wurde. Die Einträge sind von ASI01 bis ASI10 codiert, angefangen bei der Entführung von Agentenzielen (Agent Goal Hijack) bis hin zu abtrünnigen Agenten (Rogue Agents).
P
Governance für den „Paved Road“-Ansatz
Eine Strategie, die die Compliance fördert, indem sie freigegebene, sichere Workflows so gestaltet, dass sie einfacher zu befolgen sind als nicht autorisierte Alternativen.
Berechtigungsverwaltung
Die Verwaltung von Benutzer- und Systemzugriffsrechten auf KI-Daten und -Funktionen gewährleistet das Prinzip der minimalen Rechtevergabe und verhindert unbefugte Nutzung.
Pilottestung
Ein zeitlich und lokal begrenzter Testlauf eines KI-Systems in einer kontrollierten Umgebung, um Leistung, Risiken und Governance-Kontrollen vor einer umfassenden Implementierung zu bewerten.
Richtlinienumsetzung
Die automatisierten oder manuellen Mechanismen, die sicherstellen, dass der KI-Betrieb mit den Richtlinien der Organisation, regulatorischen Vorgaben und ethischen Leitlinien übereinstimmt.
Überwachung nach der Bereitstellung
Fortlaufende Überwachung des Verhaltens von KI-Systemen und deren Betriebsumgebung nach der Einführung, um Leistungsabfall, Drift oder Compliance-Verstöße frühzeitig zu erkennen.
PRA SS1/23 (Modellrisikomanagement)
Das PRA Supervisory Statement SS1/23 legt die fünf Prinzipien der Bank of England für das Modellrisikomanagement von britischen Banken fest. Es wurde am 17. Mai 2023 veröffentlicht und ist seit dem 17. Mai 2024 wirksam. Die Richtlinie gilt für in Großbritannien registrierte Banken, Bausparkassen und von der PRA benannte Wertpapierfirmen, die über eine Genehmigung für interne Modelle verfügen. Sie erstreckt sich auch auf Modelle für künstliche Intelligenz und maschinelles Lernen, findet jedoch keine Anwendung auf Versicherungsunternehmen.
Konformitätsvermutung
Ein rechtlicher Mechanismus unter dem EU-KI-Gesetz (EU AI Act) und anderen Regelungen, bei dem die Einhaltung eines harmonisierten Standards (z. B. eines veröffentlichten EN-Standards) die widerlegbare Vermutung begründet, dass die zugrunde liegende Verordnung erfüllt ist.
Datenschutz durch Technikgestaltung (Privacy by Design)
Ein Ansatz, bei dem Datenschutz und die Privatsphäre der Nutzer von Anfang an fest in die Architektur und die Prozesse von KI-Systemen integriert werden.
Datenschutz-Folgenabschätzung
Eine strukturierte Analyse zur Identifizierung und Minimierung von Datenschutzrisiken im Zusammenhang mit KI-Systemen, die die Erfassung, Nutzung, Weitergabe und Aufbewahrung von Daten abdeckt.
Probabilistisches System
Ein System, dessen Ergebnisse auf statistischen Wahrscheinlichkeiten basieren und nicht auf einer deterministischen, fest vorgegebenen Logik.
F
Qualitative Bewertung
Die subjektive Überprüfung von Verhaltensweisen, Entscheidungen und Dokumentationen von KI-Systemen durch Experten, um ethische, rechtliche oder reputationsbezogene Bedenken zu identifizieren, die quantitativ nicht erfasst werden können.
Qualitätssicherung
Die systematischen Prozesse und Überprüfungen, die gewährleisten, dass KI-Modelle und Datenpipelines definierte Standards für Genauigkeit, Zuverlässigkeit und ethische Compliance erfüllen.
Qualitätskontrolle
Die kontinuierliche Überprüfung von KI-Ergebnissen und -Prozessen anhand von Benchmarks und Testfällen zur frühzeitigen Erkennung von Fehlern, Verzerrungen (Bias) oder Richtlinienverstößen.
Quantitative Risikoanalyse
Eine datengestützte Bewertung potenzieller KI-Bedrohungen, bei der Wahrscheinlichkeiten und Auswirkungen numerisch geschätzt werden, um Abhilfemaßnahmen effektiv zu priorisieren.
Abfrage-Datenschutz
Techniken und Richtlinien zum Schutz sensibler Informationen in Benutzeranfragen, die sicherstellen, dass protokollierte Eingaben keine personenbezogenen oder proprietären Daten gefährden.
Fragebogen-Framework
Ein strukturierter Katalog von governance-orientierten Fragen, die während des Designs, der Beschaffung oder Bereitstellung genutzt werden, um sicherzustellen, dass KI-Systeme mit den Richtlinienvorgaben übereinstimmen.
Beschlussfähigkeit für das Governance Board
Die Mindestanzahl an Mitgliedern des Governance-Ausschusses, die anwesend sein müssen, um offizielle Beschlüsse über KI-Risiken, Richtlinienfreigaben oder Auditergebnisse zu fassen.
Kontingentverwaltung
Die Kontrollen und Grenzwerte, die für die Nutzung von KI-Ressourcen (z. B. API-Aufrufe, Rechenzeit) festgelegt wurden, um Governance-Richtlinien durchzusetzen und unkontrollierte Kosten oder Missbrauch zu verhindern.
R
Argumentationskette
Der mehrstufige logische Prozess, dem ein KI-Agent folgt, um von einem ursprünglichen Ziel zu einer finalen Aktion oder Ausgabe zu gelangen.
Rückgriffsrecht
Mechanismen, die es betroffenen Personen ermöglichen, KI-gestützte Entscheidungen, welche ihre Rechte oder Interessen beeinträchtigen, anzufechten oder diesbezüglich Rechtsbehelfe einzulegen.
Red Teaming
Ein proaktiver Testansatz, bei dem interne oder externe Experten Angriffe oder Missbrauchsszenarien simulieren, um Schwachstellen in KI-Systemen aufzudecken.
Einhaltung gesetzlicher Vorschriften
Sicherstellung, dass KI-Systeme während ihres gesamten Betriebs die geltenden Gesetze, Vorschriften und Branchenstandards (z. B. DSGVO, FDA, Finanzaufsicht) einhalten.
Zuständigkeitsmatrix
Ein Werkzeug (z. B. RACI), das die Rollen und Verantwortlichkeiten für jede Governance-Aktivität klärt – wer zuständig (Responsible), rechenschaftspflichtig (Accountable), zu konsultieren (Consulted) und zu informieren (Informed) ist.
Verantwortungsvolle KI
Die Praxis, KI-Systeme so zu konzipieren, zu entwickeln und bereitzustellen, dass sie ethisch, transparent und gegenüber Stakeholdern sowie der Gesellschaft verantwortungsvoll sind.
Risikobewertung
Der Prozess der Identifizierung, Analyse und Priorisierung potenzieller Risiken oder Fehlfunktionen in KI-Systemen zur Bestimmung geeigneter Minderungsstrategien.
Risikomanagement-Framework
Ein strukturiertes System von Richtlinien und Prozessen zur systematischen Bewältigung von KI-Risiken über den gesamten Lebenszyklus des Systems hinweg – vom Entwurf bis zur Außerbetriebnahme.
Ursachenanalyse
Eine strukturierte Untersuchung zur Ermittlung der zugrunde liegenden Ursachen für Ausfälle oder unerwartetes Verhalten von KI-Systemen, die als Grundlage für Korrekturmaßnahmen dient.
S
Richtlinie zur zulässigen Nutzung
Definierte Richtlinien und Kontrollen, die autorisierte Kontexte, Benutzer und Verwendungszwecke für den Betrieb von KI-Systemen festlegen, um Missbrauch zu verhindern.
Sicherheit durch Design
Die Integration von Sicherheitskontrollen und Best Practices in KI-Systeme ab den frühesten Designphasen zur Vermeidung von Sicherheitslücken und Datenpannen.
Schatten-Agenten
Nicht autorisierte, autonome KI-Agenten, die ohne das Wissen des Governance-Teams in einer Organisation eingesetzt werden und in der Lage sind, Aktionen durchzuführen, die sich auf Geschäftssysteme und externe Parteien auswirken.
Schatten-KI
Die nicht genehmigte Nutzung von KI-Modellen, Agenten oder Tools durch Mitarbeiter ohne IT-Freigabe, was durch Datenabfluss und unbefugte autonome Aktionen verborgene Sicherheitsrisiken schafft.
Modellrahmen für KI-Governance aus Singapur
Singapurs Model AI Governance Framework ist ein freiwilliger Leitfaden der IMDA für den verantwortungsvollen Einsatz von KI. Es liegt mittlerweile in drei Ausgaben vor: dem ursprünglichen, 2019 erstmals veröffentlichten Framework, einer Ausgabe für generative KI aus dem Jahr 2024 sowie einem Model AI Governance Framework für agentische KI, das am 22. Januar 2026 veröffentlicht wurde.
Südkoreanisches KI-Basisgesetz
Südkoreas umfassender rechtlicher Rahmen für die Entwicklung von und das Vertrauen in KI.
Bewertung der gesellschaftlichen Auswirkungen
Eine strukturierte Bewertung der Auswirkungen eines KI-Systems auf soziale, wirtschaftliche und kulturelle Aspekte von Gemeinschaften, um potenzielle Risiken und Vorteile zu identifizieren.
SR 11-7 (Modellrisikomanagement)
SR 11-7 war die aufsichtsrechtliche Richtlinie der US-Notenbank (Federal Reserve) und des OCC zum Modellrisikomanagement, die am 4. April 2011 herausgegeben wurde. Fünfzehn Jahre lang setzte sie den Maßstab für die Modellvalidierung, Modellinventare und unabhängige Überprüfungen im US-Bankenwesen. Am 17. April 2026 wurde sie durch SR 26-2 ersetzt, eine überarbeitete Richtlinie, die gemeinsam von der Federal Reserve, dem OCC und der FDIC herausgegeben wurde.
SR 26-2 (Überarbeitete Richtlinien zum Modellrisikomanagement)
SR 26-2 ist die überarbeitete US-Aufsichtsrichtlinie zum Modellrisikomanagement, die am 17. April 2026 gemeinsam von der Federal Reserve, dem OCC und der FDIC herausgegeben wurde. Sie ersetzt die Richtlinien SR 11-7 sowie SR 21-8, legt einen risikobasierten Ansatz fest, der auf das spezifische Modellrisikoprofil eines Bankinstituts zugeschnitten ist, und schließt generative sowie agentische KI ausdrücklich aus ihrem Anwendungsbereich aus.
Stakeholder-Engagement
Der Prozess der Einbindung betroffener Akteure (z. B. Endanwender, Regulierungsbehörden, betroffene Gemeinschaften) in die Entwicklung und Überwachung von KI, um vielfältige Perspektiven und eine breite Akzeptanz zu gewährleisten.
Erklärung zur Anwendbarkeit (Statement of Applicability - SoA)
Ein Dokument, das bestimmt, welche Kontrollen des ISO 42001 Anhangs A für das KI-Managementsystem einer Organisation relevant sind, und erläutert, warum andere ausgeschlossen wurden.
Wesentliche Änderung
Eine Änderung an einem KI-System nach dessen Inverkehrbringen, die sich auf seine Konformität oder seinen Verwendungszweck gemäß dem Gesetz über künstliche Intelligenz der EU auswirkt.
Überwachungsrisiko
Die Gefahr, dass KI-Systeme für eine invasive Überwachung von Einzelpersonen oder Gruppen missbraucht werden könnten, was die Privatsphäre und die bürgerlichen Freiheiten verletzt.
Führendes System
Die maßgebliche Datenquelle für ein bestimmtes Datenelement oder eine Information innerhalb einer Organisation.
Schwellenwert für systemisches Risiko
Der technische oder fähigkeitsbasierte Grenzwert (z. B. 10^25 FLOPs), der ein KI-Modell mit allgemeinem Verwendungszweck so klassifiziert, dass es ein hohes Risiko für die Gesellschaft darstellt.
T
Tail-Risk
Das Potenzial für seltene, extreme Ergebnisse im Verhalten oder in der Entscheidungsfindung von KI, die außerhalb der normalen Erwartungen liegen und eine spezielle Risikominderungsplanung erfordern.
Tests & Validierung
Der systematische Prozess der Evaluierung von KI-Modellen anhand von Benchmarks, Grenzfällen und Belastungstests, um sicherzustellen, dass sie die Kriterien für Leistung, Sicherheit und Compliance erfüllen.
Risiko durch Drittanbieter
Das Risiko, welches sich aus der Abhängigkeit von externen Datenanbietern, Modellanbietern oder Serviceplattformen ergibt, die Compliance- oder Sicherheitsrisiken einbringen können.
Schwellenwerteinstellung
Festlegung von Grenzwerten oder Schwellenwerten in KI-Entscheidungsregeln (z. B. Konfidenzwerten), um Risiken wie falsch-positive gegenüber falsch-negativen Ergebnissen abzuwägen.
Trilog
Die informelle dreiseitige Verhandlung zwischen der Europäischen Kommission, dem Rat der Europäischen Union und dem Europäischen Parlament, die dazu dient, eine politische Einigung über die EU-Gesetzgebung vor deren formeller Verabschiedung zu erzielen.
Vertrauenswürdige KI
KI-Systeme, die so konzipiert und betrieben werden, dass sie ethisch, zuverlässig, sicher und im Einklang mit menschlichen Werten und gesellschaftlichen Normen stehen.
Sie
Aktionsplan für KI-Chancen im Vereinigten Königreich
Der strategische Fahrplan der britischen Regierung zur Maximierung der Vorteile von KI bei gleichzeitiger Etablierung gezielter, verbindlicher Sicherheitsregeln.
Governance von Anwendungsfällen
Die Praxis der Definition, Genehmigung und Überwachung spezifischer KI-Anwendungsfälle, um sicherzustellen, dass jeder einzelne mit den Richtlinien, ethischen Standards und der Risikobereitschaft des Unternehmens übereinstimmt.
Einwilligung des Nutzers
Der Prozess der Einholung und Protokollierung der ausdrücklichen Einwilligung von Personen vor der Erfassung, Verarbeitung oder Nutzung ihrer personenbezogenen Daten in KI-Systemen.
V
Abweichungsüberwachung
Überwachung von Schwankungen bei KI-Modellausgaben oder Leistungsmetriken im Zeitverlauf, um Abweichungen zu erkennen und auf potenzielle Leistungsverluste oder Risiken zu schließen.
Lieferanten-Risikomanagement
Die Bewertung und Überwachung von Drittanbietern von KI-Komponenten oder -Diensten, um potenzielle Compliance-, Sicherheits- oder ethische Risiken zu identifizieren und zu minimieren.
Versionsbindung
Die Praxis, ein KI-System auf eine bestimmte, getestete Version eines Foundation-Modells festzulegen, um zu verhindern, dass unangekündigte Updates das Systemverhalten verändern.
Veto-Recht
Das formelle Recht eines Governance-Gremiums oder eines Stakeholders, Bereitstellungen von KI zu blockieren oder Änderungen an diesen zu verlangen, wenn diese unannehmbare Risiken bergen.
Vigilanz-Überwachung
Kontinuierliche Überwachung des Verhaltens von KI-Systemen sowie externer Signale (z. B. regulatorischer Aktualisierungen), um neu auftretende Risiken oder Compliance-Verstöße umgehend zu erkennen und darauf zu reagieren.
KI-gestützte Videoüberwachung
Die spezifischen Governance-Prozesse für Computer-Vision-Systeme, die Datenqualität, Bias-Prüfungen und Transparenz bei bild- und videobasierten Entscheidungsfindungen gewährleisten.
W
Watchdog-Überwachung
Unabhängige Laufzeitprüfungen, die KI-Entscheidungen überwachen und Warnmeldungen oder Interventionen auslösen, wenn Richtlinien oder Schwellenwerte verletzt werden.
Wasserzeichenerstellung
Das Verfahren, nachweisbare, maschinenlesbare Herkunftsmarker in KI-generierte Inhalte wie Bilder, Audio, Video und synthetischen Text einzubetten, damit nachgelagerte Konsumenten und Plattformen diese Inhalte als KI-generiert identifizieren können.
Gewichtsüberprüfung
Untersuchung von Modellgewichten und -strukturen auf Anomalien, Backdoors oder Verzerrungen (Biases), die auf Manipulationen oder unbeabsichtigte Verhaltensweisen hinweisen könnten.
Whitelist-/Blacklist-Richtlinie
Governance-Richtlinie zur Definition zulässiger (Whitelist) und unzulässiger (Blacklist) Eingaben, Funktionen oder Vorgänge, um die Compliance zu gewährleisten und Missbrauch zu verhindern.
Whitelisting
Die ausschließliche Zulassung vorab genehmigter Datenquellen, Bibliotheken oder Modellkomponenten in KI-Pipelines, um Risiken durch ungeprüfte oder schädliche Elemente zu minimieren.
Arbeitslastentrennung
Die Trennung von KI-Rechenumgebungen (z. B. Entwicklung, Test, Produktion) und Datendomänen zur Begrenzung des Schadensradius bei Ausfällen oder Sicherheitsverletzungen.
Worst-Case-Analyse
Bewertung der extremsten potenziellen Fehlerquellen oder Missbrauchsszenarien eines KI-Systems zur fundierten Information einer robusten Risikominderung und Notfallplanung.
WORM-Speicher (Write-Once-Read-Many)
Unveränderlicher Speicher, der sicherstellt, dass Protokolle, Audit-Trails und Modellartefakte nach dem Schreiben nicht mehr geändert werden können, was die Fälschungssicherheit und forensische Überprüfungen unterstützt.
X
Audit der erklärbaren KI (XAI)
Ein Überprüfungsprozess, der bewertet, ob die Ergebnisse zur KI-Erklärbarkeit internen Richtlinien und regulatorischen Anforderungen entsprechen, um eine ausreichende Transparenz zu gewährleisten.
Erklärbare KI (XAI)
Techniken und Methoden, die den Entscheidungsprozess eines KI-Modells für den Menschen transparent und nachvollziehbar machen und so die Rechenschaftspflicht und Compliance unterstützen.
XAI-Framework
Ein strukturierter Ansatz oder ein Framework von Richtlinien, die Organisationen nutzen, um Erklärbarkeitspraktiken in ihren KI-Systemen zu implementieren, zu messen und zu steuern.
XAI-Metriken
Quantitative oder qualitative Kennzahlen (z. B. Feature-Importance-Scores, Erklärungs-Fidelity), die zur Bewertung der Qualität und Zuverlässigkeit von KI-Erklärungen herangezogen werden.
Ja
Jährliche Compliance-Überprüfung
Eine jährliche Überprüfung der KI-Governance-Prozesse, -Richtlinien und -Systeme, um die kontinuierliche Einhaltung von Vorschriften und internen Standards zu gewährleisten.
Z
Null-Toleranz für Fehler
Ein Governance-Prinzip, das darauf abzielt, Fehler oder Richtlinienverstöße in KI-Ergebnissen vollständig zu vermeiden. Unterstützt wird dies durch strenge Tests, kontinuierliche Überwachung und fortlaufende Optimierungszyklen.
Zonenbasierte Zugriffskontrolle
Ein Netzwerk- oder Data-Governance-Ansatz, der Ressourcen in Zonen mit unterschiedlichen Richtlinien unterteilt und den Zugriff auf KI-Systeme entsprechend der Datensensitivität einschränkt.
Abonnieren Sie unseren Newsletter
Mit Ihrer Anmeldung stimmen Sie der Datenschutzerklärung von Enzai zu.
Abonnieren Sie unseren Newsletter
Mit Ihrer Anmeldung stimmen Sie der Datenschutzerklärung von Enzai zu.
Abonnieren Sie unseren Newsletter
Mit Ihrer Anmeldung stimmen Sie der Datenschutzerklärung von Enzai zu.
Abonnieren Sie unseren Newsletter
Mit Ihrer Anmeldung stimmen Sie der Datenschutzerklärung von Enzai zu.
KI-Governance
KI-Governance
Infrastruktur
Infrastruktur
Für Vertrauen entwickelt.
Für Vertrauen entwickelt.
Ermöglichen Sie Ihrer Organisation die Einführung, Steuerung und Überwachung von KI mit unternehmensgerechtem Vertrauen. Entwickelt für regulierte Organisationen, die im großen Maßstab operieren.
Verbinden Sie Ihre bestehenden Systeme, Richtlinien und KI-Workflows nahtlos miteinander – alles auf einer einzigen, einheitlichen Plattform.
Verbinden Sie Ihre bestehenden Systeme, Richtlinien und KI-Workflows nahtlos miteinander – alles auf einer einzigen, einheitlichen Plattform.