Produkte
Entdecken Sie das vollständige Sortiment an KI-Governance-Produkten von Enzai, das darauf ausgelegt ist, Organisationen dabei zu helfen, KI mit Vertrauen zu verwalten, zu überwachen und zu skalieren. Von strukturierten Aufnahmen und zentralisierten KI-Inventaren bis hin zu automatisierten Bewertungen und Echtzeitüberwachung bietet Enzai die Bausteine, um Governance direkt in alltägliche KI-Workflows einzubetten — ohne die Innovation zu verlangsamen.
Alle
Whitepaper
Vorschriften für KI
Podcasts
Produktaktualisierungen
Presseberichterstattung
Glossar
Treten Sie unserem Podcast bei oder arbeiten Sie an Inhalten mit uns zusammen
Kontaktieren Sie uns, und wir werden sehen, was wir gemeinsam produzieren können.
Ein
Nutzungsrichtlinie (Acceptable Use Policy)
Ein von einem Unternehmen aufgestelltes Regelwerk, das festlegt, in welcher Form Mitarbeiter die vom Unternehmen bereitgestellten KI-Tools nutzen dürfen und welche Nutzungsweisen untersagt sind.
Akkreditierte Zertifizierung
Ein Zertifikat, das von einer Zertifizierungsstelle ausgestellt wurde, die von einer nationalen Akkreditierungsstelle (wie ANAB oder UKAS) offiziell als kompetent für die Auditierung nach einer bestimmten Norm anerkannt wurde.
Aktionsvorschau
Eine Governance-Anforderung, nach der ein KI-Agent genau anzeigen muss, welche Auswirkungen eine irreversible Aktion haben wird, bevor eine menschliche Freigabe erfolgt.
Aktions-Whitelisting
Eine Sicherheits- und Governance-Kontrollfunktion, die festlegt, welche Tools, APIs und Aktionen ein KI-Agent ausschließlich ausführen darf.
Gegnerischer Angriff
Techniken, die AI-Modelle durch das Einführen täuschender Eingaben manipulieren, um fehlerhafte Ergebnisse zu verursachen.
Agenten-Plattform
Ein integriertes Laufzeitsubstrat, das mehrere KI-Agenten sowie die Modelle, Tools und Daten, von denen sie abhängen, hostet, orchestriert und steuert.
Übernahme von Agentenzielen (ASI01)
Eine Schwachstelle, bei der ein Angreifer die Ziele oder Entscheidungspfade eines Agenten manipuliert, um dessen autonomes Verhalten auf unerwünschte Ergebnisse umzulenken.
Agenten-Mesh
Eine vernetzte Topologie, in der KI-Agenten über eine gemeinsame Infrastrukturschicht einander entdecken, miteinander kommunizieren und gegenseitig Aufgaben delegieren.
Agentic KI
Eine Klasse von künstlichen Intelligenzsystemen, die darauf ausgelegt ist, komplexe Ziele selbstständig zu verfolgen und mehrstufige Aktionen (wie Softwarebereitstellung oder Finanztransaktionen) mit minimalem menschlichen Eingriff auszuführen.
Agentische KI-Governance
Die Steuerung autonomer KI-Systeme, die unabhängig agieren können (z.B. Transaktionen, Code-Bereitstellung), unterscheidet sich von voraussschauender KI (die Einblicke bietet) und generativer KI (die Inhalte erstellt).
Agentenbasierte Richtlinien-Engine
Eine Laufzeit-Softwarekomponente, die Aktionen von Agenten abfängt und diese vor der Ausführung anhand einer Reihe deterministischer Governance-Regeln bewertet.
Verantwortlichkeit der KI
Die Verpflichtung der Entwickler und Betreiber von KI-Systemen, sicherzustellen, dass ihre Systeme verantwortungsvoll entworfen und verwendet werden, unter Einhaltung ethischer Standards und gesetzlicher Anforderungen.
KI-Ausrichtung
Der Prozess, sicherzustellen, dass die Ziele und Verhaltensweisen von KI-Systemen mit menschlichen Werten und Absichten in Einklang stehen.
KI-Assistent
Ein System für konversationelle KI, das darauf ausgelegt ist, Nutzer bei der Erledigung von Aufgaben durch Interaktion in natürlicher Sprache zu unterstützen, typischerweise betrieben durch ein großes Sprachmodell.
KI-Prüfung
Die systematische Bewertung von KI-Systemen zur Beurteilung der Einhaltung von ethischen Standards, Vorschriften und Leistungskennzahlen.
KI-Voreingenommenheit
Systematische Fehler in den Ausgaben der KI, die durch voreingenommene Trainingsdaten oder fehlerhafte Algorithmen entstehen und zu unfaire Ergebnisse führen.
KI-Software-Stückliste (AIBOM)
Ein strukturiertes Inventar, das die Komponenten eines KI-Systems auflistet – einschließlich Basismodellen, Trainingsdatensätzen, Bibliotheken und Abhängigkeiten. Dies ist das KI-Äquivalent zu einer Software-Stückliste (Software Bill of Materials, SBOM).
KI-Konformität
Die Einhaltung von geltenden Gesetzen, Vorschriften und ethischen Richtlinien durch KI-Systeme während ihres gesamten Lebenszyklus.
KI-Ethik
Das Fachgebiet, das sich mit den moralischen Implikationen und Verantwortlichkeiten im Zusammenhang mit der Entwicklung und Implementierung von KI-Technologien befasst.
Erklärbarkeit von KI
Das Ausmaß, in dem die internen Mechanismen eines KI-Systems von Menschen verstanden und interpretiert werden können.
KI-Fußabdruck
Die Gesamtheit aller KI-Systeme, -Modelle, -Agenten und integrierten KI-Funktionen, die zu einem bestimmten Zeitpunkt in einem Unternehmen im Einsatz sind, einschließlich offiziell genehmigter sowie inoffizieller Systeme (Schatten-IT).
KI-Governance
Das Rahmenwerk aus Richtlinien, Prozessen und Kontrollmechanismen, das die ethische und effektive Entwicklung und Nutzung von KI-Systemen leitet.
KI-Governance für Finanzdienstleistungen
Die spezialisierte Anwendung von KI-Risikomanagement-Frameworks zur Erfüllung der strengen Aufsichts- und Verhaltensanforderungen des Banken- und Versicherungssektors.
KI-Governance-Software
Spezialisierte Enterprise-Tools zur Automatisierung der Inventarisierung, Risikobewertung und regulatorischen Compliance von Systemen der künstlichen Intelligenz.
KI-Inventar
Ein umfassender, zentralisierter Katalog aller KI-Systeme, Modelle und Agenten, die in einer Organisation verwendet werden, der ihren Geschäftszweck, das Risikoniveau und die Eigentümerschaft verfolgt.
EU-KI-Haftungsrichtlinie
Ein Entwurf für eine EU-Richtlinie, die darauf abzielt, das Verfahren für Kläger zur Geltendmachung von durch KI-Systeme verursachten Schäden zu vereinfachen, indem eine widerlegbare Kausalitätsvermutung eingeführt wird.
KI-Kompetenz
Das Verständnis von KI-Konzepten, Fähigkeiten und Einschränkungen, ermöglicht eine informierte Interaktion mit KI-Technologien.
Management-System für Künstliche Intelligenz (AIMS)
Eine Reihe von miteinander in Beziehung stehenden oder sich gegenseitig beeinflussenden Elementen einer Organisation zur Festlegung von Richtlinien, Zielen und Prozessen für die verantwortungsvolle Entwicklung oder Nutzung von KI.
KI-Überwachung
Die kontinuierliche Beobachtung und Analyse der Leistung von KI-Systemen, um Zuverlässigkeit, Sicherheit und Compliance zu gewährleisten.
KI-Risiko
Das Potenzial von KI-Systemen, Schaden oder unbeabsichtigte Folgen zu verursachen, einschließlich ethischer, rechtlicher und betrieblicher Risiken.
KI-Risikomanagement
Der Prozess der Identifizierung, Bewertung und Minderung von Risiken im Zusammenhang mit KI-Systemen.
Wildwuchs von KI-Anwendungen
Die unkontrollierte Verbreitung von KI-Systemen im gesamten Unternehmen, die in der Regel durch den einfachen Zugang zu KI-Tools und das Fehlen effektiver Erfassungs- und Inventarisierungsprozesse begünstigt wird.
Folgenabschätzung für KI-Systeme
Ein formelles Verfahren zur Bewertung der potenziellen Folgen des Einsatzes eines KI-Systems auf Einzelpersonen, Gruppen und die Gesellschaft als Ganzes.
KI-Transparenz
Das Prinzip, dass KI-Systeme offen und transparent über ihre Abläufe, Entscheidungen und Datennutzung informieren sollten.
KI TRiSM
Ein von Gartner geprägtes Akronym, das für KI-Vertrauen, Risiko- und Sicherheitsmanagement steht; ein Rahmenwerk, das Governance, Vertrauenswürdigkeit und Sicherheit in eine einzige operative Strategie vereint.
Gesetz über künstliche Intelligenz und Daten (AIDA)
Kanadas föderaler Regulierungsrahmen (Teil des Gesetzesentwurfs Bill C-27), der darauf abzielt, eine sichere und vorurteilsfreie Entwicklung sowie Nutzung von KI-Systemen mit weitreichenden Auswirkungen zu gewährleisten.
Algorithmische Verzerrung
Ein Bias, der auftritt, wenn ein Algorithmus systematisch voreingenommene Ergebnisse produziert, aufgrund fehlerhafter Annahmen im maschinellen Lernprozess.
Algorithmische Verwaltung
Der Einsatz von Algorithmen zur Steuerung und Regulierung gesellschaftlicher Funktionen, der potenziell die Entscheidungsprozesse beeinflussen kann.
Amnestie-Programm
Eine zeitlich begrenzte Governance-Initiative, bei der Mitarbeitende dazu eingeladen werden, die Nutzung nicht genehmigter KI-Tools offenzulegen, ohne disziplinarische Maßnahmen befürchten zu müssen.
Produkte gemäß Anhang I
Eine Liste von Produkten, die bereits dem EU-Gesundheits- und Sicherheitsrecht unterliegen (z. B. Maschinen, Medizinprodukte) und bei denen integrierte KI gemäß der EU-KI-Verordnung automatisch als Hochrisiko eingestuft wird.
Anhang-III-Kategorien
Eine spezifische Liste von hochriskanten KI-Anwendungsbereichen, die im EU-KI-Gesetz definiert sind und zwingende Compliance-Verpflichtungen auslösen.
Analyse des API-Traffics
Der technische Prozess der Überwachung und Überprüfung von Netzwerkaufrufen an externe KI-Dienstleister.
Ausnahme gemäß Artikel 6 Absatz 3
Ein Selbstbestimmungsmechanismus unter dem EU-KI-Gesetz, der es Anbietern ermöglicht, ein KI-System der Anlage III als nicht hochriskant einzustufen, sofern es kein erhebliches Risiko darstellt.
Artikel 25 (EU-Gesetz über künstliche Intelligenz)
Die Bestimmung des EU-KI-Gesetzes, die eine direkte Verpflichtungskette zwischen Anbietern und Betreibern von Hochrisiko-KI-Systemen schafft, einschließlich der Haftungsübertragung bei wesentlichen Systemänderungen.
Artikel 50 (EU-Gesetz über künstliche Intelligenz)
Die Bestimmung des EU-KI-Gesetzes, die Transparenzpflichten für KI-Systeme festlegt, die mit Menschen interagieren, synthetische Inhalte generieren oder Deepfakes erstellen.
Australische Richtlinie für sichere und verantwortungsvolle KI
Die Richtlinie der australischen Bundesregierung zur Regulierung des Einsatzes künstlicher Intelligenz im öffentlichen Dienst und in Regierungsbehörden.
Automatisierte KI-Governance
Der Einsatz von Software- und API-Integrationen zur Durchführung kontinuierlicher Compliance-Prüfungen und Risikoüberwachungen in Echtzeit ohne manuelles Eingreifen.
B
Verstärkung von Verzerrungen
Das Phänomen, bei dem KI-Systeme bestehende Vorurteile in den Trainingsdaten verstärken und zu zunehmend verzerrten Ergebnissen führen.
Voreingenommenheitsprüfung
Ein Bewertungsprozess zur Erkennung und Minderung von Verzerrungen in KI-Systemen, um Fairness und die Einhaltung ethischer Standards sicherzustellen.
Voreingenommenheitserkennung
Der Prozess der Identifizierung von Verzerrungen in KI-Modellen durch Analyse ihrer Ergebnisse und Entscheidungsprozesse.
Voreingenommenheitsminderung
Techniken, die während der KI-Entwicklung angewendet werden, um Vorurteile in Modellen und Datensätzen zu reduzieren oder zu beseitigen.
Brasilianischer Gesetzentwurf zur KI (PL 2338/2023)
Brasiliens primäres gesetzgeberisches Vorhaben zur Schaffung eines nationalen Rahmens für KI-Rechte und deren Regulierung.
Brüsseler Effekt
Das Phänomen, bei dem EU-Regulierungen durch Marktzugangsbedingungen zum weltweiten Standard werden, selbst für Unternehmen mit Hauptsitz außerhalb der EU.
C
Kalifornisches Gesetz AB 1008
Eine Änderung des CCPA, die klarstellt, dass personenbezogene Daten auch solche Daten umfassen, die von KI-Systemen generiert oder ausgegeben werden.
Kalifornisches Gesetz AB 3030
Ein kalifornisches Gesetz, das Transparenz vorschreibt, wenn generative KI im Gesundheitswesen zur Kommunikation mit Patientinnen und Patienten eingesetzt wird.
Kalifornische ADMT-Regulierungen
Vorschriften des California Consumer Privacy Act (CCPA) zur Regulierung von automatisierten Entscheidungsfindungstechnologien (Automated Decision-Making Technology, ADMT).
Kalifornische FEHA-KI-Regulierungen
Staatliche Vorschriften im Rahmen des Fair Employment and Housing Act (FEHA) zur Bekämpfung von KI-gestützter Diskriminierung am Arbeitsplatz.
Kalifornisches Gesetz zur KI-Transparenz (SB 942)
Gesetzgebung, die große Anbieter von generativen KI-Systemen verpflichtet, Erkennungswerkzeuge bereitzustellen sowie latente und offensichtliche Offenlegungen in KI-generierte Inhalte einzubetten.
Kaskadierender Fehler (ASI08)
Ein Fehlermodus, bei dem ein Fehler oder eine böswillige Eingabe im Denkprozess eines KI-Agenten eine Kettenreaktion von Ausfällen über mehrere verbundene Agenten oder Systeme hinweg auslöst.
CE-Kennzeichnung
Ein zwingend erforderliches Zertifizierungskennzeichen, das die Konformität eines KI-Systems mit den Gesundheits-, Sicherheits- und Umweltschutzstandards für Produkte bestätigt, die innerhalb des EWR verkauft werden.
Benachrichtigungszeitfenster ändern
Ein vertraglich festgelegter Zeitraum, in dem ein Anbieter den Kunden über wesentliche Aktualisierungen eines KI-Modells informieren muss, bevor diese Aktualisierungen in der Produktivumgebung implementiert werden.
Interimsregelungen für generative KI in China
Regulatorische Anforderungen für generative KI-Dienste, die für die chinesische Öffentlichkeit bereitgestellt werden.
KI-Konvention des Europarats
Der erste rechtlich bindende internationale Vertrag über KI, der sich auf den Schutz der Menschenrechte, der Demokratie und der Rechtsstaatlichkeit konzentriert.
Colorado AI Act (SB 24-205, außer Kraft getreten 2026)
Das Colorado-KI-Gesetz (SB 24-205), die erste umfassende KI-Regelung auf US-Bundesstaatsebene, wurde im Mai 2026 aufgehoben und durch das Gesetz Colorado SB 26-189 ersetzt, das am 1. Januar 2027 in Kraft tritt und einen engeren Fokus auf automatisierte Entscheidungsfindungstechnologien legt.
Colorado AI Act (SB 26-189)
Colorado SB 26-189 ist der im Jahr 2026 beschlossene Nachfolger des ursprünglichen Colorado AI Act (SB 24-205). Das Gesetz tritt am 1. Januar 2027 in Kraft und konzentriert sich auf regulatorische Verpflichtungen für automatisierte Entscheidungssysteme, die wesentliche und folgenschwere Entscheidungen über Bürgerinnen und Bürger in Colorado treffen.
Compliance-Rahmenwerk
Ein strukturierter Satz von Richtlinien und Best Practices, denen Organisationen folgen, um sicherzustellen, dass ihre KI-Systeme regulatorische und ethische Standards erfüllen.
Compliance-Risiko
Das Potenzial für rechtliche oder regulatorische Sanktionen, finanzielle Verluste oder Reputationsschäden, dem ein Unternehmen ausgesetzt ist, wenn es versäumt, gesetzliche Vorschriften, Regulierungen oder vorgegebene Praktiken einzuhalten.
Konzeptdrift
Die Veränderung der statistischen Eigenschaften der Zielvariablen, die das Modell vorherzusagen versucht, im Laufe der Zeit, was zu einer Verschlechterung des Modells führt.
Konformitätsbewertung
Ein Verfahren zur Bestimmung, ob ein KI-System festgelegte Anforderungen, Standards oder Vorschriften erfüllt, das häufig Tests und Zertifizierungen umfasst.
Interne Kontrolle (Konformitätsbewertung)
Ein Verfahren im Rahmen des EU-KI-Gesetzes, bei dem ein Anbieter selbst bestätigt, dass sein Hochrisiko-KI-System alle regulatorischen Anforderungen erfüllt, ohne dass eine Prüfung durch eine unabhängige Stelle erforderlich ist.
Steuerbarkeit
In welchem Maße Menschen die Entscheidungen und Verhaltensweisen eines KI-Systems lenken, beeinflussen oder übersteuern können.
Mandat des AStV
Das Verhandlungsmandat, das die Botschafter der EU-Mitgliedstaaten (Ausschuss der Ständigen Vertreter) der rotierenden Ratspräsidentschaft für Trilog-Verhandlungen über EU-Rechtsvorschriften erteilen.
Kryptografische Agenten-Identität
Ein verifizierbarer digitaler Berechtigungsnachweis (oftmals ein dezentraler Identifikator oder DID), der einen KI-Agenten und dessen Autorisierungsstufe eindeutig identifiziert.
D
Datenabweichung
Die Veränderung der Modell-Eingabedaten im Laufe der Zeit kann zu einer Verschlechterung der Modellleistung führen, wenn diese nicht überwacht und behoben wird.
Datenethik
Der Bereich der Ethik, der Datenpraktiken im Hinblick auf die moralischen Verpflichtungen bei der Erfassung, dem Schutz und der Nutzung personenbezogener Informationen bewertet.
Datenverwaltung
Die umfassende Verwaltung der Datenverfügbarkeit, Benutzerfreundlichkeit, Integrität und Sicherheit in einem Unternehmen, um sicherzustellen, dass Daten während ihres gesamten Lebenszyklus ordnungsgemäß behandelt werden.
Risiko bei der Datenübernahme
Das Risiko, dass vertrauliche oder geschützte Informationen während der Interaktion eines Benutzers dauerhaft in den Trainingsdatensatz eines KI-Modells aufgenommen werden.
Datenlebenszyklusverwaltung
Die richtlinienbasierte Verwaltung des Datenflusses über den gesamten Lebenszyklus: von der Erstellung und anfänglichen Speicherung bis zu dem Zeitpunkt, an dem die Daten veraltet sind und gelöscht werden.
Datenminimierung
Das Prinzip, nur die Daten zu erfassen, die für einen bestimmten Zweck erforderlich sind, reduziert das Risiko von Missbrauch oder Verstößen.
Datenschutz
Der Bereich der Informationstechnologie, der sich mit der Fähigkeit befasst, zu kontrollieren, welche Daten geteilt werden und mit wem, und dabei sicherzustellen, dass personenbezogene Daten angemessen behandelt werden.
Datenschutz
Der Prozess, wichtige Informationen vor Beschädigung, Kompromittierung oder Verlust zu schützen und die Einhaltung der Datenschutzgesetze und -vorschriften zu gewährleisten.
Datenherkunft
Eine dokumentierte Erfassung der Herkunft, der Eigentumsverhältnisse und des Lebenszyklus eines Datensatzes, der für das Training oder die Feinabstimmung eines KI-Modells verwendet wird.
Datenqualität
Der Zustand von Daten, basierend auf Faktoren wie Genauigkeit, Vollständigkeit, Zuverlässigkeit und Relevanz, ist entscheidend für die effektive Leistung von KI-Modellen.
Datenresidenz
Der physische oder geografische Standort der Daten einer Organisation, der Auswirkungen auf die Einhaltung von Datenschutzgesetzen haben kann.
Datenhoheit
Das Konzept, dass Daten den Gesetzen und Governance-Strukturen des Landes unterliegen, in dem sie gesammelt, gespeichert oder verarbeitet werden.
Betroffene Person
Eine Person, deren personenbezogene Daten erfasst, gespeichert oder verarbeitet werden, was insbesondere im Kontext von Datenschutzgesetzen wie der DSGVO relevant ist.
De-Identifikation
Der Prozess der Entfernung oder Verschleierung personenbezogener Kennungen in Datensätzen, um es schwierig zu machen, Einzelpersonen zu identifizieren, wird verwendet, um die Privatsphäre zu schützen.
Täuschungstechnologie
Synthetische Medien, bei denen eine Person in einem bestehenden Bild oder Video durch das Abbild einer anderen Person ersetzt wird, das mit Hilfe von Deep-Learning-Techniken erstellt wurde.
Differentialer Datenschutz
Ein System zur öffentlichen Weitergabe von Informationen über einen Datensatz, indem Muster von Gruppen innerhalb des Datensatzes beschrieben werden, während Informationen über Einzelpersonen zurückgehalten werden.
Das digitale EU-Omnibusgesetz zur Künstlichen Intelligenz
Ein Gesetzgebungspaket für 2025/2026, das darauf ausgelegt ist, technische Standards, Konformitätsbewertungen und Durchsetzungszeitpläne im Rahmen des EU-KI-Gesetzes und damit verbundener digitaler Sicherheitsgesetze zu rationalisieren und zu harmonisieren.
Diskriminierung
Im Bereich der KI bezieht sich dies auf die unfaire Behandlung von Einzelpersonen oder Gruppen aufgrund von Verzerrungen in Daten oder Algorithmen, die zu ungleichen Ergebnissen führen.
Dual-Use-Basismodell
Ein KI-Modell, das auf einer enormen Datenmenge trainiert wurde und über eine leistungsstarke Performance verfügt, sodass es sowohl für zivile als auch für schädliche oder militärische Zwecke eingesetzt werden kann.
Dynamische Risikoanalyse
Der kontinuierliche Prozess der Identifizierung und Bewertung von Risiken in Echtzeit ermöglicht rechtzeitige Reaktionen auf neu auftretende Bedrohungen in KI-Systemen.
E
Enzai
Eine Unternehmensplattform für KI-Governance, die es Organisationen ermöglicht, ihre KI-Systeme zu inventarisieren, bewerten und steuern, um eine maximale Einführung von KI zu gewährleisten und zugleich das Risiko zu minimieren.
Eskalationslogik
Ein Satz vordefinierter Regeln und Auslöser, die einen KI-Agenten zwingen, den autonomen Betrieb einzustellen und die Kontrolle wieder an einen menschlichen Bediener zu übergeben.
ESMA-Erwartungen an die KI/ML-Governance
Regulatorische Richtlinien der Europäischen Wertpapier- und Marktaufsichtsbehörde bezüglich des Einsatzes von Abstrakter Intelligenz (KI) und maschinellem Lernen auf den Finanzmärkten.
Ethische KI
Die Praxis, KI-Systeme auf eine Weise zu entwerfen, zu entwickeln und bereitzustellen, die mit ethischen Prinzipien und Werten übereinstimmt, um Fairness, Verantwortlichkeit und Transparenz zu gewährleisten.
Ethisches KI-Audit
Der Prozess der systematischen Bewertung von KI-Systemen, um sicherzustellen, dass sie den ethischen Standards entsprechen und keinen Schaden verursachen.
Zertifizierung für ethische KI
Eine formale Anerkennung, dass ein KI-System etablierten ethischen Standards und Richtlinien entspricht.
Ethische KI-Governance
Der Rahmen von Richtlinien, Verfahren und Praktiken, die sicherstellen, dass KI-Systeme verantwortungsvoll und ethisch entwickelt und verwendet werden.
Ethische Rahmenwerke
Strukturierte Sätze von Prinzipien und Richtlinien, die dazu bestimmt sind, die ethische Entwicklung und Implementierung von KI-Systemen zu leiten.
Ethische Auswirkungen Bewertung
Ein systematischer Evaluierungsprozess zur Identifizierung und Berücksichtigung der ethischen Implikationen und potenziellen gesellschaftlichen Auswirkungen von KI-Systemen vor deren Einsatz.
Ethisches Risiko
Das Potenzial eines KI-Systems, Schaden durch unethisches Verhalten wie Voreingenommenheit, Diskriminierung oder Verletzung der Privatsphäre zu verursachen.
Ethische Leitlinien für vertrauenswürdige KI
Ein Satz von Richtlinien, die von der hochrangigen Expertengruppe der Europäischen Kommission für KI entwickelt wurden, um vertrauenswürdige KI zu fördern, wobei der Schwerpunkt auf menschlicher Handlungskompetenz, technischer Robustheit, Datenschutz, Transparenz, Vielfalt, gesellschaftlichem Wohlergehen und Verantwortung liegt.
EU-KI-Gesetz
Das weltweit erste umfassende horizontale Regelwerk für KI, das ein risikobasiertes Klassifizierungssystem für Systeme etabliert, die innerhalb der Europäischen Union bereitgestellt oder genutzt werden.
Hochrisiko-Kategorien gemäß dem EU-KI-Gesetz
Die beiden Einstufungen von Hochrisiko-KI-Systemen im Rahmen des EU-KI-Gesetzes (EU AI Act): eigenständige Systeme, die in Anhang III aufgeführt sind (einschließlich Biometrie, kritischer Infrastruktur, Beschäftigung, Bildung, Strafverfolgung und anderer genannter Verwendungszwecke), und in regulierte Produkte eingebettete KI, die in Anhang I aufgeführt sind (einschließlich Medizinprodukten, Fahrzeugen, Maschinen und anderen regulierten Produktkategorien).
Risikoklassifizierung nach dem EU-Gesetz über künstliche Intelligenz
Der vorgeschriebene Prozess zur Einstufung eines KI-Systems in eine von vier Risikoklassen (unacceptable, high, limited, minimal risk) gemäß dem EU-Gesetz über künstliche Intelligenz (EU AI Act).
EU-Amt für KI
Das Gremium der Europäischen Kommission, das für die Überwachung der Umsetzung und Durchsetzung der EU-KI-Verordnung eingerichtet wurde, insbesondere im Hinblick auf KI-Modelle mit allgemeinem Verwendungszweck und systemischem Risiko.
Digitale Omnibus-Richtlinie der EU
Das umfassendere Gesetzgebungs-Vereinfachungspaket der Europäischen Union für den Zeitraum 2025–2026, das verschiedene digitale Verordnungen adressiert, darunter das Gesetz über künstliche Intelligenz (AI Act), Bestimmungen der DSGVO, das Cyber-Resilienz-Gesetz sowie Änderungen des Datengesetzes (Data Act).
Übermäßige Handlungsbefugnis
Eine Sicherheitslücke, bei der einem KI-System im Verhältnis zu seiner beabsichtigten Funktion ein zu hohes Maß an Autonomie, zu viele Werkzeuge oder übermäßig privilegierte Zugriffsrechte gewährt werden.
Executive Order 14110
Die Regierungsrichtlinie der Biden-Administration (unterzeichnet im Oktober 2023, aufgehoben im Januar 2025), die nationale US-Standards für die Sicherheit, Vertrauenswürdigkeit und den Datenschutz von KI festlegte und das U.S. AI Safety Institute am NIST ins Leben rief.
Techniken der Erklärbarkeit
Methoden zur Interpretation und zum Verständnis der Entscheidungen von KI-Modellen, wie LIME, SHAP und Salienzabbildungen.
Erklärbarkeit vs. Interpretierbarkeit
Während beide darauf abzielen, KI-Entscheidungen verständlich zu machen, konzentriert sich die Erklärbarkeit auf die Begründung der Entscheidungen, während sich die Interpretierbarkeit auf die Transparenz der internen Mechanismen des Modells bezieht.
Erklärbare KI (XAI)
KI-Systeme, die darauf ausgelegt sind, nachvollziehbare Begründungen für ihre Entscheidungen und Handlungen bereitzustellen, wodurch Transparenz und Vertrauen gestärkt werden.
Erklärbare Maschinelles Lernen
Maschinelle Lernmodelle, die entwickelt wurden, um klare und verständliche Erklärungen für ihre Vorhersagen und Entscheidungen bereitzustellen.
F
Fairness-Kennzahlen
Quantitative Maße (z.B. demografische Parität, gleichberechtigte Chancen), die verwendet werden, um zu bewerten, wie fair die Vorhersagen eines KI-Modells über verschiedene Gruppen hinweg sind.
Falsch Negativ
Wenn ein AI-Modell fälschlicherweise eine negative Klasse für eine Instanz vorhersagt, die tatsächlich positiv ist (Typ-II-Fehler).
Falsch-Positiv
Wenn ein KI-Modell fälschlicherweise eine positive Klasse für ein Beispiel prognostiziert, das in Wirklichkeit negativ ist (Typ-I-Fehler).
Fehlertoleranz
Die Fähigkeit eines KI-Systems, auch dann korrekt weiterzuarbeiten, wenn einige Komponenten ausfallen oder Fehler produzieren.
Föderierte KI-Governance
Ein Governance-Modell, bei dem zentrale Richtlinien und Aufsicht mit dezentralen Entscheidungsbefugnissen der Geschäftsbereiche oder regionalen Niederlassungen kombiniert werden, um ein ausgewogenes Verhältnis zwischen Konsistenz und operativer Flexibilität zu gewährleisten.
Rückkopplungsschleife
Ein Prozess, bei dem KI-Ausgaben als Eingaben zurückgeführt werden, wodurch das Modellverhalten verstärkt werden kann – zum Positiven (verstärkendes Lernen) oder zum Negativen (Verstärkung von Verzerrungen).
FS AI RMF (Risikomanagement-Framework für künstliche Intelligenz im Finanzdienstleistungssektor)
Das im Februar 2026 veröffentlichte, spezialisierte KI-Risikomanagement-Framework des US-Finanzministeriums für Finanzdienstleistungsunternehmen, welches das NIST AI RMF an sektorspezifische Verpflichtungen anpasst.
Funktionale Sicherheit
Sicherzustellen, dass KI-Systeme unter allen Bedingungen sicher funktionieren, insbesondere in Branchen wie der Automobilindustrie oder dem Gesundheitswesen, erfolgt oft durch Redundanz und Überprüfungen.
Grundrechtecharta-Folgenabschätzung (FRIA)
Eine nach dem EU-KI-Gesetz für bestimmte Bereitsteller obligatorische Bewertung zur Bestimmung der Auswirkungen, die der Einsatz eines Hochrisiko-KI-Systems auf die Bürgerrechte und Menschenrechte haben könnte.
G
Lückenanalyse
Der Prozess, aktuelle KI-Governance-Praktiken mit den gewünschten Standards oder Vorschriften zu vergleichen, um Bereiche zu identifizieren, die Verbesserungen benötigen.
DSGVO
Die Datenschutz-Grundverordnung der EU legt strenge Anforderungen für die Erfassung, Verarbeitung und die individuellen Rechte persönlicher Daten fest.
Zielabweichung
Ein Phänomen, bei dem sich die internen Teilziele oder Argumentationspfade eines KI-Agenten schrittweise von den ursprünglich durch den Menschen vorgegebenen Zielen entfernen.
Lenkungsgremium
Eine funktionsübergreifende Gruppe (z. B. rechtlich, ethisch, technisch), die damit betraut ist, die Richtlinien zur KI-Governance innerhalb einer Organisation zu überwachen und deren Umsetzung zu gewährleisten.
Governance-Rahmenwerk
Ein strukturiertes Modell, das darlegt, wie die Komponenten der KI-Governance (Risikomanagement, Verantwortlichkeit, Aufsicht) zusammenpassen, um die Einhaltung von Vorschriften und die ethische Nutzung sicherzustellen.
Reifegradmodell für Governance
Ein gestuftes Rahmenwerk, das bewertet, wie fortgeschritten die KI-Governance-Praktiken einer Organisation sind, von ad-hoc bis optimiert.
Richtlinie zur Unternehmensführung
Ein formales Dokument, das Regeln, Rollen und Verfahren für die Entwicklung und Überwachung von KI innerhalb einer Organisation kodifiziert.
Governance-Bewertungssystem
Ein Dashboard oder Bericht, das wichtige Kennzahlen (z. B. Vorfälle von Voreingenommenheit, Compliance-Audits) zur Messung der Effektivität der KI-Governance im Laufe der Zeit verfolgt.
Verhaltenskodex für GPAI
Das detaillierte Regulierungsinstrument, das spezifische Verpflichtungen zur Transparenz, Sicherheitsprüfung und Risikominderung für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck (GPAI) gemäß dem Gesetz über künstliche Intelligenz der EU (EU AI Act) festlegt.
GPAI-Modell
Ein universell einsetzbares Modell der künstlichen Intelligenz, das in der Lage ist, eine Vielzahl unterschiedlicher Aufgaben auszuführen und sich nahtlos in verschiedene Anwendungen integrieren lässt.
Granulare Zustimmung
Ein Datenschutzansatz, der es Einzelpersonen ermöglicht, spezifische Berechtigungen für jede Art der Datennutzung zu erteilen oder zu verweigern, wodurch Transparenz und Kontrolle verbessert werden.
Leitplanken
Vordefinierte Einschränkungen oder Überprüfungen (technisch und richtlinienbasiert), die in KI-Systeme eingebettet sind, um unsicheres oder nicht konformes Verhalten zur Laufzeit zu verhindern.
Leitlinie (Ethische KI)
Eine unverbindliche Empfehlung oder ein Best-Practice-Dokument, das von Organisationen (z.B. IEEE, EU) herausgegeben wird, um die verantwortungsvolle Entwicklung und Implementierung von KI zu gestalten.
H
Halluzination
Wenn generative KI inkorrekte oder erfundene Informationen erstellt, die plausibel erscheinen, aber keine Grundlage in den Trainingsdaten haben.
Schadensbewertung
Bewertung potenzieller negativer Auswirkungen (physisch, psychologisch, gesellschaftlich) von KI-Systemen und Definition von Minderungsstrategien.
Harmonisierung
Harmonisierung von KI-Richtlinien, -Standards und -Vorschriften über verschiedene Rechtsgebiete hinweg, um Konflikte zu reduzieren und Interoperabilität zu ermöglichen.
Harmonisierte Struktur
Eine einheitliche Vorlage für alle ISO-Managementsystemnormen, ehemals bekannt als Annex SL, die für Konsistenz bei der Terminologie und der Nummerierung der Abschnitte sorgt.
Heuristische Bewertung
Eine Methode zur Gebrauchstauglichkeitsprüfung, bei der Experten ein KI-System anhand etablierter Gebrauchstauglichkeitsprinzipien beurteilen, um potenzielle Probleme zu identifizieren.
Hochrisiko-KI-System
KI-Anwendungen, die ein erhebliches Potenzial zur Gefährdung der Gesundheit, Sicherheit oder der Grundrechte von Personen aufweisen und somit die strengsten Compliance-Anforderungen gemäß dem EU-Gesetz über künstliche Intelligenz (EU AI Act) auslösen.
KI im Hochspannungsbereich
KI-Anwendungen, deren Ausfälle erheblichen Schaden verursachen könnten (z. B. medizinische Diagnosen, autonome Fahrzeuge), erfordern verstärkte Governance und Aufsicht.
Mensch-in-der-Schleife
Einbeziehung menschlicher Urteilsfähigkeit in KI-Prozesse (Schulung, Validierung, Entscheidungsüberprüfung), um Genauigkeit und Verantwortlichkeit zu verbessern.
Menschliche Aufsicht
Mechanismen, die es ausgewählten Personen ermöglichen, Entscheidungen von KI-Systemen zu überwachen, einzugreifen oder zu überschreiben, um ethische und gesetzliche Konformität sicherzustellen.
Auswirkungen auf die Menschenrechte Bewertung
Ein Verfahren zur Bewertung, wie KI-Systeme die Grundrechte (Privatsphäre, Meinungsfreiheit, Nichtdiskriminierung) beeinflussen, und zur Identifizierung von Minderungsmaßnahmen.
Ich
Auswirkungsbewertung
Eine strukturierte Bewertung zur Identifizierung, Analyse und Minderung potenzieller ethischer, rechtlicher und gesellschaftlicher Auswirkungen eines KI-Systems vor dessen Einsatz.
Durchführungsrechtsakte
Sekundärrecht der Europäischen Union, das von der Europäischen Kommission erlassen wird, um einheitliche Bedingungen für die Umsetzung von Primärrecht festzulegen, und das in allen Mitgliedstaaten rechtsverbindlich ist.
Anreizabstimmung
Die Gestaltung von Belohnungsstrukturen und Zielen, sodass die Zielsetzungen von KI-Systemen mit menschlichen Werten und organisatorischen Prioritäten übereinstimmen.
Induktive Verzerrung
Die Menge von Annahmen, die ein Lernalgorithmus verwendet, um von beobachteten Daten auf nicht gesehene Instanzen zu verallgemeinern.
Informationsverwaltung
Die Richtlinien, Verfahren und Kontrollen, die die Datenqualität, den Datenschutz und die Nutzbarkeit über die Datenbestände einer Organisation hinweg gewährleisten, einschließlich der Schulungsdatensätze für künstliche Intelligenz.
Datenschutzinformationen
Das Recht von Personen, zu kontrollieren, wie ihre persönlichen Daten von KI-Systemen gesammelt, verwendet, gespeichert und geteilt werden.
Vererbtes Datenrisiko
Das regulatorische und ethische Haftungsrisiko, das ein Unternehmen eingeht, wenn es ein KI-System einsetzt, das mit Daten trainiert wurde, die das Unternehmen nicht selbst erhoben oder überprüft hat.
Erfassungsworkflow
Der standardisierte Prozess und die Reihe von Prüfungen, die ein neues KI-System durchlaufen muss, bevor es entwickelt oder beschafft wird.
Absichtsvalidierung
Der Prozess der Verifizierung, dass die geplanten Teilschritte eines KI-Agenten konsistent mit dem ursprünglich vom Menschen vorgegebenen Ziel übereinstimmen.
Interoperabilität
Die Fähigkeit verschiedener KI-Systeme und -Komponenten, Informationen nahtlos auszutauschen, zu verstehen und zu nutzen, häufig über offene Standards oder APIs.
Interpretierbarkeit
Das Maß, in dem ein Mensch die inneren Mechanismen oder Entscheidungsgründe eines KI-Modells verstehen kann.
ISO/IEC 42001
Der internationale Standard, der Anforderungen für die Einführung, Implementierung, Aufrechterhaltung und kontinuierliche Verbesserung eines Managementsystems für Künstliche Intelligenz (AIMS) definiert.
ISO/IEC 42005
Der internationale Standard, der Richtlinien für die Durchführung von Folgenabschätzungen für KI-Systeme bereitstellt.
ISO/IEC JTC 1/SC 42
Der gemeinsame ISO/IEC-Ausschuss für die Standardisierung Künstlicher Intelligenz entwickelt internationale KI-Standards für Governance, Risiko und Interoperabilität.
J
Jailbreak-Angriff
Eine Art von Prompt-Injection, bei der Benutzer Schwachstellen ausnutzen, um Schutzmaßnahmen in generativen KI-Modellen zu umgehen, was möglicherweise zu unsicheren oder unautorisierten Ausgaben führen kann.
Japanisches Gesetz zur Förderung von KI
Ein japanisches Gesetz (beschlossen im Jahr 2025), das grundlegende Prinzipien zur Förderung von KI und zur Risikominderung festlegt.
Gemeinsame Haftung
Rechtsprinzip, bei dem mehrere Parteien (z. B. Entwickler, Betreiber) die Verantwortung für KI-bedingte Schäden teilen, was Einfluss auf Vertrags- und Governance-Strukturen hat.
Gemeinsame Modellierung
Entwicklung von KI-Systemen, die mehrere Aufgaben gleichzeitig lernen (z. B. Spracherkennung + Übersetzung), wobei eine Governance für Komplexität und Überprüfbarkeit erforderlich ist.
Rechtsraum
Die rechtliche Zuständigkeit über Daten, KI-Operationen und Haftung, die je nach geografischer Lage variiert und die Einhaltung regionaler Vorschriften beeinflusst (z. B. DSGVO, CCPA).
K
Schlüsselindikator für die Leistung
Ein quantifizierbarer Messwert (z. B. Modellgenauigkeitsdrift, Zeit zur Beseitigung von Vorurteilen), der zur Überwachung und Berichterstattung über Ziele der KI-Governance und Compliance verwendet wird.
Schlüsselrisikoindikator
Ein führender Messwert (z.B. Häufigkeit von unzutreffenden Vorhersagen, Rate unerklärlicher Entscheidungen), der auf aufkommende KI-Risiken hinweist, bevor sie sich manifestieren.
Wissensmanagement
Praktiken und Werkzeuge zur Erfassung, Organisation und Weitergabe von Organisationswissen (z. B. Modeldokumentation, Prüfungsprotokolle), um Reproduzierbarkeit und Aufsicht sicherzustellen.
L
Minimale Agenturabhängigkeit
Ein Sicherheits- und Governance-Prinzip, das besagt, dass KI-Agenten nur das minimale Maß an Autonomie und Werkzeugzugriff gewährt werden sollte, das zur Erfüllung einer bestimmten Aufgabe erforderlich ist.
Prinzip der minimalen Rechte
Ein Sicherheitsprinzip, bei dem KI-Komponenten und Benutzer nur die minimal erforderlichen Zugriffsrechte erhalten, die notwendig sind, um ihre Funktionen auszuführen, wodurch das Risiko eines Missbrauchs verringert wird.
Rechtliche Konformität
Die Praxis, sicherzustellen, dass KI-Systeme während ihres gesamten Lebenszyklus den geltenden Gesetzen, Vorschriften und Industriestandards entsprechen.
Haftungsrahmen
Ein strukturierter Ansatz zur Bestimmung der Verantwortlichkeiten bei KI-bezogenen Schäden oder Ausfällen, einschließlich Entwicklern, Implementierern und Betreibern.
Lebenszyklusmanagement
Die koordinierten Prozesse für Entwicklung, Bereitstellung, Überwachung, Wartung und Außerdienststellung von KI-Systemen, um kontinuierliche Compliance und Risikokontrolle sicherzustellen.
Lokalisierung
Anpassung von KI-Systemen an lokale Sprachen, Vorschriften, kulturelle Normen und Anforderungen an die Datenresidenz in verschiedenen Gerichtsbarkeiten.
M
Marktüberwachungsbehörde
Die nationale Regulierungsbehörde in jedem EU-Mitgliedstaat, die für die Überwachung von KI-Systemen zuständig ist, um deren Einhaltung des EU-KI-Gesetzes (EU AI Act) sicherzustellen.
MAS-FEAT-Prinzipien
Die Richtlinien der Monetary Authority of Singapore für Fairness, Ethik, Rechenschaftspflicht und Transparenz (FEAT) beim Einsatz von KI im Finanzwesen.
Bedeutungsvolle Menschliche Kontrolle
Ein regulatorischer und betrieblicher Standard, der sicherstellt, dass Menschen die Fähigkeit behalten, AI-Entscheidungsprozesse zu überwachen, einzugreifen und zu übersteuern.
Metadatenverwaltung
Die Praxis der Erfassung und Pflege beschreibender Daten (z. B. Datenherkunft, Merkmaldefinitionen, Modellparameter), um Rückverfolgbarkeit und Audits zu unterstützen.
Kennzahlen & Leistungsindikatoren
Quantitative Maße (z.B. Abweichung der Genauigkeit, Fairness-Scores, Reaktionszeiten bei Vorfällen), die zur Überwachung der Systemgesundheit, Risiken und Compliance-Ziele von KI-Systemen verwendet werden.
Mexikanisches Bundesgesetz über KI und Algorithmen
Ein Entwurf für ein mexikanisches Bundesgesetz zu KI und Algorithmen, das ein risikobasiertes Klassifizierungssystem, die Nationale KI-Kommission (CONAIA) sowie Anforderungen an die Kennzeichnung von KI-generierten Inhalten mittels Wasserzeichen vorschlägt.
Minderungsstrategien
Geplante Maßnahmen (z. B. Beseitigung von Voreingenommenheit, erneutes Training, Feature-Re-Engineering) zur Behebung identifizierter KI-Risiken und Compliance-Lücken.
Minnesota CDPA (Bestimmungen zur künstlichen Intelligenz)
Die KI-spezifischen Komponenten des Minnesota Consumer Data Privacy Act.
Modellkarte
Ein kurzes, standardisiertes Dokument mit wesentlichen Informationen über die Leistung, Einschränkungen und beabsichtigten Anwendungsfälle eines Machine-Learning-Modells.
Modell-Herausgabe
Eine aufsichtsrechtliche Maßnahme, die ein Unternehmen dazu verpflichtet, KI-Modelle oder -Algorithmen zu löschen, welche unter Verwendung unzulässig oder rechtswidrig erlangter Daten entwickelt wurden.
Modellabweichung
Der fortschreitende Qualitätsverlust der Vorhersageleistung eines KI-Modells im Laufe der Zeit, verursacht durch Veränderungen von realen Daten oder Umweltbedingungen.
Modellerklärbarkeit
Techniken und Dokumentation, die die Entscheidungslogik eines KI-Modells verständlich für Stakeholder und Prüfer machen.
Modellführung
Die Richtlinien, Rollen und Kontrollen, die sicherstellen, dass KI-Modelle in Übereinstimmung mit den organisatorischen Standards und regulatorischen Anforderungen entwickelt, genehmigt und verwendet werden.
Modellüberwachung
Kontinuierliches Überwachen der Leistung eines KI-Modells, der Datenverschiebung und der Betriebskennzahlen zur Erkennung von Verschlechterungen oder aufkommenden Risiken.
Modell-Neutraining
Der Prozess der Aktualisierung eines KI-Modells mit neuen oder aktualisierten Daten, um die Leistung und die Einhaltung der Vorschriften aufrechtzuerhalten, während sich die Datenverteilung weiterentwickelt.
Modellrisikomanagement
Der strukturierte Prozess zur Identifizierung, Bewertung und Minderung von Risiken, die sich aus KI/ML-Modellen während ihres gesamten Lebenszyklus ergeben.
Modellvalidierung
Die Evaluierungstätigkeiten (z. B. Tests mit zurückgestellten Daten, Stressszenarien), die bestätigen, dass ein KI-Modell seinen vorgesehenen Zweck und die Leistungskriterien erfüllt.
Engagement von mehreren Interessengruppen
Einbeziehung verschiedener Gruppen (z. B. Recht, Ethik, Betrieb, Endbenutzer) in die Prozesse der KI-Governance, um eine ausgewogene Risikokontrolle und die Ausrichtung auf Unternehmensziele sicherzustellen.
N
NIST KI-Risikomanagement-Rahmenwerk
Eine freiwillige Anleitung des US-amerikanischen National Institute of Standards and Technology, die bewährte Verfahren zur Risikominderung über den gesamten Lebenszyklus von KI-Systemen darlegt.
NIST AI RMF-Profile
Kontextspezifische Implementierungen des NIST AI Risk Management Frameworks, die speziell auf bestimmte Branchen, Technologien oder Risikoarten zugeschnitten sind.
Nicht-menschliche Identität (NHI)
Digitale Anmeldedaten, die von einem KI-Agenten, Bot oder Dienst verwendet werden, um sich gegenüber Unternehmenssystemen zu authentifizieren und mit diesen zu interagieren.
Benannte Stelle
Eine unabhängige Drittorganisation, die von einem EU-Mitgliedstaat benannt wird, um die Konformität bestimmter KI-Systeme mit hohem Risiko gemäß dem EU-KI-Gesetz zu bewerten.
NYC Local Law 144
Ein Gesetz der Stadt New York, das jährliche Audits zur Überprüfung von Voreingenommenheit bei KI-Tools vorschreibt, die für Personalentscheidungen eingesetzt werden.
O
Beobachtbarkeit
Die Fähigkeit, den internen Zustand und das Verhalten eines KI-Systems durch die Sammlung und Analyse von Protokollen, Metriken und Ausgaben für effektive Überwachung und Fehlerbehebung abzuleiten.
OMB-Memorandum M-25-21
Eine bundesweit geltende Richtlinie, die Anforderungen an die Governance und das Risikomanagement von KI für Behörden der US-Regierung festlegt.
Fortlaufende Überwachung
Kontinuierliches Tracking der Leistung von KI-Systemen, Datenverschiebungen, Verzerrungsmessungen und Sicherheitsereignissen, um auftretende Risiken im Laufe der Zeit zu erkennen und zu adressieren.
Operative Autonomie
Die Fähigkeit eines KI-Systems, mehrstufige Aufgaben auszuführen und Entscheidungen zu treffen, ohne dass in jeder Phase ein menschliches Eingreifen erforderlich ist.
Betriebliche Resilienz
Die Fähigkeit von KI-Systemen und deren unterstützender Infrastruktur, Störungen oder widrigen Ereignissen vorherzusehen, ihnen standzuhalten, sich davon zu erholen und sich anzupassen.
Risiko der Ausgabe
Die operationellen, rechtlichen und reputationsbezogenen Risiken, die sich aus der Verwendung fehlerhafter, voreingenommener oder schädlicher Inhalte ergeben, die von einem KI-System generiert wurden.
Überblick
Der strukturierte Prozess der Überprüfung, Genehmigung und Verantwortlichkeit für die Entwicklung und Bereitstellung von KI, der typischerweise funktionsübergreifende Governance-Instanzen umfasst.
OWASP Agentic Top 10
Eine formale Taxonomie der zehn kritischsten Sicherheitsrisiken, die spezifisch für autonome KI-Agenten und deren Anwendungsumgebungen sind.
P
Governance für den standardisierten Entwicklungspfad
Eine Strategie, die Compliance fördert, indem autorisierte, sichere Workflows einfacher zu befolgen sind als nicht autorisierte Alternativen.
Berechtigungsverwaltung
Die Verwaltung von Benutzer- und Systemzugriffsrechten auf KI-Daten und -Funktionen, um sicherzustellen, dass nur die minimalen erforderlichen Rechte vergeben werden und unbefugte Nutzung verhindert wird.
Pilotversuche
Ein begrenzter Versuch eines KI-Systems in einer kontrollierten Umgebung, um Leistung, Risiken und Governance-Kontrollen vor der vollständigen Einführung zu bewerten.
Richtlinienumsetzung
Die automatisierten oder manuellen Mechanismen, die sicherstellen, dass KI-Operationen den organisatorischen Richtlinien, regulatorischen Vorschriften und ethischen Leitlinien entsprechen.
Überwachungen nach der Bereitstellung
Fortlaufende Beobachtung des Verhaltens und der Umgebung von KI-Systemen nach deren Freigabe, um Abbau, Abweichungen oder Verstöße gegen die Compliance zu erkennen.
PRA SS1/23 (Management von Modellrisiken)
Die Erklärung der britischen Prudential Regulation Authority zum Modellrisikomanagement für Banken und Versicherer.
Konformitätsvermutung
Ein rechtlicher Mechanismus im Rahmen des EU-KI-Gesetzes und anderer Regelungen, bei dem die Einhaltung eines harmonisierten Standards (z. B. eines veröffentlichten EN-Standards) die widerlegbare Annahme begründet, dass die zugrunde liegende Verordnung erfüllt ist.
Datenschutz durch Design
Ein Ansatz, der Datenschutz und die Privatsphäre der Nutzer von Anfang an in die Architektur und die Prozesse des KI-Systems einbindet.
Datenschutz-Folgenabschätzung
Eine strukturierte Analyse zur Identifizierung und Minderung von Datenschutzrisiken im Zusammenhang mit KI-Systemen, die Datenerfassung, -nutzung, -weitergabe und -speicherung abdeckt.
Probabilistisches System
Ein System, dessen Ergebnisse auf statistischen Wahrscheinlichkeiten basieren und nicht auf einer deterministischen, festen Logik.
F
Qualitative Bewertung
Die subjektive Überprüfung von Verhaltensweisen, Entscheidungen und Dokumentationen von KI-Systemen durch Experten, um ethische, rechtliche oder rufschädigende Bedenken zu identifizieren, die quantitativ nicht erfasst werden.
Qualitätssicherung
Die systematischen Prozesse und Überprüfungen zur Sicherstellung, dass KI-Modelle und Datenpipelines definierte Standards für Genauigkeit, Zuverlässigkeit und ethische Konformität erfüllen.
Qualitätskontrolle
Die fortlaufende Überprüfung von AI-Ergebnissen und -Prozessen anhand von Benchmarks und Testfällen, um Mängel, Vorfälle von Voreingenommenheit oder Verstöße gegen Richtlinien aufzudecken.
Quantitative Risikoanalyse
Eine datenbasierte Bewertung potenzieller Bedrohungen durch KI, die Wahrscheinlichkeiten und Auswirkungen numerisch abschätzt, um Priorisierungsmaßnahmen zu ermöglichen und Risikokontrollstrategien zu optimieren.
Datenschutz bei Abfragen
Techniken und Richtlinien zum Schutz sensibler Informationen in Benutzeranfragen, um sicherzustellen, dass aufgezeichnete Eingaben keine persönlichen oder proprietären Daten gefährden.
Fragebogenrahmen
Ein strukturierter Satz von governance-orientierten Fragen, der während der Gestaltung, Beschaffung oder Implementierung verwendet wird, um sicherzustellen, dass KI-Systeme mit den Anforderungen der Richtlinien übereinstimmen.
Beschlussfähigkeit des Governance Boards
Die Mindestanzahl der erforderlichen Mitglieder des Governance-Ausschusses, die anwesend sein müssen, um offizielle Entscheidungen über KI-Risiken, Genehmigungen von Richtlinien oder Prüfergebnisse zu treffen.
Kontingentverwaltung
Die Steuerungen und Begrenzungen der Nutzung von KI-Ressourcen (z. B. API-Aufrufe, Rechenzeit), um Governance-Richtlinien durchzusetzen und unkontrollierte Kosten oder Missbrauch zu verhindern.
R
Argumentationskette
Der mehrstufige logische Prozess, dem ein KI-Agent folgt, um von einer ursprünglichen Zielsetzung zu einer finalen Aktion oder Ausgabe zu gelangen.
Rückgriff
Mechanismen, die betroffenen Personen ermöglichen, KI-gesteuerte Entscheidungen, die ihre Rechte oder Interessen betreffen, anzufechten oder eine Abhilfe zu suchen.
Rotes Teaming
Ein proaktiver Testansatz, bei dem interne oder externe Experten Angriffe oder Missbrauchsszenarien simulieren, um Schwachstellen in KI-Systemen aufzudecken.
Regulatorische Konformität
Sicherstellung, dass KI-Systeme während ihres gesamten Betriebs die geltenden Gesetze, Vorschriften und Industriestandards (z. B. DSGVO, FDA, finanzielle Aufsicht) einhalten.
Verantwortlichkeitszuordnungsmatrix
Ein Instrument (z. B. RACI), das Rollen und Zuständigkeiten für jede Governance-Aktivität klar definiert – also festlegt, wer verantwortlich, gesamtverantwortlich, zu konsultieren und zu informieren ist.
Verantwortungsvolle KI
Die Praxis des Entwerfens, Entwickelns und Bereitstellens von KI-Systemen auf eine Weise, die ethisch, transparent und rechenschaftspflichtig gegenüber den Interessengruppen und der Gesellschaft ist.
Risikobewertung
Der Prozess der Identifizierung, Analyse und Priorisierung potenzieller Schäden oder Ausfälle in KI-Systemen, um geeignete Minderungsstrategien zu bestimmen.
Risikomanagement-Rahmenwerk
Eine strukturierte Reihe von Richtlinien und Prozessen zur systematischen Bewältigung von KI-Risiken über den gesamten Lebenszyklus des Systems, von der Gestaltung bis zur Außerbetriebnahme.
Ursachenanalyse
Eine strukturierte Untersuchung, um die zugrunde liegenden Gründe für das Versagen von KI-Systemen oder unerwartetem Verhalten zu bestimmen und korrigierende Maßnahmen zu leiten.
S
Genehmigte Nutzungsrichtlinie
Definierte Regeln und Kontrollen, die zugelassene Kontexte, Benutzer und Zwecke für den Betrieb von KI-Systemen spezifizieren, um Missbrauch zu verhindern.
Sicherheit durch Design
Die Integration von Sicherheitskontrollen und bewährten Praktiken in KI-Systeme von den frühesten Designphasen an, um Schwachstellen und Datenverletzungen zu verhindern.
Schattenakteur_innen
Nicht autorisierte, autonome KI-Agenten, die ohne das Wissen des Governance-Teams innerhalb einer Organisation bereitgestellt werden und in der Lage sind, Aktionen auszuführen, die sich auf Geschäftssysteme und externe Parteien auswirken.
Schatten-KI
Die unautorisierte Verwendung von KI-Modellen, -Agenten oder -Werkzeugen durch Mitarbeiter ohne Genehmigung der IT-Abteilung schafft verdeckte Sicherheitslücken durch Datenleckagen und unbefugte autonome Aktionen.
Modell-Rahmenwerk für KI-Governance in Singapur
Ein freiwilliger Leitfaden der singapurischen Behörden IMDA und PDPC für die verantwortungsvolle Implementierung künstlicher Intelligenz.
KI-Basisgesetz für Südkorea
Südkoreas umfassender rechtlicher Rahmen für die Entwicklung und das Vertrauen in KI.
Bewertung der gesellschaftlichen Auswirkungen
Eine strukturierte Bewertung, wie ein KI-System die sozialen, wirtschaftlichen und kulturellen Aspekte von Gemeinschaften beeinflusst, wobei mögliche Schäden und Vorteile identifiziert werden.
SR 11-7 (Modellrisikomanagement)
Die grundlegenden Leitlinien der US-Notenbank Federal Reserve für das Risikomanagement im Zusammenhang mit dem Einsatz von Modellen im Bankenwesen.
Stakeholder-Engagement
Der Prozess der Einbeziehung betroffener Parteien (z.B. Benutzer, Regulierungsbehörden, betroffene Gemeinschaften) in die Entwicklung und Überwachung von KI, um vielfältige Perspektiven und Unterstützung sicherzustellen.
Erklärung zur Anwendbarkeit (Statement of Applicability, SoA)
Ein Dokument, das bestimmt, welche Kontrollen aus dem ISO 42001 Anhang A für das KI-Managementsystem einer Organisation relevant sind, und erläutert, warum andere ausgeschlossen wurden.
Wesentliche Änderung
Eine Änderung an einem KI-System nach dessen Inverkehrbringen, die sich auf seine Konformität oder seinen bestimmungsgemäßen Zweck gemäß dem KI-Gesetz der EU auswirkt.
Überwachungsrisiko
Die Bedrohung, dass KI-Systeme für invasive Überwachung von Einzelpersonen oder Gruppen ausgenutzt werden könnten, wobei die Privatsphäre und bürgerliche Freiheiten verletzt werden.
System der Aufzeichnung
Die maßgebliche Datenquelle für ein bestimmtes Datenelement oder eine Information innerhalb einer Organisation.
Schwellenwert für systemisches Risiko
Der technische oder fähigkeitsbasierte Grenzwert (z. B. 10^25 FLOPs), ab dem ein Allzweck-KI-Modell als mit einem hohen Risiko für die Gesellschaft verbunden eingestuft wird.
T
Extremes Risiko
Das Potenzial für seltene, extreme Ergebnisse im Verhalten oder in der Entscheidungsfindung von KI, die außerhalb normaler Erwartungen liegen und spezielle Maßnahmenplanung erfordern.
Testen & Validierung
Der systematische Prozess der Bewertung von KI-Modellen anhand von Benchmark-Tests, speziellen Randfällen und Belastungsbedingungen, um sicherzustellen, dass sie Leistungs-, Sicherheits- und Compliance-Kriterien erfüllen.
Risiko durch Dritte
Das Risiko, das sich aus der Abhängigkeit von externen Datenanbietern, Modelllieferanten oder Dienstleistungsplattformen ergibt, die möglicherweise Compliance- oder Sicherheitsanfälligkeiten einführen.
Schwellenwert Einstellung
Festlegung von Grenzen oder Grenzwerten in KI-Entscheidungsregeln (z. B. Vertrauenswerte), um Risiken wie falsch-positive gegenüber falsch-negativen Ergebnissen auszubalancieren.
Trilog
Die informelle dreiseitige Verhandlung zwischen der Europäischen Kommission, dem Rat der Europäischen Union und dem Europäischen Parlament, die zur Erzielung einer politischen Einigung über EU-Rechtsvorschriften vor deren formeller Annahme dient.
Verlässliche KI
KI-Systeme, die in einer Weise entworfen und betrieben werden, die ethisch, zuverlässig, sicher und im Einklang mit menschlichen Werten und gesellschaftlichen Normen steht.
Sie
Aktionsplan für KI-Chancen im Vereinigten Königreich
Der strategische Fahrplan der britischen Regierung zur Maximierung der Vorteile von KI bei gleichzeitiger Etablierung gezielter, verbindlicher Sicherheitsregeln.
Anwendungsfall-Governance
Die Praxis der Definition, Genehmigung und Überwachung spezifischer KI-Anwendungsfälle, um sicherzustellen, dass jeder mit den organisatorischen Richtlinien, ethischen Standards und der Risikobereitschaft übereinstimmt.
Benutzerzustimmung
Der Prozess des Einholens und Aufzeichnens ausdrücklicher Zustimmung von Einzelpersonen, bevor ihre persönlichen Daten in KI-Systemen gesammelt, verarbeitet oder verwendet werden.
V
Varianzüberwachung
Verfolgung von Schwankungen in den Ausgaben von KI-Modellen oder Leistungskennzahlen im Laufe der Zeit, um Drift zu erkennen und potenziellen Abbau oder Risiken zu ermitteln.
Lieferantenrisikomanagement
Bewertung und Überwachung von Drittanbietern von KI-Komponenten oder -Dienstleistungen zur Identifizierung und Minderung potenzieller Compliance-, Sicherheits- oder ethischer Risiken.
Versions-Pinning
Die Vorgehensweise, ein KI-System auf eine bestimmte, getestete Version eines Basismodells festzulegen, um zu verhindern, dass unangekündigte Updates das Systemverhalten verändern.
Vetorecht
Das formale Recht, das von einem Governance-Gremium oder einem Stakeholder ausgeübt wird, um AI-Implementierungen, die unannehmbare Risiken darstellen, zu blockieren oder Änderungen zu verlangen.
Überwachungsinstrument
Kontinuierliche Überwachung des Verhaltens von KI und externer Signale (z.B. regulatorische Aktualisierungen), um aufkommende Risiken oder Nicht-Einhaltungen frühzeitig zu erkennen und darauf zu reagieren.
Visuelle KI-Überwachung
Die Governance-Prozesse, die speziell für Computer-Vision-Systeme entwickelt wurden, gewährleisten die Datenqualität, führen Bias-Prüfungen durch und sorgen für Transparenz bei auf Bild/Video basierenden Entscheidungsprozessen.
W
Watchdog-Überwachung
Unabhängige Laufzeitprüfungen, die KI-Entscheidungen überwachen und Warnungen oder Eingriffe auslösen, wenn Richtlinien oder Schwellenwerte überschritten werden.
Wasserzeichenerstellung
Die Praxis, erkennbare, maschinenlesbare Herkunftsmarkierungen in KI-generierten Inhalten wie Bildern, Audio, Video und synthetischem Text einzubetten, damit nachgelagerte Konsumenten und Plattformen diese Inhalte als KI-generiert identifizieren können.
Gewichtskontrolle
Untersuchung von Modellgewichten und -strukturen auf Anomalien, Hintertüren oder Vorurteile, die auf Manipulationen oder unbeabsichtigte Verhaltensweisen hindeuten könnten.
Richtlinie zur Zulassungsliste/Sperrliste
Governance-Regel, die erlaubte (Whitelist) und nicht erlaubte (Blacklist) Eingaben, Funktionen oder Vorgänge definiert, um die Einhaltung der Vorschriften zu gewährleisten und Missbrauch zu verhindern.
Positivliste
Nur vorab genehmigte Datenquellen, Bibliotheken oder Modellkomponenten in KI-Pipelines zuzulassen, um das Risiko durch nicht überprüfte oder bösartige Elemente zu reduzieren.
Arbeitslasttrennung
Trennung von KI-Computing-Umgebungen (z. B. Entwicklung, Test, Produktion) und Datenbereichen, um den Ausbreitungsradius von Fehlern oder Sicherheitsverletzungen zu begrenzen.
Worst-Case-Analyse
Bewertung der extremsten potenziellen Ausfälle oder Missbräuche eines KI-Systems, um solide Risikominderungs- und Notfallplanungsstrategien zu entwickeln.
X
XAI-Prüfung
Ein Überprüfungsprozess, der bewertet, ob die Ausgaben zur Erklärbarkeit von KI den internen Richtlinien und behördlichen Anforderungen entsprechen und ausreichende Transparenz gewährleisten.
XAI (Erklärbare KI)
Techniken und Methoden, die den Entscheidungsprozess eines KI-Modells für Menschen transparent und verständlich machen und somit Verantwortlichkeit und Compliance unterstützen.
XAI-Framework
Ein strukturierter Ansatz oder ein Satz von Richtlinien, den Organisationen verwenden, um die Umsetzbarkeit, Messung und Steuerung von Erklärbarkeitspraktiken in ihren KI-Systemen zu implementieren und zu verwalten.
XAI-Metriken
Quantitative oder qualitative Messgrößen (z. B. Wichtigkeitsscores von Funktionen, Erklärungsgenauigkeit), die zur Bewertung der Qualität und Zuverlässigkeit von KI-Erklärungen verwendet werden.
Ja
Jährliche Compliance-Überprüfung
Eine jährliche Bewertung der KI-Governance-Prozesse, -Richtlinien und -Systeme, um die fortwährende Einhaltung von Vorschriften und internen Standards sicherzustellen.
Z
Null-Fehlertoleranz
Ein Governance-Prinzip, das darauf abzielt, keine Fehler oder Richtlinienverstöße in den KI-Ergebnissen zuzulassen, unterstützt durch rigorose Tests, Überwachung und kontinuierliche Verbesserungszyklen.
Zonenbasierte Zugriffskontrolle
Ein Netzwerk- oder Daten-Governance-Ansatz, der Ressourcen in Zonen mit unterschiedlichen Richtlinien unterteilt und den Zugriff von KI-Systemen gemäß der Datenempfindlichkeit einschränkt.
Alle
Whitepaper
Vorschriften für KI
Podcasts
Produktaktualisierungen
Presseberichterstattung
Glossar
Treten Sie unserem Podcast bei oder arbeiten Sie an Inhalten mit uns zusammen
Kontaktieren Sie uns, und wir werden sehen, was wir gemeinsam produzieren können.
Ein
Nutzungsrichtlinie (Acceptable Use Policy)
Ein von einem Unternehmen aufgestelltes Regelwerk, das festlegt, in welcher Form Mitarbeiter die vom Unternehmen bereitgestellten KI-Tools nutzen dürfen und welche Nutzungsweisen untersagt sind.
Akkreditierte Zertifizierung
Ein Zertifikat, das von einer Zertifizierungsstelle ausgestellt wurde, die von einer nationalen Akkreditierungsstelle (wie ANAB oder UKAS) offiziell als kompetent für die Auditierung nach einer bestimmten Norm anerkannt wurde.
Aktionsvorschau
Eine Governance-Anforderung, nach der ein KI-Agent genau anzeigen muss, welche Auswirkungen eine irreversible Aktion haben wird, bevor eine menschliche Freigabe erfolgt.
Aktions-Whitelisting
Eine Sicherheits- und Governance-Kontrollfunktion, die festlegt, welche Tools, APIs und Aktionen ein KI-Agent ausschließlich ausführen darf.
Gegnerischer Angriff
Techniken, die AI-Modelle durch das Einführen täuschender Eingaben manipulieren, um fehlerhafte Ergebnisse zu verursachen.
Agenten-Plattform
Ein integriertes Laufzeitsubstrat, das mehrere KI-Agenten sowie die Modelle, Tools und Daten, von denen sie abhängen, hostet, orchestriert und steuert.
Übernahme von Agentenzielen (ASI01)
Eine Schwachstelle, bei der ein Angreifer die Ziele oder Entscheidungspfade eines Agenten manipuliert, um dessen autonomes Verhalten auf unerwünschte Ergebnisse umzulenken.
Agenten-Mesh
Eine vernetzte Topologie, in der KI-Agenten über eine gemeinsame Infrastrukturschicht einander entdecken, miteinander kommunizieren und gegenseitig Aufgaben delegieren.
Agentic KI
Eine Klasse von künstlichen Intelligenzsystemen, die darauf ausgelegt ist, komplexe Ziele selbstständig zu verfolgen und mehrstufige Aktionen (wie Softwarebereitstellung oder Finanztransaktionen) mit minimalem menschlichen Eingriff auszuführen.
Agentische KI-Governance
Die Steuerung autonomer KI-Systeme, die unabhängig agieren können (z.B. Transaktionen, Code-Bereitstellung), unterscheidet sich von voraussschauender KI (die Einblicke bietet) und generativer KI (die Inhalte erstellt).
Agentenbasierte Richtlinien-Engine
Eine Laufzeit-Softwarekomponente, die Aktionen von Agenten abfängt und diese vor der Ausführung anhand einer Reihe deterministischer Governance-Regeln bewertet.
Verantwortlichkeit der KI
Die Verpflichtung der Entwickler und Betreiber von KI-Systemen, sicherzustellen, dass ihre Systeme verantwortungsvoll entworfen und verwendet werden, unter Einhaltung ethischer Standards und gesetzlicher Anforderungen.
KI-Ausrichtung
Der Prozess, sicherzustellen, dass die Ziele und Verhaltensweisen von KI-Systemen mit menschlichen Werten und Absichten in Einklang stehen.
KI-Assistent
Ein System für konversationelle KI, das darauf ausgelegt ist, Nutzer bei der Erledigung von Aufgaben durch Interaktion in natürlicher Sprache zu unterstützen, typischerweise betrieben durch ein großes Sprachmodell.
KI-Prüfung
Die systematische Bewertung von KI-Systemen zur Beurteilung der Einhaltung von ethischen Standards, Vorschriften und Leistungskennzahlen.
KI-Voreingenommenheit
Systematische Fehler in den Ausgaben der KI, die durch voreingenommene Trainingsdaten oder fehlerhafte Algorithmen entstehen und zu unfaire Ergebnisse führen.
KI-Software-Stückliste (AIBOM)
Ein strukturiertes Inventar, das die Komponenten eines KI-Systems auflistet – einschließlich Basismodellen, Trainingsdatensätzen, Bibliotheken und Abhängigkeiten. Dies ist das KI-Äquivalent zu einer Software-Stückliste (Software Bill of Materials, SBOM).
KI-Konformität
Die Einhaltung von geltenden Gesetzen, Vorschriften und ethischen Richtlinien durch KI-Systeme während ihres gesamten Lebenszyklus.
KI-Ethik
Das Fachgebiet, das sich mit den moralischen Implikationen und Verantwortlichkeiten im Zusammenhang mit der Entwicklung und Implementierung von KI-Technologien befasst.
Erklärbarkeit von KI
Das Ausmaß, in dem die internen Mechanismen eines KI-Systems von Menschen verstanden und interpretiert werden können.
KI-Fußabdruck
Die Gesamtheit aller KI-Systeme, -Modelle, -Agenten und integrierten KI-Funktionen, die zu einem bestimmten Zeitpunkt in einem Unternehmen im Einsatz sind, einschließlich offiziell genehmigter sowie inoffizieller Systeme (Schatten-IT).
KI-Governance
Das Rahmenwerk aus Richtlinien, Prozessen und Kontrollmechanismen, das die ethische und effektive Entwicklung und Nutzung von KI-Systemen leitet.
KI-Governance für Finanzdienstleistungen
Die spezialisierte Anwendung von KI-Risikomanagement-Frameworks zur Erfüllung der strengen Aufsichts- und Verhaltensanforderungen des Banken- und Versicherungssektors.
KI-Governance-Software
Spezialisierte Enterprise-Tools zur Automatisierung der Inventarisierung, Risikobewertung und regulatorischen Compliance von Systemen der künstlichen Intelligenz.
KI-Inventar
Ein umfassender, zentralisierter Katalog aller KI-Systeme, Modelle und Agenten, die in einer Organisation verwendet werden, der ihren Geschäftszweck, das Risikoniveau und die Eigentümerschaft verfolgt.
EU-KI-Haftungsrichtlinie
Ein Entwurf für eine EU-Richtlinie, die darauf abzielt, das Verfahren für Kläger zur Geltendmachung von durch KI-Systeme verursachten Schäden zu vereinfachen, indem eine widerlegbare Kausalitätsvermutung eingeführt wird.
KI-Kompetenz
Das Verständnis von KI-Konzepten, Fähigkeiten und Einschränkungen, ermöglicht eine informierte Interaktion mit KI-Technologien.
Management-System für Künstliche Intelligenz (AIMS)
Eine Reihe von miteinander in Beziehung stehenden oder sich gegenseitig beeinflussenden Elementen einer Organisation zur Festlegung von Richtlinien, Zielen und Prozessen für die verantwortungsvolle Entwicklung oder Nutzung von KI.
KI-Überwachung
Die kontinuierliche Beobachtung und Analyse der Leistung von KI-Systemen, um Zuverlässigkeit, Sicherheit und Compliance zu gewährleisten.
KI-Risiko
Das Potenzial von KI-Systemen, Schaden oder unbeabsichtigte Folgen zu verursachen, einschließlich ethischer, rechtlicher und betrieblicher Risiken.
KI-Risikomanagement
Der Prozess der Identifizierung, Bewertung und Minderung von Risiken im Zusammenhang mit KI-Systemen.
Wildwuchs von KI-Anwendungen
Die unkontrollierte Verbreitung von KI-Systemen im gesamten Unternehmen, die in der Regel durch den einfachen Zugang zu KI-Tools und das Fehlen effektiver Erfassungs- und Inventarisierungsprozesse begünstigt wird.
Folgenabschätzung für KI-Systeme
Ein formelles Verfahren zur Bewertung der potenziellen Folgen des Einsatzes eines KI-Systems auf Einzelpersonen, Gruppen und die Gesellschaft als Ganzes.
KI-Transparenz
Das Prinzip, dass KI-Systeme offen und transparent über ihre Abläufe, Entscheidungen und Datennutzung informieren sollten.
KI TRiSM
Ein von Gartner geprägtes Akronym, das für KI-Vertrauen, Risiko- und Sicherheitsmanagement steht; ein Rahmenwerk, das Governance, Vertrauenswürdigkeit und Sicherheit in eine einzige operative Strategie vereint.
Gesetz über künstliche Intelligenz und Daten (AIDA)
Kanadas föderaler Regulierungsrahmen (Teil des Gesetzesentwurfs Bill C-27), der darauf abzielt, eine sichere und vorurteilsfreie Entwicklung sowie Nutzung von KI-Systemen mit weitreichenden Auswirkungen zu gewährleisten.
Algorithmische Verzerrung
Ein Bias, der auftritt, wenn ein Algorithmus systematisch voreingenommene Ergebnisse produziert, aufgrund fehlerhafter Annahmen im maschinellen Lernprozess.
Algorithmische Verwaltung
Der Einsatz von Algorithmen zur Steuerung und Regulierung gesellschaftlicher Funktionen, der potenziell die Entscheidungsprozesse beeinflussen kann.
Amnestie-Programm
Eine zeitlich begrenzte Governance-Initiative, bei der Mitarbeitende dazu eingeladen werden, die Nutzung nicht genehmigter KI-Tools offenzulegen, ohne disziplinarische Maßnahmen befürchten zu müssen.
Produkte gemäß Anhang I
Eine Liste von Produkten, die bereits dem EU-Gesundheits- und Sicherheitsrecht unterliegen (z. B. Maschinen, Medizinprodukte) und bei denen integrierte KI gemäß der EU-KI-Verordnung automatisch als Hochrisiko eingestuft wird.
Anhang-III-Kategorien
Eine spezifische Liste von hochriskanten KI-Anwendungsbereichen, die im EU-KI-Gesetz definiert sind und zwingende Compliance-Verpflichtungen auslösen.
Analyse des API-Traffics
Der technische Prozess der Überwachung und Überprüfung von Netzwerkaufrufen an externe KI-Dienstleister.
Ausnahme gemäß Artikel 6 Absatz 3
Ein Selbstbestimmungsmechanismus unter dem EU-KI-Gesetz, der es Anbietern ermöglicht, ein KI-System der Anlage III als nicht hochriskant einzustufen, sofern es kein erhebliches Risiko darstellt.
Artikel 25 (EU-Gesetz über künstliche Intelligenz)
Die Bestimmung des EU-KI-Gesetzes, die eine direkte Verpflichtungskette zwischen Anbietern und Betreibern von Hochrisiko-KI-Systemen schafft, einschließlich der Haftungsübertragung bei wesentlichen Systemänderungen.
Artikel 50 (EU-Gesetz über künstliche Intelligenz)
Die Bestimmung des EU-KI-Gesetzes, die Transparenzpflichten für KI-Systeme festlegt, die mit Menschen interagieren, synthetische Inhalte generieren oder Deepfakes erstellen.
Australische Richtlinie für sichere und verantwortungsvolle KI
Die Richtlinie der australischen Bundesregierung zur Regulierung des Einsatzes künstlicher Intelligenz im öffentlichen Dienst und in Regierungsbehörden.
Automatisierte KI-Governance
Der Einsatz von Software- und API-Integrationen zur Durchführung kontinuierlicher Compliance-Prüfungen und Risikoüberwachungen in Echtzeit ohne manuelles Eingreifen.
B
Verstärkung von Verzerrungen
Das Phänomen, bei dem KI-Systeme bestehende Vorurteile in den Trainingsdaten verstärken und zu zunehmend verzerrten Ergebnissen führen.
Voreingenommenheitsprüfung
Ein Bewertungsprozess zur Erkennung und Minderung von Verzerrungen in KI-Systemen, um Fairness und die Einhaltung ethischer Standards sicherzustellen.
Voreingenommenheitserkennung
Der Prozess der Identifizierung von Verzerrungen in KI-Modellen durch Analyse ihrer Ergebnisse und Entscheidungsprozesse.
Voreingenommenheitsminderung
Techniken, die während der KI-Entwicklung angewendet werden, um Vorurteile in Modellen und Datensätzen zu reduzieren oder zu beseitigen.
Brasilianischer Gesetzentwurf zur KI (PL 2338/2023)
Brasiliens primäres gesetzgeberisches Vorhaben zur Schaffung eines nationalen Rahmens für KI-Rechte und deren Regulierung.
Brüsseler Effekt
Das Phänomen, bei dem EU-Regulierungen durch Marktzugangsbedingungen zum weltweiten Standard werden, selbst für Unternehmen mit Hauptsitz außerhalb der EU.
C
Kalifornisches Gesetz AB 1008
Eine Änderung des CCPA, die klarstellt, dass personenbezogene Daten auch solche Daten umfassen, die von KI-Systemen generiert oder ausgegeben werden.
Kalifornisches Gesetz AB 3030
Ein kalifornisches Gesetz, das Transparenz vorschreibt, wenn generative KI im Gesundheitswesen zur Kommunikation mit Patientinnen und Patienten eingesetzt wird.
Kalifornische ADMT-Regulierungen
Vorschriften des California Consumer Privacy Act (CCPA) zur Regulierung von automatisierten Entscheidungsfindungstechnologien (Automated Decision-Making Technology, ADMT).
Kalifornische FEHA-KI-Regulierungen
Staatliche Vorschriften im Rahmen des Fair Employment and Housing Act (FEHA) zur Bekämpfung von KI-gestützter Diskriminierung am Arbeitsplatz.
Kalifornisches Gesetz zur KI-Transparenz (SB 942)
Gesetzgebung, die große Anbieter von generativen KI-Systemen verpflichtet, Erkennungswerkzeuge bereitzustellen sowie latente und offensichtliche Offenlegungen in KI-generierte Inhalte einzubetten.
Kaskadierender Fehler (ASI08)
Ein Fehlermodus, bei dem ein Fehler oder eine böswillige Eingabe im Denkprozess eines KI-Agenten eine Kettenreaktion von Ausfällen über mehrere verbundene Agenten oder Systeme hinweg auslöst.
CE-Kennzeichnung
Ein zwingend erforderliches Zertifizierungskennzeichen, das die Konformität eines KI-Systems mit den Gesundheits-, Sicherheits- und Umweltschutzstandards für Produkte bestätigt, die innerhalb des EWR verkauft werden.
Benachrichtigungszeitfenster ändern
Ein vertraglich festgelegter Zeitraum, in dem ein Anbieter den Kunden über wesentliche Aktualisierungen eines KI-Modells informieren muss, bevor diese Aktualisierungen in der Produktivumgebung implementiert werden.
Interimsregelungen für generative KI in China
Regulatorische Anforderungen für generative KI-Dienste, die für die chinesische Öffentlichkeit bereitgestellt werden.
KI-Konvention des Europarats
Der erste rechtlich bindende internationale Vertrag über KI, der sich auf den Schutz der Menschenrechte, der Demokratie und der Rechtsstaatlichkeit konzentriert.
Colorado AI Act (SB 24-205, außer Kraft getreten 2026)
Das Colorado-KI-Gesetz (SB 24-205), die erste umfassende KI-Regelung auf US-Bundesstaatsebene, wurde im Mai 2026 aufgehoben und durch das Gesetz Colorado SB 26-189 ersetzt, das am 1. Januar 2027 in Kraft tritt und einen engeren Fokus auf automatisierte Entscheidungsfindungstechnologien legt.
Colorado AI Act (SB 26-189)
Colorado SB 26-189 ist der im Jahr 2026 beschlossene Nachfolger des ursprünglichen Colorado AI Act (SB 24-205). Das Gesetz tritt am 1. Januar 2027 in Kraft und konzentriert sich auf regulatorische Verpflichtungen für automatisierte Entscheidungssysteme, die wesentliche und folgenschwere Entscheidungen über Bürgerinnen und Bürger in Colorado treffen.
Compliance-Rahmenwerk
Ein strukturierter Satz von Richtlinien und Best Practices, denen Organisationen folgen, um sicherzustellen, dass ihre KI-Systeme regulatorische und ethische Standards erfüllen.
Compliance-Risiko
Das Potenzial für rechtliche oder regulatorische Sanktionen, finanzielle Verluste oder Reputationsschäden, dem ein Unternehmen ausgesetzt ist, wenn es versäumt, gesetzliche Vorschriften, Regulierungen oder vorgegebene Praktiken einzuhalten.
Konzeptdrift
Die Veränderung der statistischen Eigenschaften der Zielvariablen, die das Modell vorherzusagen versucht, im Laufe der Zeit, was zu einer Verschlechterung des Modells führt.
Konformitätsbewertung
Ein Verfahren zur Bestimmung, ob ein KI-System festgelegte Anforderungen, Standards oder Vorschriften erfüllt, das häufig Tests und Zertifizierungen umfasst.
Interne Kontrolle (Konformitätsbewertung)
Ein Verfahren im Rahmen des EU-KI-Gesetzes, bei dem ein Anbieter selbst bestätigt, dass sein Hochrisiko-KI-System alle regulatorischen Anforderungen erfüllt, ohne dass eine Prüfung durch eine unabhängige Stelle erforderlich ist.
Steuerbarkeit
In welchem Maße Menschen die Entscheidungen und Verhaltensweisen eines KI-Systems lenken, beeinflussen oder übersteuern können.
Mandat des AStV
Das Verhandlungsmandat, das die Botschafter der EU-Mitgliedstaaten (Ausschuss der Ständigen Vertreter) der rotierenden Ratspräsidentschaft für Trilog-Verhandlungen über EU-Rechtsvorschriften erteilen.
Kryptografische Agenten-Identität
Ein verifizierbarer digitaler Berechtigungsnachweis (oftmals ein dezentraler Identifikator oder DID), der einen KI-Agenten und dessen Autorisierungsstufe eindeutig identifiziert.
D
Datenabweichung
Die Veränderung der Modell-Eingabedaten im Laufe der Zeit kann zu einer Verschlechterung der Modellleistung führen, wenn diese nicht überwacht und behoben wird.
Datenethik
Der Bereich der Ethik, der Datenpraktiken im Hinblick auf die moralischen Verpflichtungen bei der Erfassung, dem Schutz und der Nutzung personenbezogener Informationen bewertet.
Datenverwaltung
Die umfassende Verwaltung der Datenverfügbarkeit, Benutzerfreundlichkeit, Integrität und Sicherheit in einem Unternehmen, um sicherzustellen, dass Daten während ihres gesamten Lebenszyklus ordnungsgemäß behandelt werden.
Risiko bei der Datenübernahme
Das Risiko, dass vertrauliche oder geschützte Informationen während der Interaktion eines Benutzers dauerhaft in den Trainingsdatensatz eines KI-Modells aufgenommen werden.
Datenlebenszyklusverwaltung
Die richtlinienbasierte Verwaltung des Datenflusses über den gesamten Lebenszyklus: von der Erstellung und anfänglichen Speicherung bis zu dem Zeitpunkt, an dem die Daten veraltet sind und gelöscht werden.
Datenminimierung
Das Prinzip, nur die Daten zu erfassen, die für einen bestimmten Zweck erforderlich sind, reduziert das Risiko von Missbrauch oder Verstößen.
Datenschutz
Der Bereich der Informationstechnologie, der sich mit der Fähigkeit befasst, zu kontrollieren, welche Daten geteilt werden und mit wem, und dabei sicherzustellen, dass personenbezogene Daten angemessen behandelt werden.
Datenschutz
Der Prozess, wichtige Informationen vor Beschädigung, Kompromittierung oder Verlust zu schützen und die Einhaltung der Datenschutzgesetze und -vorschriften zu gewährleisten.
Datenherkunft
Eine dokumentierte Erfassung der Herkunft, der Eigentumsverhältnisse und des Lebenszyklus eines Datensatzes, der für das Training oder die Feinabstimmung eines KI-Modells verwendet wird.
Datenqualität
Der Zustand von Daten, basierend auf Faktoren wie Genauigkeit, Vollständigkeit, Zuverlässigkeit und Relevanz, ist entscheidend für die effektive Leistung von KI-Modellen.
Datenresidenz
Der physische oder geografische Standort der Daten einer Organisation, der Auswirkungen auf die Einhaltung von Datenschutzgesetzen haben kann.
Datenhoheit
Das Konzept, dass Daten den Gesetzen und Governance-Strukturen des Landes unterliegen, in dem sie gesammelt, gespeichert oder verarbeitet werden.
Betroffene Person
Eine Person, deren personenbezogene Daten erfasst, gespeichert oder verarbeitet werden, was insbesondere im Kontext von Datenschutzgesetzen wie der DSGVO relevant ist.
De-Identifikation
Der Prozess der Entfernung oder Verschleierung personenbezogener Kennungen in Datensätzen, um es schwierig zu machen, Einzelpersonen zu identifizieren, wird verwendet, um die Privatsphäre zu schützen.
Täuschungstechnologie
Synthetische Medien, bei denen eine Person in einem bestehenden Bild oder Video durch das Abbild einer anderen Person ersetzt wird, das mit Hilfe von Deep-Learning-Techniken erstellt wurde.
Differentialer Datenschutz
Ein System zur öffentlichen Weitergabe von Informationen über einen Datensatz, indem Muster von Gruppen innerhalb des Datensatzes beschrieben werden, während Informationen über Einzelpersonen zurückgehalten werden.
Das digitale EU-Omnibusgesetz zur Künstlichen Intelligenz
Ein Gesetzgebungspaket für 2025/2026, das darauf ausgelegt ist, technische Standards, Konformitätsbewertungen und Durchsetzungszeitpläne im Rahmen des EU-KI-Gesetzes und damit verbundener digitaler Sicherheitsgesetze zu rationalisieren und zu harmonisieren.
Diskriminierung
Im Bereich der KI bezieht sich dies auf die unfaire Behandlung von Einzelpersonen oder Gruppen aufgrund von Verzerrungen in Daten oder Algorithmen, die zu ungleichen Ergebnissen führen.
Dual-Use-Basismodell
Ein KI-Modell, das auf einer enormen Datenmenge trainiert wurde und über eine leistungsstarke Performance verfügt, sodass es sowohl für zivile als auch für schädliche oder militärische Zwecke eingesetzt werden kann.
Dynamische Risikoanalyse
Der kontinuierliche Prozess der Identifizierung und Bewertung von Risiken in Echtzeit ermöglicht rechtzeitige Reaktionen auf neu auftretende Bedrohungen in KI-Systemen.
E
Enzai
Eine Unternehmensplattform für KI-Governance, die es Organisationen ermöglicht, ihre KI-Systeme zu inventarisieren, bewerten und steuern, um eine maximale Einführung von KI zu gewährleisten und zugleich das Risiko zu minimieren.
Eskalationslogik
Ein Satz vordefinierter Regeln und Auslöser, die einen KI-Agenten zwingen, den autonomen Betrieb einzustellen und die Kontrolle wieder an einen menschlichen Bediener zu übergeben.
ESMA-Erwartungen an die KI/ML-Governance
Regulatorische Richtlinien der Europäischen Wertpapier- und Marktaufsichtsbehörde bezüglich des Einsatzes von Abstrakter Intelligenz (KI) und maschinellem Lernen auf den Finanzmärkten.
Ethische KI
Die Praxis, KI-Systeme auf eine Weise zu entwerfen, zu entwickeln und bereitzustellen, die mit ethischen Prinzipien und Werten übereinstimmt, um Fairness, Verantwortlichkeit und Transparenz zu gewährleisten.
Ethisches KI-Audit
Der Prozess der systematischen Bewertung von KI-Systemen, um sicherzustellen, dass sie den ethischen Standards entsprechen und keinen Schaden verursachen.
Zertifizierung für ethische KI
Eine formale Anerkennung, dass ein KI-System etablierten ethischen Standards und Richtlinien entspricht.
Ethische KI-Governance
Der Rahmen von Richtlinien, Verfahren und Praktiken, die sicherstellen, dass KI-Systeme verantwortungsvoll und ethisch entwickelt und verwendet werden.
Ethische Rahmenwerke
Strukturierte Sätze von Prinzipien und Richtlinien, die dazu bestimmt sind, die ethische Entwicklung und Implementierung von KI-Systemen zu leiten.
Ethische Auswirkungen Bewertung
Ein systematischer Evaluierungsprozess zur Identifizierung und Berücksichtigung der ethischen Implikationen und potenziellen gesellschaftlichen Auswirkungen von KI-Systemen vor deren Einsatz.
Ethisches Risiko
Das Potenzial eines KI-Systems, Schaden durch unethisches Verhalten wie Voreingenommenheit, Diskriminierung oder Verletzung der Privatsphäre zu verursachen.
Ethische Leitlinien für vertrauenswürdige KI
Ein Satz von Richtlinien, die von der hochrangigen Expertengruppe der Europäischen Kommission für KI entwickelt wurden, um vertrauenswürdige KI zu fördern, wobei der Schwerpunkt auf menschlicher Handlungskompetenz, technischer Robustheit, Datenschutz, Transparenz, Vielfalt, gesellschaftlichem Wohlergehen und Verantwortung liegt.
EU-KI-Gesetz
Das weltweit erste umfassende horizontale Regelwerk für KI, das ein risikobasiertes Klassifizierungssystem für Systeme etabliert, die innerhalb der Europäischen Union bereitgestellt oder genutzt werden.
Hochrisiko-Kategorien gemäß dem EU-KI-Gesetz
Die beiden Einstufungen von Hochrisiko-KI-Systemen im Rahmen des EU-KI-Gesetzes (EU AI Act): eigenständige Systeme, die in Anhang III aufgeführt sind (einschließlich Biometrie, kritischer Infrastruktur, Beschäftigung, Bildung, Strafverfolgung und anderer genannter Verwendungszwecke), und in regulierte Produkte eingebettete KI, die in Anhang I aufgeführt sind (einschließlich Medizinprodukten, Fahrzeugen, Maschinen und anderen regulierten Produktkategorien).
Risikoklassifizierung nach dem EU-Gesetz über künstliche Intelligenz
Der vorgeschriebene Prozess zur Einstufung eines KI-Systems in eine von vier Risikoklassen (unacceptable, high, limited, minimal risk) gemäß dem EU-Gesetz über künstliche Intelligenz (EU AI Act).
EU-Amt für KI
Das Gremium der Europäischen Kommission, das für die Überwachung der Umsetzung und Durchsetzung der EU-KI-Verordnung eingerichtet wurde, insbesondere im Hinblick auf KI-Modelle mit allgemeinem Verwendungszweck und systemischem Risiko.
Digitale Omnibus-Richtlinie der EU
Das umfassendere Gesetzgebungs-Vereinfachungspaket der Europäischen Union für den Zeitraum 2025–2026, das verschiedene digitale Verordnungen adressiert, darunter das Gesetz über künstliche Intelligenz (AI Act), Bestimmungen der DSGVO, das Cyber-Resilienz-Gesetz sowie Änderungen des Datengesetzes (Data Act).
Übermäßige Handlungsbefugnis
Eine Sicherheitslücke, bei der einem KI-System im Verhältnis zu seiner beabsichtigten Funktion ein zu hohes Maß an Autonomie, zu viele Werkzeuge oder übermäßig privilegierte Zugriffsrechte gewährt werden.
Executive Order 14110
Die Regierungsrichtlinie der Biden-Administration (unterzeichnet im Oktober 2023, aufgehoben im Januar 2025), die nationale US-Standards für die Sicherheit, Vertrauenswürdigkeit und den Datenschutz von KI festlegte und das U.S. AI Safety Institute am NIST ins Leben rief.
Techniken der Erklärbarkeit
Methoden zur Interpretation und zum Verständnis der Entscheidungen von KI-Modellen, wie LIME, SHAP und Salienzabbildungen.
Erklärbarkeit vs. Interpretierbarkeit
Während beide darauf abzielen, KI-Entscheidungen verständlich zu machen, konzentriert sich die Erklärbarkeit auf die Begründung der Entscheidungen, während sich die Interpretierbarkeit auf die Transparenz der internen Mechanismen des Modells bezieht.
Erklärbare KI (XAI)
KI-Systeme, die darauf ausgelegt sind, nachvollziehbare Begründungen für ihre Entscheidungen und Handlungen bereitzustellen, wodurch Transparenz und Vertrauen gestärkt werden.
Erklärbare Maschinelles Lernen
Maschinelle Lernmodelle, die entwickelt wurden, um klare und verständliche Erklärungen für ihre Vorhersagen und Entscheidungen bereitzustellen.
F
Fairness-Kennzahlen
Quantitative Maße (z.B. demografische Parität, gleichberechtigte Chancen), die verwendet werden, um zu bewerten, wie fair die Vorhersagen eines KI-Modells über verschiedene Gruppen hinweg sind.
Falsch Negativ
Wenn ein AI-Modell fälschlicherweise eine negative Klasse für eine Instanz vorhersagt, die tatsächlich positiv ist (Typ-II-Fehler).
Falsch-Positiv
Wenn ein KI-Modell fälschlicherweise eine positive Klasse für ein Beispiel prognostiziert, das in Wirklichkeit negativ ist (Typ-I-Fehler).
Fehlertoleranz
Die Fähigkeit eines KI-Systems, auch dann korrekt weiterzuarbeiten, wenn einige Komponenten ausfallen oder Fehler produzieren.
Föderierte KI-Governance
Ein Governance-Modell, bei dem zentrale Richtlinien und Aufsicht mit dezentralen Entscheidungsbefugnissen der Geschäftsbereiche oder regionalen Niederlassungen kombiniert werden, um ein ausgewogenes Verhältnis zwischen Konsistenz und operativer Flexibilität zu gewährleisten.
Rückkopplungsschleife
Ein Prozess, bei dem KI-Ausgaben als Eingaben zurückgeführt werden, wodurch das Modellverhalten verstärkt werden kann – zum Positiven (verstärkendes Lernen) oder zum Negativen (Verstärkung von Verzerrungen).
FS AI RMF (Risikomanagement-Framework für künstliche Intelligenz im Finanzdienstleistungssektor)
Das im Februar 2026 veröffentlichte, spezialisierte KI-Risikomanagement-Framework des US-Finanzministeriums für Finanzdienstleistungsunternehmen, welches das NIST AI RMF an sektorspezifische Verpflichtungen anpasst.
Funktionale Sicherheit
Sicherzustellen, dass KI-Systeme unter allen Bedingungen sicher funktionieren, insbesondere in Branchen wie der Automobilindustrie oder dem Gesundheitswesen, erfolgt oft durch Redundanz und Überprüfungen.
Grundrechtecharta-Folgenabschätzung (FRIA)
Eine nach dem EU-KI-Gesetz für bestimmte Bereitsteller obligatorische Bewertung zur Bestimmung der Auswirkungen, die der Einsatz eines Hochrisiko-KI-Systems auf die Bürgerrechte und Menschenrechte haben könnte.
G
Lückenanalyse
Der Prozess, aktuelle KI-Governance-Praktiken mit den gewünschten Standards oder Vorschriften zu vergleichen, um Bereiche zu identifizieren, die Verbesserungen benötigen.
DSGVO
Die Datenschutz-Grundverordnung der EU legt strenge Anforderungen für die Erfassung, Verarbeitung und die individuellen Rechte persönlicher Daten fest.
Zielabweichung
Ein Phänomen, bei dem sich die internen Teilziele oder Argumentationspfade eines KI-Agenten schrittweise von den ursprünglich durch den Menschen vorgegebenen Zielen entfernen.
Lenkungsgremium
Eine funktionsübergreifende Gruppe (z. B. rechtlich, ethisch, technisch), die damit betraut ist, die Richtlinien zur KI-Governance innerhalb einer Organisation zu überwachen und deren Umsetzung zu gewährleisten.
Governance-Rahmenwerk
Ein strukturiertes Modell, das darlegt, wie die Komponenten der KI-Governance (Risikomanagement, Verantwortlichkeit, Aufsicht) zusammenpassen, um die Einhaltung von Vorschriften und die ethische Nutzung sicherzustellen.
Reifegradmodell für Governance
Ein gestuftes Rahmenwerk, das bewertet, wie fortgeschritten die KI-Governance-Praktiken einer Organisation sind, von ad-hoc bis optimiert.
Richtlinie zur Unternehmensführung
Ein formales Dokument, das Regeln, Rollen und Verfahren für die Entwicklung und Überwachung von KI innerhalb einer Organisation kodifiziert.
Governance-Bewertungssystem
Ein Dashboard oder Bericht, das wichtige Kennzahlen (z. B. Vorfälle von Voreingenommenheit, Compliance-Audits) zur Messung der Effektivität der KI-Governance im Laufe der Zeit verfolgt.
Verhaltenskodex für GPAI
Das detaillierte Regulierungsinstrument, das spezifische Verpflichtungen zur Transparenz, Sicherheitsprüfung und Risikominderung für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck (GPAI) gemäß dem Gesetz über künstliche Intelligenz der EU (EU AI Act) festlegt.
GPAI-Modell
Ein universell einsetzbares Modell der künstlichen Intelligenz, das in der Lage ist, eine Vielzahl unterschiedlicher Aufgaben auszuführen und sich nahtlos in verschiedene Anwendungen integrieren lässt.
Granulare Zustimmung
Ein Datenschutzansatz, der es Einzelpersonen ermöglicht, spezifische Berechtigungen für jede Art der Datennutzung zu erteilen oder zu verweigern, wodurch Transparenz und Kontrolle verbessert werden.
Leitplanken
Vordefinierte Einschränkungen oder Überprüfungen (technisch und richtlinienbasiert), die in KI-Systeme eingebettet sind, um unsicheres oder nicht konformes Verhalten zur Laufzeit zu verhindern.
Leitlinie (Ethische KI)
Eine unverbindliche Empfehlung oder ein Best-Practice-Dokument, das von Organisationen (z.B. IEEE, EU) herausgegeben wird, um die verantwortungsvolle Entwicklung und Implementierung von KI zu gestalten.
H
Halluzination
Wenn generative KI inkorrekte oder erfundene Informationen erstellt, die plausibel erscheinen, aber keine Grundlage in den Trainingsdaten haben.
Schadensbewertung
Bewertung potenzieller negativer Auswirkungen (physisch, psychologisch, gesellschaftlich) von KI-Systemen und Definition von Minderungsstrategien.
Harmonisierung
Harmonisierung von KI-Richtlinien, -Standards und -Vorschriften über verschiedene Rechtsgebiete hinweg, um Konflikte zu reduzieren und Interoperabilität zu ermöglichen.
Harmonisierte Struktur
Eine einheitliche Vorlage für alle ISO-Managementsystemnormen, ehemals bekannt als Annex SL, die für Konsistenz bei der Terminologie und der Nummerierung der Abschnitte sorgt.
Heuristische Bewertung
Eine Methode zur Gebrauchstauglichkeitsprüfung, bei der Experten ein KI-System anhand etablierter Gebrauchstauglichkeitsprinzipien beurteilen, um potenzielle Probleme zu identifizieren.
Hochrisiko-KI-System
KI-Anwendungen, die ein erhebliches Potenzial zur Gefährdung der Gesundheit, Sicherheit oder der Grundrechte von Personen aufweisen und somit die strengsten Compliance-Anforderungen gemäß dem EU-Gesetz über künstliche Intelligenz (EU AI Act) auslösen.
KI im Hochspannungsbereich
KI-Anwendungen, deren Ausfälle erheblichen Schaden verursachen könnten (z. B. medizinische Diagnosen, autonome Fahrzeuge), erfordern verstärkte Governance und Aufsicht.
Mensch-in-der-Schleife
Einbeziehung menschlicher Urteilsfähigkeit in KI-Prozesse (Schulung, Validierung, Entscheidungsüberprüfung), um Genauigkeit und Verantwortlichkeit zu verbessern.
Menschliche Aufsicht
Mechanismen, die es ausgewählten Personen ermöglichen, Entscheidungen von KI-Systemen zu überwachen, einzugreifen oder zu überschreiben, um ethische und gesetzliche Konformität sicherzustellen.
Auswirkungen auf die Menschenrechte Bewertung
Ein Verfahren zur Bewertung, wie KI-Systeme die Grundrechte (Privatsphäre, Meinungsfreiheit, Nichtdiskriminierung) beeinflussen, und zur Identifizierung von Minderungsmaßnahmen.
Ich
Auswirkungsbewertung
Eine strukturierte Bewertung zur Identifizierung, Analyse und Minderung potenzieller ethischer, rechtlicher und gesellschaftlicher Auswirkungen eines KI-Systems vor dessen Einsatz.
Durchführungsrechtsakte
Sekundärrecht der Europäischen Union, das von der Europäischen Kommission erlassen wird, um einheitliche Bedingungen für die Umsetzung von Primärrecht festzulegen, und das in allen Mitgliedstaaten rechtsverbindlich ist.
Anreizabstimmung
Die Gestaltung von Belohnungsstrukturen und Zielen, sodass die Zielsetzungen von KI-Systemen mit menschlichen Werten und organisatorischen Prioritäten übereinstimmen.
Induktive Verzerrung
Die Menge von Annahmen, die ein Lernalgorithmus verwendet, um von beobachteten Daten auf nicht gesehene Instanzen zu verallgemeinern.
Informationsverwaltung
Die Richtlinien, Verfahren und Kontrollen, die die Datenqualität, den Datenschutz und die Nutzbarkeit über die Datenbestände einer Organisation hinweg gewährleisten, einschließlich der Schulungsdatensätze für künstliche Intelligenz.
Datenschutzinformationen
Das Recht von Personen, zu kontrollieren, wie ihre persönlichen Daten von KI-Systemen gesammelt, verwendet, gespeichert und geteilt werden.
Vererbtes Datenrisiko
Das regulatorische und ethische Haftungsrisiko, das ein Unternehmen eingeht, wenn es ein KI-System einsetzt, das mit Daten trainiert wurde, die das Unternehmen nicht selbst erhoben oder überprüft hat.
Erfassungsworkflow
Der standardisierte Prozess und die Reihe von Prüfungen, die ein neues KI-System durchlaufen muss, bevor es entwickelt oder beschafft wird.
Absichtsvalidierung
Der Prozess der Verifizierung, dass die geplanten Teilschritte eines KI-Agenten konsistent mit dem ursprünglich vom Menschen vorgegebenen Ziel übereinstimmen.
Interoperabilität
Die Fähigkeit verschiedener KI-Systeme und -Komponenten, Informationen nahtlos auszutauschen, zu verstehen und zu nutzen, häufig über offene Standards oder APIs.
Interpretierbarkeit
Das Maß, in dem ein Mensch die inneren Mechanismen oder Entscheidungsgründe eines KI-Modells verstehen kann.
ISO/IEC 42001
Der internationale Standard, der Anforderungen für die Einführung, Implementierung, Aufrechterhaltung und kontinuierliche Verbesserung eines Managementsystems für Künstliche Intelligenz (AIMS) definiert.
ISO/IEC 42005
Der internationale Standard, der Richtlinien für die Durchführung von Folgenabschätzungen für KI-Systeme bereitstellt.
ISO/IEC JTC 1/SC 42
Der gemeinsame ISO/IEC-Ausschuss für die Standardisierung Künstlicher Intelligenz entwickelt internationale KI-Standards für Governance, Risiko und Interoperabilität.
J
Jailbreak-Angriff
Eine Art von Prompt-Injection, bei der Benutzer Schwachstellen ausnutzen, um Schutzmaßnahmen in generativen KI-Modellen zu umgehen, was möglicherweise zu unsicheren oder unautorisierten Ausgaben führen kann.
Japanisches Gesetz zur Förderung von KI
Ein japanisches Gesetz (beschlossen im Jahr 2025), das grundlegende Prinzipien zur Förderung von KI und zur Risikominderung festlegt.
Gemeinsame Haftung
Rechtsprinzip, bei dem mehrere Parteien (z. B. Entwickler, Betreiber) die Verantwortung für KI-bedingte Schäden teilen, was Einfluss auf Vertrags- und Governance-Strukturen hat.
Gemeinsame Modellierung
Entwicklung von KI-Systemen, die mehrere Aufgaben gleichzeitig lernen (z. B. Spracherkennung + Übersetzung), wobei eine Governance für Komplexität und Überprüfbarkeit erforderlich ist.
Rechtsraum
Die rechtliche Zuständigkeit über Daten, KI-Operationen und Haftung, die je nach geografischer Lage variiert und die Einhaltung regionaler Vorschriften beeinflusst (z. B. DSGVO, CCPA).
K
Schlüsselindikator für die Leistung
Ein quantifizierbarer Messwert (z. B. Modellgenauigkeitsdrift, Zeit zur Beseitigung von Vorurteilen), der zur Überwachung und Berichterstattung über Ziele der KI-Governance und Compliance verwendet wird.
Schlüsselrisikoindikator
Ein führender Messwert (z.B. Häufigkeit von unzutreffenden Vorhersagen, Rate unerklärlicher Entscheidungen), der auf aufkommende KI-Risiken hinweist, bevor sie sich manifestieren.
Wissensmanagement
Praktiken und Werkzeuge zur Erfassung, Organisation und Weitergabe von Organisationswissen (z. B. Modeldokumentation, Prüfungsprotokolle), um Reproduzierbarkeit und Aufsicht sicherzustellen.
L
Minimale Agenturabhängigkeit
Ein Sicherheits- und Governance-Prinzip, das besagt, dass KI-Agenten nur das minimale Maß an Autonomie und Werkzeugzugriff gewährt werden sollte, das zur Erfüllung einer bestimmten Aufgabe erforderlich ist.
Prinzip der minimalen Rechte
Ein Sicherheitsprinzip, bei dem KI-Komponenten und Benutzer nur die minimal erforderlichen Zugriffsrechte erhalten, die notwendig sind, um ihre Funktionen auszuführen, wodurch das Risiko eines Missbrauchs verringert wird.
Rechtliche Konformität
Die Praxis, sicherzustellen, dass KI-Systeme während ihres gesamten Lebenszyklus den geltenden Gesetzen, Vorschriften und Industriestandards entsprechen.
Haftungsrahmen
Ein strukturierter Ansatz zur Bestimmung der Verantwortlichkeiten bei KI-bezogenen Schäden oder Ausfällen, einschließlich Entwicklern, Implementierern und Betreibern.
Lebenszyklusmanagement
Die koordinierten Prozesse für Entwicklung, Bereitstellung, Überwachung, Wartung und Außerdienststellung von KI-Systemen, um kontinuierliche Compliance und Risikokontrolle sicherzustellen.
Lokalisierung
Anpassung von KI-Systemen an lokale Sprachen, Vorschriften, kulturelle Normen und Anforderungen an die Datenresidenz in verschiedenen Gerichtsbarkeiten.
M
Marktüberwachungsbehörde
Die nationale Regulierungsbehörde in jedem EU-Mitgliedstaat, die für die Überwachung von KI-Systemen zuständig ist, um deren Einhaltung des EU-KI-Gesetzes (EU AI Act) sicherzustellen.
MAS-FEAT-Prinzipien
Die Richtlinien der Monetary Authority of Singapore für Fairness, Ethik, Rechenschaftspflicht und Transparenz (FEAT) beim Einsatz von KI im Finanzwesen.
Bedeutungsvolle Menschliche Kontrolle
Ein regulatorischer und betrieblicher Standard, der sicherstellt, dass Menschen die Fähigkeit behalten, AI-Entscheidungsprozesse zu überwachen, einzugreifen und zu übersteuern.
Metadatenverwaltung
Die Praxis der Erfassung und Pflege beschreibender Daten (z. B. Datenherkunft, Merkmaldefinitionen, Modellparameter), um Rückverfolgbarkeit und Audits zu unterstützen.
Kennzahlen & Leistungsindikatoren
Quantitative Maße (z.B. Abweichung der Genauigkeit, Fairness-Scores, Reaktionszeiten bei Vorfällen), die zur Überwachung der Systemgesundheit, Risiken und Compliance-Ziele von KI-Systemen verwendet werden.
Mexikanisches Bundesgesetz über KI und Algorithmen
Ein Entwurf für ein mexikanisches Bundesgesetz zu KI und Algorithmen, das ein risikobasiertes Klassifizierungssystem, die Nationale KI-Kommission (CONAIA) sowie Anforderungen an die Kennzeichnung von KI-generierten Inhalten mittels Wasserzeichen vorschlägt.
Minderungsstrategien
Geplante Maßnahmen (z. B. Beseitigung von Voreingenommenheit, erneutes Training, Feature-Re-Engineering) zur Behebung identifizierter KI-Risiken und Compliance-Lücken.
Minnesota CDPA (Bestimmungen zur künstlichen Intelligenz)
Die KI-spezifischen Komponenten des Minnesota Consumer Data Privacy Act.
Modellkarte
Ein kurzes, standardisiertes Dokument mit wesentlichen Informationen über die Leistung, Einschränkungen und beabsichtigten Anwendungsfälle eines Machine-Learning-Modells.
Modell-Herausgabe
Eine aufsichtsrechtliche Maßnahme, die ein Unternehmen dazu verpflichtet, KI-Modelle oder -Algorithmen zu löschen, welche unter Verwendung unzulässig oder rechtswidrig erlangter Daten entwickelt wurden.
Modellabweichung
Der fortschreitende Qualitätsverlust der Vorhersageleistung eines KI-Modells im Laufe der Zeit, verursacht durch Veränderungen von realen Daten oder Umweltbedingungen.
Modellerklärbarkeit
Techniken und Dokumentation, die die Entscheidungslogik eines KI-Modells verständlich für Stakeholder und Prüfer machen.
Modellführung
Die Richtlinien, Rollen und Kontrollen, die sicherstellen, dass KI-Modelle in Übereinstimmung mit den organisatorischen Standards und regulatorischen Anforderungen entwickelt, genehmigt und verwendet werden.
Modellüberwachung
Kontinuierliches Überwachen der Leistung eines KI-Modells, der Datenverschiebung und der Betriebskennzahlen zur Erkennung von Verschlechterungen oder aufkommenden Risiken.
Modell-Neutraining
Der Prozess der Aktualisierung eines KI-Modells mit neuen oder aktualisierten Daten, um die Leistung und die Einhaltung der Vorschriften aufrechtzuerhalten, während sich die Datenverteilung weiterentwickelt.
Modellrisikomanagement
Der strukturierte Prozess zur Identifizierung, Bewertung und Minderung von Risiken, die sich aus KI/ML-Modellen während ihres gesamten Lebenszyklus ergeben.
Modellvalidierung
Die Evaluierungstätigkeiten (z. B. Tests mit zurückgestellten Daten, Stressszenarien), die bestätigen, dass ein KI-Modell seinen vorgesehenen Zweck und die Leistungskriterien erfüllt.
Engagement von mehreren Interessengruppen
Einbeziehung verschiedener Gruppen (z. B. Recht, Ethik, Betrieb, Endbenutzer) in die Prozesse der KI-Governance, um eine ausgewogene Risikokontrolle und die Ausrichtung auf Unternehmensziele sicherzustellen.
N
NIST KI-Risikomanagement-Rahmenwerk
Eine freiwillige Anleitung des US-amerikanischen National Institute of Standards and Technology, die bewährte Verfahren zur Risikominderung über den gesamten Lebenszyklus von KI-Systemen darlegt.
NIST AI RMF-Profile
Kontextspezifische Implementierungen des NIST AI Risk Management Frameworks, die speziell auf bestimmte Branchen, Technologien oder Risikoarten zugeschnitten sind.
Nicht-menschliche Identität (NHI)
Digitale Anmeldedaten, die von einem KI-Agenten, Bot oder Dienst verwendet werden, um sich gegenüber Unternehmenssystemen zu authentifizieren und mit diesen zu interagieren.
Benannte Stelle
Eine unabhängige Drittorganisation, die von einem EU-Mitgliedstaat benannt wird, um die Konformität bestimmter KI-Systeme mit hohem Risiko gemäß dem EU-KI-Gesetz zu bewerten.
NYC Local Law 144
Ein Gesetz der Stadt New York, das jährliche Audits zur Überprüfung von Voreingenommenheit bei KI-Tools vorschreibt, die für Personalentscheidungen eingesetzt werden.
O
Beobachtbarkeit
Die Fähigkeit, den internen Zustand und das Verhalten eines KI-Systems durch die Sammlung und Analyse von Protokollen, Metriken und Ausgaben für effektive Überwachung und Fehlerbehebung abzuleiten.
OMB-Memorandum M-25-21
Eine bundesweit geltende Richtlinie, die Anforderungen an die Governance und das Risikomanagement von KI für Behörden der US-Regierung festlegt.
Fortlaufende Überwachung
Kontinuierliches Tracking der Leistung von KI-Systemen, Datenverschiebungen, Verzerrungsmessungen und Sicherheitsereignissen, um auftretende Risiken im Laufe der Zeit zu erkennen und zu adressieren.
Operative Autonomie
Die Fähigkeit eines KI-Systems, mehrstufige Aufgaben auszuführen und Entscheidungen zu treffen, ohne dass in jeder Phase ein menschliches Eingreifen erforderlich ist.
Betriebliche Resilienz
Die Fähigkeit von KI-Systemen und deren unterstützender Infrastruktur, Störungen oder widrigen Ereignissen vorherzusehen, ihnen standzuhalten, sich davon zu erholen und sich anzupassen.
Risiko der Ausgabe
Die operationellen, rechtlichen und reputationsbezogenen Risiken, die sich aus der Verwendung fehlerhafter, voreingenommener oder schädlicher Inhalte ergeben, die von einem KI-System generiert wurden.
Überblick
Der strukturierte Prozess der Überprüfung, Genehmigung und Verantwortlichkeit für die Entwicklung und Bereitstellung von KI, der typischerweise funktionsübergreifende Governance-Instanzen umfasst.
OWASP Agentic Top 10
Eine formale Taxonomie der zehn kritischsten Sicherheitsrisiken, die spezifisch für autonome KI-Agenten und deren Anwendungsumgebungen sind.
P
Governance für den standardisierten Entwicklungspfad
Eine Strategie, die Compliance fördert, indem autorisierte, sichere Workflows einfacher zu befolgen sind als nicht autorisierte Alternativen.
Berechtigungsverwaltung
Die Verwaltung von Benutzer- und Systemzugriffsrechten auf KI-Daten und -Funktionen, um sicherzustellen, dass nur die minimalen erforderlichen Rechte vergeben werden und unbefugte Nutzung verhindert wird.
Pilotversuche
Ein begrenzter Versuch eines KI-Systems in einer kontrollierten Umgebung, um Leistung, Risiken und Governance-Kontrollen vor der vollständigen Einführung zu bewerten.
Richtlinienumsetzung
Die automatisierten oder manuellen Mechanismen, die sicherstellen, dass KI-Operationen den organisatorischen Richtlinien, regulatorischen Vorschriften und ethischen Leitlinien entsprechen.
Überwachungen nach der Bereitstellung
Fortlaufende Beobachtung des Verhaltens und der Umgebung von KI-Systemen nach deren Freigabe, um Abbau, Abweichungen oder Verstöße gegen die Compliance zu erkennen.
PRA SS1/23 (Management von Modellrisiken)
Die Erklärung der britischen Prudential Regulation Authority zum Modellrisikomanagement für Banken und Versicherer.
Konformitätsvermutung
Ein rechtlicher Mechanismus im Rahmen des EU-KI-Gesetzes und anderer Regelungen, bei dem die Einhaltung eines harmonisierten Standards (z. B. eines veröffentlichten EN-Standards) die widerlegbare Annahme begründet, dass die zugrunde liegende Verordnung erfüllt ist.
Datenschutz durch Design
Ein Ansatz, der Datenschutz und die Privatsphäre der Nutzer von Anfang an in die Architektur und die Prozesse des KI-Systems einbindet.
Datenschutz-Folgenabschätzung
Eine strukturierte Analyse zur Identifizierung und Minderung von Datenschutzrisiken im Zusammenhang mit KI-Systemen, die Datenerfassung, -nutzung, -weitergabe und -speicherung abdeckt.
Probabilistisches System
Ein System, dessen Ergebnisse auf statistischen Wahrscheinlichkeiten basieren und nicht auf einer deterministischen, festen Logik.
F
Qualitative Bewertung
Die subjektive Überprüfung von Verhaltensweisen, Entscheidungen und Dokumentationen von KI-Systemen durch Experten, um ethische, rechtliche oder rufschädigende Bedenken zu identifizieren, die quantitativ nicht erfasst werden.
Qualitätssicherung
Die systematischen Prozesse und Überprüfungen zur Sicherstellung, dass KI-Modelle und Datenpipelines definierte Standards für Genauigkeit, Zuverlässigkeit und ethische Konformität erfüllen.
Qualitätskontrolle
Die fortlaufende Überprüfung von AI-Ergebnissen und -Prozessen anhand von Benchmarks und Testfällen, um Mängel, Vorfälle von Voreingenommenheit oder Verstöße gegen Richtlinien aufzudecken.
Quantitative Risikoanalyse
Eine datenbasierte Bewertung potenzieller Bedrohungen durch KI, die Wahrscheinlichkeiten und Auswirkungen numerisch abschätzt, um Priorisierungsmaßnahmen zu ermöglichen und Risikokontrollstrategien zu optimieren.
Datenschutz bei Abfragen
Techniken und Richtlinien zum Schutz sensibler Informationen in Benutzeranfragen, um sicherzustellen, dass aufgezeichnete Eingaben keine persönlichen oder proprietären Daten gefährden.
Fragebogenrahmen
Ein strukturierter Satz von governance-orientierten Fragen, der während der Gestaltung, Beschaffung oder Implementierung verwendet wird, um sicherzustellen, dass KI-Systeme mit den Anforderungen der Richtlinien übereinstimmen.
Beschlussfähigkeit des Governance Boards
Die Mindestanzahl der erforderlichen Mitglieder des Governance-Ausschusses, die anwesend sein müssen, um offizielle Entscheidungen über KI-Risiken, Genehmigungen von Richtlinien oder Prüfergebnisse zu treffen.
Kontingentverwaltung
Die Steuerungen und Begrenzungen der Nutzung von KI-Ressourcen (z. B. API-Aufrufe, Rechenzeit), um Governance-Richtlinien durchzusetzen und unkontrollierte Kosten oder Missbrauch zu verhindern.
R
Argumentationskette
Der mehrstufige logische Prozess, dem ein KI-Agent folgt, um von einer ursprünglichen Zielsetzung zu einer finalen Aktion oder Ausgabe zu gelangen.
Rückgriff
Mechanismen, die betroffenen Personen ermöglichen, KI-gesteuerte Entscheidungen, die ihre Rechte oder Interessen betreffen, anzufechten oder eine Abhilfe zu suchen.
Rotes Teaming
Ein proaktiver Testansatz, bei dem interne oder externe Experten Angriffe oder Missbrauchsszenarien simulieren, um Schwachstellen in KI-Systemen aufzudecken.
Regulatorische Konformität
Sicherstellung, dass KI-Systeme während ihres gesamten Betriebs die geltenden Gesetze, Vorschriften und Industriestandards (z. B. DSGVO, FDA, finanzielle Aufsicht) einhalten.
Verantwortlichkeitszuordnungsmatrix
Ein Instrument (z. B. RACI), das Rollen und Zuständigkeiten für jede Governance-Aktivität klar definiert – also festlegt, wer verantwortlich, gesamtverantwortlich, zu konsultieren und zu informieren ist.
Verantwortungsvolle KI
Die Praxis des Entwerfens, Entwickelns und Bereitstellens von KI-Systemen auf eine Weise, die ethisch, transparent und rechenschaftspflichtig gegenüber den Interessengruppen und der Gesellschaft ist.
Risikobewertung
Der Prozess der Identifizierung, Analyse und Priorisierung potenzieller Schäden oder Ausfälle in KI-Systemen, um geeignete Minderungsstrategien zu bestimmen.
Risikomanagement-Rahmenwerk
Eine strukturierte Reihe von Richtlinien und Prozessen zur systematischen Bewältigung von KI-Risiken über den gesamten Lebenszyklus des Systems, von der Gestaltung bis zur Außerbetriebnahme.
Ursachenanalyse
Eine strukturierte Untersuchung, um die zugrunde liegenden Gründe für das Versagen von KI-Systemen oder unerwartetem Verhalten zu bestimmen und korrigierende Maßnahmen zu leiten.
S
Genehmigte Nutzungsrichtlinie
Definierte Regeln und Kontrollen, die zugelassene Kontexte, Benutzer und Zwecke für den Betrieb von KI-Systemen spezifizieren, um Missbrauch zu verhindern.
Sicherheit durch Design
Die Integration von Sicherheitskontrollen und bewährten Praktiken in KI-Systeme von den frühesten Designphasen an, um Schwachstellen und Datenverletzungen zu verhindern.
Schattenakteur_innen
Nicht autorisierte, autonome KI-Agenten, die ohne das Wissen des Governance-Teams innerhalb einer Organisation bereitgestellt werden und in der Lage sind, Aktionen auszuführen, die sich auf Geschäftssysteme und externe Parteien auswirken.
Schatten-KI
Die unautorisierte Verwendung von KI-Modellen, -Agenten oder -Werkzeugen durch Mitarbeiter ohne Genehmigung der IT-Abteilung schafft verdeckte Sicherheitslücken durch Datenleckagen und unbefugte autonome Aktionen.
Modell-Rahmenwerk für KI-Governance in Singapur
Ein freiwilliger Leitfaden der singapurischen Behörden IMDA und PDPC für die verantwortungsvolle Implementierung künstlicher Intelligenz.
KI-Basisgesetz für Südkorea
Südkoreas umfassender rechtlicher Rahmen für die Entwicklung und das Vertrauen in KI.
Bewertung der gesellschaftlichen Auswirkungen
Eine strukturierte Bewertung, wie ein KI-System die sozialen, wirtschaftlichen und kulturellen Aspekte von Gemeinschaften beeinflusst, wobei mögliche Schäden und Vorteile identifiziert werden.
SR 11-7 (Modellrisikomanagement)
Die grundlegenden Leitlinien der US-Notenbank Federal Reserve für das Risikomanagement im Zusammenhang mit dem Einsatz von Modellen im Bankenwesen.
Stakeholder-Engagement
Der Prozess der Einbeziehung betroffener Parteien (z.B. Benutzer, Regulierungsbehörden, betroffene Gemeinschaften) in die Entwicklung und Überwachung von KI, um vielfältige Perspektiven und Unterstützung sicherzustellen.
Erklärung zur Anwendbarkeit (Statement of Applicability, SoA)
Ein Dokument, das bestimmt, welche Kontrollen aus dem ISO 42001 Anhang A für das KI-Managementsystem einer Organisation relevant sind, und erläutert, warum andere ausgeschlossen wurden.
Wesentliche Änderung
Eine Änderung an einem KI-System nach dessen Inverkehrbringen, die sich auf seine Konformität oder seinen bestimmungsgemäßen Zweck gemäß dem KI-Gesetz der EU auswirkt.
Überwachungsrisiko
Die Bedrohung, dass KI-Systeme für invasive Überwachung von Einzelpersonen oder Gruppen ausgenutzt werden könnten, wobei die Privatsphäre und bürgerliche Freiheiten verletzt werden.
System der Aufzeichnung
Die maßgebliche Datenquelle für ein bestimmtes Datenelement oder eine Information innerhalb einer Organisation.
Schwellenwert für systemisches Risiko
Der technische oder fähigkeitsbasierte Grenzwert (z. B. 10^25 FLOPs), ab dem ein Allzweck-KI-Modell als mit einem hohen Risiko für die Gesellschaft verbunden eingestuft wird.
T
Extremes Risiko
Das Potenzial für seltene, extreme Ergebnisse im Verhalten oder in der Entscheidungsfindung von KI, die außerhalb normaler Erwartungen liegen und spezielle Maßnahmenplanung erfordern.
Testen & Validierung
Der systematische Prozess der Bewertung von KI-Modellen anhand von Benchmark-Tests, speziellen Randfällen und Belastungsbedingungen, um sicherzustellen, dass sie Leistungs-, Sicherheits- und Compliance-Kriterien erfüllen.
Risiko durch Dritte
Das Risiko, das sich aus der Abhängigkeit von externen Datenanbietern, Modelllieferanten oder Dienstleistungsplattformen ergibt, die möglicherweise Compliance- oder Sicherheitsanfälligkeiten einführen.
Schwellenwert Einstellung
Festlegung von Grenzen oder Grenzwerten in KI-Entscheidungsregeln (z. B. Vertrauenswerte), um Risiken wie falsch-positive gegenüber falsch-negativen Ergebnissen auszubalancieren.
Trilog
Die informelle dreiseitige Verhandlung zwischen der Europäischen Kommission, dem Rat der Europäischen Union und dem Europäischen Parlament, die zur Erzielung einer politischen Einigung über EU-Rechtsvorschriften vor deren formeller Annahme dient.
Verlässliche KI
KI-Systeme, die in einer Weise entworfen und betrieben werden, die ethisch, zuverlässig, sicher und im Einklang mit menschlichen Werten und gesellschaftlichen Normen steht.
Sie
Aktionsplan für KI-Chancen im Vereinigten Königreich
Der strategische Fahrplan der britischen Regierung zur Maximierung der Vorteile von KI bei gleichzeitiger Etablierung gezielter, verbindlicher Sicherheitsregeln.
Anwendungsfall-Governance
Die Praxis der Definition, Genehmigung und Überwachung spezifischer KI-Anwendungsfälle, um sicherzustellen, dass jeder mit den organisatorischen Richtlinien, ethischen Standards und der Risikobereitschaft übereinstimmt.
Benutzerzustimmung
Der Prozess des Einholens und Aufzeichnens ausdrücklicher Zustimmung von Einzelpersonen, bevor ihre persönlichen Daten in KI-Systemen gesammelt, verarbeitet oder verwendet werden.
V
Varianzüberwachung
Verfolgung von Schwankungen in den Ausgaben von KI-Modellen oder Leistungskennzahlen im Laufe der Zeit, um Drift zu erkennen und potenziellen Abbau oder Risiken zu ermitteln.
Lieferantenrisikomanagement
Bewertung und Überwachung von Drittanbietern von KI-Komponenten oder -Dienstleistungen zur Identifizierung und Minderung potenzieller Compliance-, Sicherheits- oder ethischer Risiken.
Versions-Pinning
Die Vorgehensweise, ein KI-System auf eine bestimmte, getestete Version eines Basismodells festzulegen, um zu verhindern, dass unangekündigte Updates das Systemverhalten verändern.
Vetorecht
Das formale Recht, das von einem Governance-Gremium oder einem Stakeholder ausgeübt wird, um AI-Implementierungen, die unannehmbare Risiken darstellen, zu blockieren oder Änderungen zu verlangen.
Überwachungsinstrument
Kontinuierliche Überwachung des Verhaltens von KI und externer Signale (z.B. regulatorische Aktualisierungen), um aufkommende Risiken oder Nicht-Einhaltungen frühzeitig zu erkennen und darauf zu reagieren.
Visuelle KI-Überwachung
Die Governance-Prozesse, die speziell für Computer-Vision-Systeme entwickelt wurden, gewährleisten die Datenqualität, führen Bias-Prüfungen durch und sorgen für Transparenz bei auf Bild/Video basierenden Entscheidungsprozessen.
W
Watchdog-Überwachung
Unabhängige Laufzeitprüfungen, die KI-Entscheidungen überwachen und Warnungen oder Eingriffe auslösen, wenn Richtlinien oder Schwellenwerte überschritten werden.
Wasserzeichenerstellung
Die Praxis, erkennbare, maschinenlesbare Herkunftsmarkierungen in KI-generierten Inhalten wie Bildern, Audio, Video und synthetischem Text einzubetten, damit nachgelagerte Konsumenten und Plattformen diese Inhalte als KI-generiert identifizieren können.
Gewichtskontrolle
Untersuchung von Modellgewichten und -strukturen auf Anomalien, Hintertüren oder Vorurteile, die auf Manipulationen oder unbeabsichtigte Verhaltensweisen hindeuten könnten.
Richtlinie zur Zulassungsliste/Sperrliste
Governance-Regel, die erlaubte (Whitelist) und nicht erlaubte (Blacklist) Eingaben, Funktionen oder Vorgänge definiert, um die Einhaltung der Vorschriften zu gewährleisten und Missbrauch zu verhindern.
Positivliste
Nur vorab genehmigte Datenquellen, Bibliotheken oder Modellkomponenten in KI-Pipelines zuzulassen, um das Risiko durch nicht überprüfte oder bösartige Elemente zu reduzieren.
Arbeitslasttrennung
Trennung von KI-Computing-Umgebungen (z. B. Entwicklung, Test, Produktion) und Datenbereichen, um den Ausbreitungsradius von Fehlern oder Sicherheitsverletzungen zu begrenzen.
Worst-Case-Analyse
Bewertung der extremsten potenziellen Ausfälle oder Missbräuche eines KI-Systems, um solide Risikominderungs- und Notfallplanungsstrategien zu entwickeln.
X
XAI-Prüfung
Ein Überprüfungsprozess, der bewertet, ob die Ausgaben zur Erklärbarkeit von KI den internen Richtlinien und behördlichen Anforderungen entsprechen und ausreichende Transparenz gewährleisten.
XAI (Erklärbare KI)
Techniken und Methoden, die den Entscheidungsprozess eines KI-Modells für Menschen transparent und verständlich machen und somit Verantwortlichkeit und Compliance unterstützen.
XAI-Framework
Ein strukturierter Ansatz oder ein Satz von Richtlinien, den Organisationen verwenden, um die Umsetzbarkeit, Messung und Steuerung von Erklärbarkeitspraktiken in ihren KI-Systemen zu implementieren und zu verwalten.
XAI-Metriken
Quantitative oder qualitative Messgrößen (z. B. Wichtigkeitsscores von Funktionen, Erklärungsgenauigkeit), die zur Bewertung der Qualität und Zuverlässigkeit von KI-Erklärungen verwendet werden.
Ja
Jährliche Compliance-Überprüfung
Eine jährliche Bewertung der KI-Governance-Prozesse, -Richtlinien und -Systeme, um die fortwährende Einhaltung von Vorschriften und internen Standards sicherzustellen.
Z
Null-Fehlertoleranz
Ein Governance-Prinzip, das darauf abzielt, keine Fehler oder Richtlinienverstöße in den KI-Ergebnissen zuzulassen, unterstützt durch rigorose Tests, Überwachung und kontinuierliche Verbesserungszyklen.
Zonenbasierte Zugriffskontrolle
Ein Netzwerk- oder Daten-Governance-Ansatz, der Ressourcen in Zonen mit unterschiedlichen Richtlinien unterteilt und den Zugriff von KI-Systemen gemäß der Datenempfindlichkeit einschränkt.
Whitepaper
Alle
Vorschriften für KI
Podcasts
Produktaktualisierungen
Presseberichterstattung
Glossar
Ein
Nutzungsrichtlinie (Acceptable Use Policy)
Ein von einem Unternehmen aufgestelltes Regelwerk, das festlegt, in welcher Form Mitarbeiter die vom Unternehmen bereitgestellten KI-Tools nutzen dürfen und welche Nutzungsweisen untersagt sind.
Akkreditierte Zertifizierung
Ein Zertifikat, das von einer Zertifizierungsstelle ausgestellt wurde, die von einer nationalen Akkreditierungsstelle (wie ANAB oder UKAS) offiziell als kompetent für die Auditierung nach einer bestimmten Norm anerkannt wurde.
Aktionsvorschau
Eine Governance-Anforderung, nach der ein KI-Agent genau anzeigen muss, welche Auswirkungen eine irreversible Aktion haben wird, bevor eine menschliche Freigabe erfolgt.
Aktions-Whitelisting
Eine Sicherheits- und Governance-Kontrollfunktion, die festlegt, welche Tools, APIs und Aktionen ein KI-Agent ausschließlich ausführen darf.
Gegnerischer Angriff
Techniken, die AI-Modelle durch das Einführen täuschender Eingaben manipulieren, um fehlerhafte Ergebnisse zu verursachen.
Agenten-Plattform
Ein integriertes Laufzeitsubstrat, das mehrere KI-Agenten sowie die Modelle, Tools und Daten, von denen sie abhängen, hostet, orchestriert und steuert.
Übernahme von Agentenzielen (ASI01)
Eine Schwachstelle, bei der ein Angreifer die Ziele oder Entscheidungspfade eines Agenten manipuliert, um dessen autonomes Verhalten auf unerwünschte Ergebnisse umzulenken.
Agenten-Mesh
Eine vernetzte Topologie, in der KI-Agenten über eine gemeinsame Infrastrukturschicht einander entdecken, miteinander kommunizieren und gegenseitig Aufgaben delegieren.
Agentic KI
Eine Klasse von künstlichen Intelligenzsystemen, die darauf ausgelegt ist, komplexe Ziele selbstständig zu verfolgen und mehrstufige Aktionen (wie Softwarebereitstellung oder Finanztransaktionen) mit minimalem menschlichen Eingriff auszuführen.
Agentische KI-Governance
Die Steuerung autonomer KI-Systeme, die unabhängig agieren können (z.B. Transaktionen, Code-Bereitstellung), unterscheidet sich von voraussschauender KI (die Einblicke bietet) und generativer KI (die Inhalte erstellt).
Agentenbasierte Richtlinien-Engine
Eine Laufzeit-Softwarekomponente, die Aktionen von Agenten abfängt und diese vor der Ausführung anhand einer Reihe deterministischer Governance-Regeln bewertet.
Verantwortlichkeit der KI
Die Verpflichtung der Entwickler und Betreiber von KI-Systemen, sicherzustellen, dass ihre Systeme verantwortungsvoll entworfen und verwendet werden, unter Einhaltung ethischer Standards und gesetzlicher Anforderungen.
KI-Ausrichtung
Der Prozess, sicherzustellen, dass die Ziele und Verhaltensweisen von KI-Systemen mit menschlichen Werten und Absichten in Einklang stehen.
KI-Assistent
Ein System für konversationelle KI, das darauf ausgelegt ist, Nutzer bei der Erledigung von Aufgaben durch Interaktion in natürlicher Sprache zu unterstützen, typischerweise betrieben durch ein großes Sprachmodell.
KI-Prüfung
Die systematische Bewertung von KI-Systemen zur Beurteilung der Einhaltung von ethischen Standards, Vorschriften und Leistungskennzahlen.
KI-Voreingenommenheit
Systematische Fehler in den Ausgaben der KI, die durch voreingenommene Trainingsdaten oder fehlerhafte Algorithmen entstehen und zu unfaire Ergebnisse führen.
KI-Software-Stückliste (AIBOM)
Ein strukturiertes Inventar, das die Komponenten eines KI-Systems auflistet – einschließlich Basismodellen, Trainingsdatensätzen, Bibliotheken und Abhängigkeiten. Dies ist das KI-Äquivalent zu einer Software-Stückliste (Software Bill of Materials, SBOM).
KI-Konformität
Die Einhaltung von geltenden Gesetzen, Vorschriften und ethischen Richtlinien durch KI-Systeme während ihres gesamten Lebenszyklus.
KI-Ethik
Das Fachgebiet, das sich mit den moralischen Implikationen und Verantwortlichkeiten im Zusammenhang mit der Entwicklung und Implementierung von KI-Technologien befasst.
Erklärbarkeit von KI
Das Ausmaß, in dem die internen Mechanismen eines KI-Systems von Menschen verstanden und interpretiert werden können.
KI-Fußabdruck
Die Gesamtheit aller KI-Systeme, -Modelle, -Agenten und integrierten KI-Funktionen, die zu einem bestimmten Zeitpunkt in einem Unternehmen im Einsatz sind, einschließlich offiziell genehmigter sowie inoffizieller Systeme (Schatten-IT).
KI-Governance
Das Rahmenwerk aus Richtlinien, Prozessen und Kontrollmechanismen, das die ethische und effektive Entwicklung und Nutzung von KI-Systemen leitet.
KI-Governance für Finanzdienstleistungen
Die spezialisierte Anwendung von KI-Risikomanagement-Frameworks zur Erfüllung der strengen Aufsichts- und Verhaltensanforderungen des Banken- und Versicherungssektors.
KI-Governance-Software
Spezialisierte Enterprise-Tools zur Automatisierung der Inventarisierung, Risikobewertung und regulatorischen Compliance von Systemen der künstlichen Intelligenz.
KI-Inventar
Ein umfassender, zentralisierter Katalog aller KI-Systeme, Modelle und Agenten, die in einer Organisation verwendet werden, der ihren Geschäftszweck, das Risikoniveau und die Eigentümerschaft verfolgt.
EU-KI-Haftungsrichtlinie
Ein Entwurf für eine EU-Richtlinie, die darauf abzielt, das Verfahren für Kläger zur Geltendmachung von durch KI-Systeme verursachten Schäden zu vereinfachen, indem eine widerlegbare Kausalitätsvermutung eingeführt wird.
KI-Kompetenz
Das Verständnis von KI-Konzepten, Fähigkeiten und Einschränkungen, ermöglicht eine informierte Interaktion mit KI-Technologien.
Management-System für Künstliche Intelligenz (AIMS)
Eine Reihe von miteinander in Beziehung stehenden oder sich gegenseitig beeinflussenden Elementen einer Organisation zur Festlegung von Richtlinien, Zielen und Prozessen für die verantwortungsvolle Entwicklung oder Nutzung von KI.
KI-Überwachung
Die kontinuierliche Beobachtung und Analyse der Leistung von KI-Systemen, um Zuverlässigkeit, Sicherheit und Compliance zu gewährleisten.
KI-Risiko
Das Potenzial von KI-Systemen, Schaden oder unbeabsichtigte Folgen zu verursachen, einschließlich ethischer, rechtlicher und betrieblicher Risiken.
KI-Risikomanagement
Der Prozess der Identifizierung, Bewertung und Minderung von Risiken im Zusammenhang mit KI-Systemen.
Wildwuchs von KI-Anwendungen
Die unkontrollierte Verbreitung von KI-Systemen im gesamten Unternehmen, die in der Regel durch den einfachen Zugang zu KI-Tools und das Fehlen effektiver Erfassungs- und Inventarisierungsprozesse begünstigt wird.
Folgenabschätzung für KI-Systeme
Ein formelles Verfahren zur Bewertung der potenziellen Folgen des Einsatzes eines KI-Systems auf Einzelpersonen, Gruppen und die Gesellschaft als Ganzes.
KI-Transparenz
Das Prinzip, dass KI-Systeme offen und transparent über ihre Abläufe, Entscheidungen und Datennutzung informieren sollten.
KI TRiSM
Ein von Gartner geprägtes Akronym, das für KI-Vertrauen, Risiko- und Sicherheitsmanagement steht; ein Rahmenwerk, das Governance, Vertrauenswürdigkeit und Sicherheit in eine einzige operative Strategie vereint.
Gesetz über künstliche Intelligenz und Daten (AIDA)
Kanadas föderaler Regulierungsrahmen (Teil des Gesetzesentwurfs Bill C-27), der darauf abzielt, eine sichere und vorurteilsfreie Entwicklung sowie Nutzung von KI-Systemen mit weitreichenden Auswirkungen zu gewährleisten.
Algorithmische Verzerrung
Ein Bias, der auftritt, wenn ein Algorithmus systematisch voreingenommene Ergebnisse produziert, aufgrund fehlerhafter Annahmen im maschinellen Lernprozess.
Algorithmische Verwaltung
Der Einsatz von Algorithmen zur Steuerung und Regulierung gesellschaftlicher Funktionen, der potenziell die Entscheidungsprozesse beeinflussen kann.
Amnestie-Programm
Eine zeitlich begrenzte Governance-Initiative, bei der Mitarbeitende dazu eingeladen werden, die Nutzung nicht genehmigter KI-Tools offenzulegen, ohne disziplinarische Maßnahmen befürchten zu müssen.
Produkte gemäß Anhang I
Eine Liste von Produkten, die bereits dem EU-Gesundheits- und Sicherheitsrecht unterliegen (z. B. Maschinen, Medizinprodukte) und bei denen integrierte KI gemäß der EU-KI-Verordnung automatisch als Hochrisiko eingestuft wird.
Anhang-III-Kategorien
Eine spezifische Liste von hochriskanten KI-Anwendungsbereichen, die im EU-KI-Gesetz definiert sind und zwingende Compliance-Verpflichtungen auslösen.
Analyse des API-Traffics
Der technische Prozess der Überwachung und Überprüfung von Netzwerkaufrufen an externe KI-Dienstleister.
Ausnahme gemäß Artikel 6 Absatz 3
Ein Selbstbestimmungsmechanismus unter dem EU-KI-Gesetz, der es Anbietern ermöglicht, ein KI-System der Anlage III als nicht hochriskant einzustufen, sofern es kein erhebliches Risiko darstellt.
Artikel 25 (EU-Gesetz über künstliche Intelligenz)
Die Bestimmung des EU-KI-Gesetzes, die eine direkte Verpflichtungskette zwischen Anbietern und Betreibern von Hochrisiko-KI-Systemen schafft, einschließlich der Haftungsübertragung bei wesentlichen Systemänderungen.
Artikel 50 (EU-Gesetz über künstliche Intelligenz)
Die Bestimmung des EU-KI-Gesetzes, die Transparenzpflichten für KI-Systeme festlegt, die mit Menschen interagieren, synthetische Inhalte generieren oder Deepfakes erstellen.
Australische Richtlinie für sichere und verantwortungsvolle KI
Die Richtlinie der australischen Bundesregierung zur Regulierung des Einsatzes künstlicher Intelligenz im öffentlichen Dienst und in Regierungsbehörden.
Automatisierte KI-Governance
Der Einsatz von Software- und API-Integrationen zur Durchführung kontinuierlicher Compliance-Prüfungen und Risikoüberwachungen in Echtzeit ohne manuelles Eingreifen.
B
Verstärkung von Verzerrungen
Das Phänomen, bei dem KI-Systeme bestehende Vorurteile in den Trainingsdaten verstärken und zu zunehmend verzerrten Ergebnissen führen.
Voreingenommenheitsprüfung
Ein Bewertungsprozess zur Erkennung und Minderung von Verzerrungen in KI-Systemen, um Fairness und die Einhaltung ethischer Standards sicherzustellen.
Voreingenommenheitserkennung
Der Prozess der Identifizierung von Verzerrungen in KI-Modellen durch Analyse ihrer Ergebnisse und Entscheidungsprozesse.
Voreingenommenheitsminderung
Techniken, die während der KI-Entwicklung angewendet werden, um Vorurteile in Modellen und Datensätzen zu reduzieren oder zu beseitigen.
Brasilianischer Gesetzentwurf zur KI (PL 2338/2023)
Brasiliens primäres gesetzgeberisches Vorhaben zur Schaffung eines nationalen Rahmens für KI-Rechte und deren Regulierung.
Brüsseler Effekt
Das Phänomen, bei dem EU-Regulierungen durch Marktzugangsbedingungen zum weltweiten Standard werden, selbst für Unternehmen mit Hauptsitz außerhalb der EU.
C
Kalifornisches Gesetz AB 1008
Eine Änderung des CCPA, die klarstellt, dass personenbezogene Daten auch solche Daten umfassen, die von KI-Systemen generiert oder ausgegeben werden.
Kalifornisches Gesetz AB 3030
Ein kalifornisches Gesetz, das Transparenz vorschreibt, wenn generative KI im Gesundheitswesen zur Kommunikation mit Patientinnen und Patienten eingesetzt wird.
Kalifornische ADMT-Regulierungen
Vorschriften des California Consumer Privacy Act (CCPA) zur Regulierung von automatisierten Entscheidungsfindungstechnologien (Automated Decision-Making Technology, ADMT).
Kalifornische FEHA-KI-Regulierungen
Staatliche Vorschriften im Rahmen des Fair Employment and Housing Act (FEHA) zur Bekämpfung von KI-gestützter Diskriminierung am Arbeitsplatz.
Kalifornisches Gesetz zur KI-Transparenz (SB 942)
Gesetzgebung, die große Anbieter von generativen KI-Systemen verpflichtet, Erkennungswerkzeuge bereitzustellen sowie latente und offensichtliche Offenlegungen in KI-generierte Inhalte einzubetten.
Kaskadierender Fehler (ASI08)
Ein Fehlermodus, bei dem ein Fehler oder eine böswillige Eingabe im Denkprozess eines KI-Agenten eine Kettenreaktion von Ausfällen über mehrere verbundene Agenten oder Systeme hinweg auslöst.
CE-Kennzeichnung
Ein zwingend erforderliches Zertifizierungskennzeichen, das die Konformität eines KI-Systems mit den Gesundheits-, Sicherheits- und Umweltschutzstandards für Produkte bestätigt, die innerhalb des EWR verkauft werden.
Benachrichtigungszeitfenster ändern
Ein vertraglich festgelegter Zeitraum, in dem ein Anbieter den Kunden über wesentliche Aktualisierungen eines KI-Modells informieren muss, bevor diese Aktualisierungen in der Produktivumgebung implementiert werden.
Interimsregelungen für generative KI in China
Regulatorische Anforderungen für generative KI-Dienste, die für die chinesische Öffentlichkeit bereitgestellt werden.
KI-Konvention des Europarats
Der erste rechtlich bindende internationale Vertrag über KI, der sich auf den Schutz der Menschenrechte, der Demokratie und der Rechtsstaatlichkeit konzentriert.
Colorado AI Act (SB 24-205, außer Kraft getreten 2026)
Das Colorado-KI-Gesetz (SB 24-205), die erste umfassende KI-Regelung auf US-Bundesstaatsebene, wurde im Mai 2026 aufgehoben und durch das Gesetz Colorado SB 26-189 ersetzt, das am 1. Januar 2027 in Kraft tritt und einen engeren Fokus auf automatisierte Entscheidungsfindungstechnologien legt.
Colorado AI Act (SB 26-189)
Colorado SB 26-189 ist der im Jahr 2026 beschlossene Nachfolger des ursprünglichen Colorado AI Act (SB 24-205). Das Gesetz tritt am 1. Januar 2027 in Kraft und konzentriert sich auf regulatorische Verpflichtungen für automatisierte Entscheidungssysteme, die wesentliche und folgenschwere Entscheidungen über Bürgerinnen und Bürger in Colorado treffen.
Compliance-Rahmenwerk
Ein strukturierter Satz von Richtlinien und Best Practices, denen Organisationen folgen, um sicherzustellen, dass ihre KI-Systeme regulatorische und ethische Standards erfüllen.
Compliance-Risiko
Das Potenzial für rechtliche oder regulatorische Sanktionen, finanzielle Verluste oder Reputationsschäden, dem ein Unternehmen ausgesetzt ist, wenn es versäumt, gesetzliche Vorschriften, Regulierungen oder vorgegebene Praktiken einzuhalten.
Konzeptdrift
Die Veränderung der statistischen Eigenschaften der Zielvariablen, die das Modell vorherzusagen versucht, im Laufe der Zeit, was zu einer Verschlechterung des Modells führt.
Konformitätsbewertung
Ein Verfahren zur Bestimmung, ob ein KI-System festgelegte Anforderungen, Standards oder Vorschriften erfüllt, das häufig Tests und Zertifizierungen umfasst.
Interne Kontrolle (Konformitätsbewertung)
Ein Verfahren im Rahmen des EU-KI-Gesetzes, bei dem ein Anbieter selbst bestätigt, dass sein Hochrisiko-KI-System alle regulatorischen Anforderungen erfüllt, ohne dass eine Prüfung durch eine unabhängige Stelle erforderlich ist.
Steuerbarkeit
In welchem Maße Menschen die Entscheidungen und Verhaltensweisen eines KI-Systems lenken, beeinflussen oder übersteuern können.
Mandat des AStV
Das Verhandlungsmandat, das die Botschafter der EU-Mitgliedstaaten (Ausschuss der Ständigen Vertreter) der rotierenden Ratspräsidentschaft für Trilog-Verhandlungen über EU-Rechtsvorschriften erteilen.
Kryptografische Agenten-Identität
Ein verifizierbarer digitaler Berechtigungsnachweis (oftmals ein dezentraler Identifikator oder DID), der einen KI-Agenten und dessen Autorisierungsstufe eindeutig identifiziert.
D
Datenabweichung
Die Veränderung der Modell-Eingabedaten im Laufe der Zeit kann zu einer Verschlechterung der Modellleistung führen, wenn diese nicht überwacht und behoben wird.
Datenethik
Der Bereich der Ethik, der Datenpraktiken im Hinblick auf die moralischen Verpflichtungen bei der Erfassung, dem Schutz und der Nutzung personenbezogener Informationen bewertet.
Datenverwaltung
Die umfassende Verwaltung der Datenverfügbarkeit, Benutzerfreundlichkeit, Integrität und Sicherheit in einem Unternehmen, um sicherzustellen, dass Daten während ihres gesamten Lebenszyklus ordnungsgemäß behandelt werden.
Risiko bei der Datenübernahme
Das Risiko, dass vertrauliche oder geschützte Informationen während der Interaktion eines Benutzers dauerhaft in den Trainingsdatensatz eines KI-Modells aufgenommen werden.
Datenlebenszyklusverwaltung
Die richtlinienbasierte Verwaltung des Datenflusses über den gesamten Lebenszyklus: von der Erstellung und anfänglichen Speicherung bis zu dem Zeitpunkt, an dem die Daten veraltet sind und gelöscht werden.
Datenminimierung
Das Prinzip, nur die Daten zu erfassen, die für einen bestimmten Zweck erforderlich sind, reduziert das Risiko von Missbrauch oder Verstößen.
Datenschutz
Der Bereich der Informationstechnologie, der sich mit der Fähigkeit befasst, zu kontrollieren, welche Daten geteilt werden und mit wem, und dabei sicherzustellen, dass personenbezogene Daten angemessen behandelt werden.
Datenschutz
Der Prozess, wichtige Informationen vor Beschädigung, Kompromittierung oder Verlust zu schützen und die Einhaltung der Datenschutzgesetze und -vorschriften zu gewährleisten.
Datenherkunft
Eine dokumentierte Erfassung der Herkunft, der Eigentumsverhältnisse und des Lebenszyklus eines Datensatzes, der für das Training oder die Feinabstimmung eines KI-Modells verwendet wird.
Datenqualität
Der Zustand von Daten, basierend auf Faktoren wie Genauigkeit, Vollständigkeit, Zuverlässigkeit und Relevanz, ist entscheidend für die effektive Leistung von KI-Modellen.
Datenresidenz
Der physische oder geografische Standort der Daten einer Organisation, der Auswirkungen auf die Einhaltung von Datenschutzgesetzen haben kann.
Datenhoheit
Das Konzept, dass Daten den Gesetzen und Governance-Strukturen des Landes unterliegen, in dem sie gesammelt, gespeichert oder verarbeitet werden.
Betroffene Person
Eine Person, deren personenbezogene Daten erfasst, gespeichert oder verarbeitet werden, was insbesondere im Kontext von Datenschutzgesetzen wie der DSGVO relevant ist.
De-Identifikation
Der Prozess der Entfernung oder Verschleierung personenbezogener Kennungen in Datensätzen, um es schwierig zu machen, Einzelpersonen zu identifizieren, wird verwendet, um die Privatsphäre zu schützen.
Täuschungstechnologie
Synthetische Medien, bei denen eine Person in einem bestehenden Bild oder Video durch das Abbild einer anderen Person ersetzt wird, das mit Hilfe von Deep-Learning-Techniken erstellt wurde.
Differentialer Datenschutz
Ein System zur öffentlichen Weitergabe von Informationen über einen Datensatz, indem Muster von Gruppen innerhalb des Datensatzes beschrieben werden, während Informationen über Einzelpersonen zurückgehalten werden.
Das digitale EU-Omnibusgesetz zur Künstlichen Intelligenz
Ein Gesetzgebungspaket für 2025/2026, das darauf ausgelegt ist, technische Standards, Konformitätsbewertungen und Durchsetzungszeitpläne im Rahmen des EU-KI-Gesetzes und damit verbundener digitaler Sicherheitsgesetze zu rationalisieren und zu harmonisieren.
Diskriminierung
Im Bereich der KI bezieht sich dies auf die unfaire Behandlung von Einzelpersonen oder Gruppen aufgrund von Verzerrungen in Daten oder Algorithmen, die zu ungleichen Ergebnissen führen.
Dual-Use-Basismodell
Ein KI-Modell, das auf einer enormen Datenmenge trainiert wurde und über eine leistungsstarke Performance verfügt, sodass es sowohl für zivile als auch für schädliche oder militärische Zwecke eingesetzt werden kann.
Dynamische Risikoanalyse
Der kontinuierliche Prozess der Identifizierung und Bewertung von Risiken in Echtzeit ermöglicht rechtzeitige Reaktionen auf neu auftretende Bedrohungen in KI-Systemen.
E
Enzai
Eine Unternehmensplattform für KI-Governance, die es Organisationen ermöglicht, ihre KI-Systeme zu inventarisieren, bewerten und steuern, um eine maximale Einführung von KI zu gewährleisten und zugleich das Risiko zu minimieren.
Eskalationslogik
Ein Satz vordefinierter Regeln und Auslöser, die einen KI-Agenten zwingen, den autonomen Betrieb einzustellen und die Kontrolle wieder an einen menschlichen Bediener zu übergeben.
ESMA-Erwartungen an die KI/ML-Governance
Regulatorische Richtlinien der Europäischen Wertpapier- und Marktaufsichtsbehörde bezüglich des Einsatzes von Abstrakter Intelligenz (KI) und maschinellem Lernen auf den Finanzmärkten.
Ethische KI
Die Praxis, KI-Systeme auf eine Weise zu entwerfen, zu entwickeln und bereitzustellen, die mit ethischen Prinzipien und Werten übereinstimmt, um Fairness, Verantwortlichkeit und Transparenz zu gewährleisten.
Ethisches KI-Audit
Der Prozess der systematischen Bewertung von KI-Systemen, um sicherzustellen, dass sie den ethischen Standards entsprechen und keinen Schaden verursachen.
Zertifizierung für ethische KI
Eine formale Anerkennung, dass ein KI-System etablierten ethischen Standards und Richtlinien entspricht.
Ethische KI-Governance
Der Rahmen von Richtlinien, Verfahren und Praktiken, die sicherstellen, dass KI-Systeme verantwortungsvoll und ethisch entwickelt und verwendet werden.
Ethische Rahmenwerke
Strukturierte Sätze von Prinzipien und Richtlinien, die dazu bestimmt sind, die ethische Entwicklung und Implementierung von KI-Systemen zu leiten.
Ethische Auswirkungen Bewertung
Ein systematischer Evaluierungsprozess zur Identifizierung und Berücksichtigung der ethischen Implikationen und potenziellen gesellschaftlichen Auswirkungen von KI-Systemen vor deren Einsatz.
Ethisches Risiko
Das Potenzial eines KI-Systems, Schaden durch unethisches Verhalten wie Voreingenommenheit, Diskriminierung oder Verletzung der Privatsphäre zu verursachen.
Ethische Leitlinien für vertrauenswürdige KI
Ein Satz von Richtlinien, die von der hochrangigen Expertengruppe der Europäischen Kommission für KI entwickelt wurden, um vertrauenswürdige KI zu fördern, wobei der Schwerpunkt auf menschlicher Handlungskompetenz, technischer Robustheit, Datenschutz, Transparenz, Vielfalt, gesellschaftlichem Wohlergehen und Verantwortung liegt.
EU-KI-Gesetz
Das weltweit erste umfassende horizontale Regelwerk für KI, das ein risikobasiertes Klassifizierungssystem für Systeme etabliert, die innerhalb der Europäischen Union bereitgestellt oder genutzt werden.
Hochrisiko-Kategorien gemäß dem EU-KI-Gesetz
Die beiden Einstufungen von Hochrisiko-KI-Systemen im Rahmen des EU-KI-Gesetzes (EU AI Act): eigenständige Systeme, die in Anhang III aufgeführt sind (einschließlich Biometrie, kritischer Infrastruktur, Beschäftigung, Bildung, Strafverfolgung und anderer genannter Verwendungszwecke), und in regulierte Produkte eingebettete KI, die in Anhang I aufgeführt sind (einschließlich Medizinprodukten, Fahrzeugen, Maschinen und anderen regulierten Produktkategorien).
Risikoklassifizierung nach dem EU-Gesetz über künstliche Intelligenz
Der vorgeschriebene Prozess zur Einstufung eines KI-Systems in eine von vier Risikoklassen (unacceptable, high, limited, minimal risk) gemäß dem EU-Gesetz über künstliche Intelligenz (EU AI Act).
EU-Amt für KI
Das Gremium der Europäischen Kommission, das für die Überwachung der Umsetzung und Durchsetzung der EU-KI-Verordnung eingerichtet wurde, insbesondere im Hinblick auf KI-Modelle mit allgemeinem Verwendungszweck und systemischem Risiko.
Digitale Omnibus-Richtlinie der EU
Das umfassendere Gesetzgebungs-Vereinfachungspaket der Europäischen Union für den Zeitraum 2025–2026, das verschiedene digitale Verordnungen adressiert, darunter das Gesetz über künstliche Intelligenz (AI Act), Bestimmungen der DSGVO, das Cyber-Resilienz-Gesetz sowie Änderungen des Datengesetzes (Data Act).
Übermäßige Handlungsbefugnis
Eine Sicherheitslücke, bei der einem KI-System im Verhältnis zu seiner beabsichtigten Funktion ein zu hohes Maß an Autonomie, zu viele Werkzeuge oder übermäßig privilegierte Zugriffsrechte gewährt werden.
Executive Order 14110
Die Regierungsrichtlinie der Biden-Administration (unterzeichnet im Oktober 2023, aufgehoben im Januar 2025), die nationale US-Standards für die Sicherheit, Vertrauenswürdigkeit und den Datenschutz von KI festlegte und das U.S. AI Safety Institute am NIST ins Leben rief.
Techniken der Erklärbarkeit
Methoden zur Interpretation und zum Verständnis der Entscheidungen von KI-Modellen, wie LIME, SHAP und Salienzabbildungen.
Erklärbarkeit vs. Interpretierbarkeit
Während beide darauf abzielen, KI-Entscheidungen verständlich zu machen, konzentriert sich die Erklärbarkeit auf die Begründung der Entscheidungen, während sich die Interpretierbarkeit auf die Transparenz der internen Mechanismen des Modells bezieht.
Erklärbare KI (XAI)
KI-Systeme, die darauf ausgelegt sind, nachvollziehbare Begründungen für ihre Entscheidungen und Handlungen bereitzustellen, wodurch Transparenz und Vertrauen gestärkt werden.
Erklärbare Maschinelles Lernen
Maschinelle Lernmodelle, die entwickelt wurden, um klare und verständliche Erklärungen für ihre Vorhersagen und Entscheidungen bereitzustellen.
F
Fairness-Kennzahlen
Quantitative Maße (z.B. demografische Parität, gleichberechtigte Chancen), die verwendet werden, um zu bewerten, wie fair die Vorhersagen eines KI-Modells über verschiedene Gruppen hinweg sind.
Falsch Negativ
Wenn ein AI-Modell fälschlicherweise eine negative Klasse für eine Instanz vorhersagt, die tatsächlich positiv ist (Typ-II-Fehler).
Falsch-Positiv
Wenn ein KI-Modell fälschlicherweise eine positive Klasse für ein Beispiel prognostiziert, das in Wirklichkeit negativ ist (Typ-I-Fehler).
Fehlertoleranz
Die Fähigkeit eines KI-Systems, auch dann korrekt weiterzuarbeiten, wenn einige Komponenten ausfallen oder Fehler produzieren.
Föderierte KI-Governance
Ein Governance-Modell, bei dem zentrale Richtlinien und Aufsicht mit dezentralen Entscheidungsbefugnissen der Geschäftsbereiche oder regionalen Niederlassungen kombiniert werden, um ein ausgewogenes Verhältnis zwischen Konsistenz und operativer Flexibilität zu gewährleisten.
Rückkopplungsschleife
Ein Prozess, bei dem KI-Ausgaben als Eingaben zurückgeführt werden, wodurch das Modellverhalten verstärkt werden kann – zum Positiven (verstärkendes Lernen) oder zum Negativen (Verstärkung von Verzerrungen).
FS AI RMF (Risikomanagement-Framework für künstliche Intelligenz im Finanzdienstleistungssektor)
Das im Februar 2026 veröffentlichte, spezialisierte KI-Risikomanagement-Framework des US-Finanzministeriums für Finanzdienstleistungsunternehmen, welches das NIST AI RMF an sektorspezifische Verpflichtungen anpasst.
Funktionale Sicherheit
Sicherzustellen, dass KI-Systeme unter allen Bedingungen sicher funktionieren, insbesondere in Branchen wie der Automobilindustrie oder dem Gesundheitswesen, erfolgt oft durch Redundanz und Überprüfungen.
Grundrechtecharta-Folgenabschätzung (FRIA)
Eine nach dem EU-KI-Gesetz für bestimmte Bereitsteller obligatorische Bewertung zur Bestimmung der Auswirkungen, die der Einsatz eines Hochrisiko-KI-Systems auf die Bürgerrechte und Menschenrechte haben könnte.
G
Lückenanalyse
Der Prozess, aktuelle KI-Governance-Praktiken mit den gewünschten Standards oder Vorschriften zu vergleichen, um Bereiche zu identifizieren, die Verbesserungen benötigen.
DSGVO
Die Datenschutz-Grundverordnung der EU legt strenge Anforderungen für die Erfassung, Verarbeitung und die individuellen Rechte persönlicher Daten fest.
Zielabweichung
Ein Phänomen, bei dem sich die internen Teilziele oder Argumentationspfade eines KI-Agenten schrittweise von den ursprünglich durch den Menschen vorgegebenen Zielen entfernen.
Lenkungsgremium
Eine funktionsübergreifende Gruppe (z. B. rechtlich, ethisch, technisch), die damit betraut ist, die Richtlinien zur KI-Governance innerhalb einer Organisation zu überwachen und deren Umsetzung zu gewährleisten.
Governance-Rahmenwerk
Ein strukturiertes Modell, das darlegt, wie die Komponenten der KI-Governance (Risikomanagement, Verantwortlichkeit, Aufsicht) zusammenpassen, um die Einhaltung von Vorschriften und die ethische Nutzung sicherzustellen.
Reifegradmodell für Governance
Ein gestuftes Rahmenwerk, das bewertet, wie fortgeschritten die KI-Governance-Praktiken einer Organisation sind, von ad-hoc bis optimiert.
Richtlinie zur Unternehmensführung
Ein formales Dokument, das Regeln, Rollen und Verfahren für die Entwicklung und Überwachung von KI innerhalb einer Organisation kodifiziert.
Governance-Bewertungssystem
Ein Dashboard oder Bericht, das wichtige Kennzahlen (z. B. Vorfälle von Voreingenommenheit, Compliance-Audits) zur Messung der Effektivität der KI-Governance im Laufe der Zeit verfolgt.
Verhaltenskodex für GPAI
Das detaillierte Regulierungsinstrument, das spezifische Verpflichtungen zur Transparenz, Sicherheitsprüfung und Risikominderung für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck (GPAI) gemäß dem Gesetz über künstliche Intelligenz der EU (EU AI Act) festlegt.
GPAI-Modell
Ein universell einsetzbares Modell der künstlichen Intelligenz, das in der Lage ist, eine Vielzahl unterschiedlicher Aufgaben auszuführen und sich nahtlos in verschiedene Anwendungen integrieren lässt.
Granulare Zustimmung
Ein Datenschutzansatz, der es Einzelpersonen ermöglicht, spezifische Berechtigungen für jede Art der Datennutzung zu erteilen oder zu verweigern, wodurch Transparenz und Kontrolle verbessert werden.
Leitplanken
Vordefinierte Einschränkungen oder Überprüfungen (technisch und richtlinienbasiert), die in KI-Systeme eingebettet sind, um unsicheres oder nicht konformes Verhalten zur Laufzeit zu verhindern.
Leitlinie (Ethische KI)
Eine unverbindliche Empfehlung oder ein Best-Practice-Dokument, das von Organisationen (z.B. IEEE, EU) herausgegeben wird, um die verantwortungsvolle Entwicklung und Implementierung von KI zu gestalten.
H
Halluzination
Wenn generative KI inkorrekte oder erfundene Informationen erstellt, die plausibel erscheinen, aber keine Grundlage in den Trainingsdaten haben.
Schadensbewertung
Bewertung potenzieller negativer Auswirkungen (physisch, psychologisch, gesellschaftlich) von KI-Systemen und Definition von Minderungsstrategien.
Harmonisierung
Harmonisierung von KI-Richtlinien, -Standards und -Vorschriften über verschiedene Rechtsgebiete hinweg, um Konflikte zu reduzieren und Interoperabilität zu ermöglichen.
Harmonisierte Struktur
Eine einheitliche Vorlage für alle ISO-Managementsystemnormen, ehemals bekannt als Annex SL, die für Konsistenz bei der Terminologie und der Nummerierung der Abschnitte sorgt.
Heuristische Bewertung
Eine Methode zur Gebrauchstauglichkeitsprüfung, bei der Experten ein KI-System anhand etablierter Gebrauchstauglichkeitsprinzipien beurteilen, um potenzielle Probleme zu identifizieren.
Hochrisiko-KI-System
KI-Anwendungen, die ein erhebliches Potenzial zur Gefährdung der Gesundheit, Sicherheit oder der Grundrechte von Personen aufweisen und somit die strengsten Compliance-Anforderungen gemäß dem EU-Gesetz über künstliche Intelligenz (EU AI Act) auslösen.
KI im Hochspannungsbereich
KI-Anwendungen, deren Ausfälle erheblichen Schaden verursachen könnten (z. B. medizinische Diagnosen, autonome Fahrzeuge), erfordern verstärkte Governance und Aufsicht.
Mensch-in-der-Schleife
Einbeziehung menschlicher Urteilsfähigkeit in KI-Prozesse (Schulung, Validierung, Entscheidungsüberprüfung), um Genauigkeit und Verantwortlichkeit zu verbessern.
Menschliche Aufsicht
Mechanismen, die es ausgewählten Personen ermöglichen, Entscheidungen von KI-Systemen zu überwachen, einzugreifen oder zu überschreiben, um ethische und gesetzliche Konformität sicherzustellen.
Auswirkungen auf die Menschenrechte Bewertung
Ein Verfahren zur Bewertung, wie KI-Systeme die Grundrechte (Privatsphäre, Meinungsfreiheit, Nichtdiskriminierung) beeinflussen, und zur Identifizierung von Minderungsmaßnahmen.
Ich
Auswirkungsbewertung
Eine strukturierte Bewertung zur Identifizierung, Analyse und Minderung potenzieller ethischer, rechtlicher und gesellschaftlicher Auswirkungen eines KI-Systems vor dessen Einsatz.
Durchführungsrechtsakte
Sekundärrecht der Europäischen Union, das von der Europäischen Kommission erlassen wird, um einheitliche Bedingungen für die Umsetzung von Primärrecht festzulegen, und das in allen Mitgliedstaaten rechtsverbindlich ist.
Anreizabstimmung
Die Gestaltung von Belohnungsstrukturen und Zielen, sodass die Zielsetzungen von KI-Systemen mit menschlichen Werten und organisatorischen Prioritäten übereinstimmen.
Induktive Verzerrung
Die Menge von Annahmen, die ein Lernalgorithmus verwendet, um von beobachteten Daten auf nicht gesehene Instanzen zu verallgemeinern.
Informationsverwaltung
Die Richtlinien, Verfahren und Kontrollen, die die Datenqualität, den Datenschutz und die Nutzbarkeit über die Datenbestände einer Organisation hinweg gewährleisten, einschließlich der Schulungsdatensätze für künstliche Intelligenz.
Datenschutzinformationen
Das Recht von Personen, zu kontrollieren, wie ihre persönlichen Daten von KI-Systemen gesammelt, verwendet, gespeichert und geteilt werden.
Vererbtes Datenrisiko
Das regulatorische und ethische Haftungsrisiko, das ein Unternehmen eingeht, wenn es ein KI-System einsetzt, das mit Daten trainiert wurde, die das Unternehmen nicht selbst erhoben oder überprüft hat.
Erfassungsworkflow
Der standardisierte Prozess und die Reihe von Prüfungen, die ein neues KI-System durchlaufen muss, bevor es entwickelt oder beschafft wird.
Absichtsvalidierung
Der Prozess der Verifizierung, dass die geplanten Teilschritte eines KI-Agenten konsistent mit dem ursprünglich vom Menschen vorgegebenen Ziel übereinstimmen.
Interoperabilität
Die Fähigkeit verschiedener KI-Systeme und -Komponenten, Informationen nahtlos auszutauschen, zu verstehen und zu nutzen, häufig über offene Standards oder APIs.
Interpretierbarkeit
Das Maß, in dem ein Mensch die inneren Mechanismen oder Entscheidungsgründe eines KI-Modells verstehen kann.
ISO/IEC 42001
Der internationale Standard, der Anforderungen für die Einführung, Implementierung, Aufrechterhaltung und kontinuierliche Verbesserung eines Managementsystems für Künstliche Intelligenz (AIMS) definiert.
ISO/IEC 42005
Der internationale Standard, der Richtlinien für die Durchführung von Folgenabschätzungen für KI-Systeme bereitstellt.
ISO/IEC JTC 1/SC 42
Der gemeinsame ISO/IEC-Ausschuss für die Standardisierung Künstlicher Intelligenz entwickelt internationale KI-Standards für Governance, Risiko und Interoperabilität.
J
Jailbreak-Angriff
Eine Art von Prompt-Injection, bei der Benutzer Schwachstellen ausnutzen, um Schutzmaßnahmen in generativen KI-Modellen zu umgehen, was möglicherweise zu unsicheren oder unautorisierten Ausgaben führen kann.
Japanisches Gesetz zur Förderung von KI
Ein japanisches Gesetz (beschlossen im Jahr 2025), das grundlegende Prinzipien zur Förderung von KI und zur Risikominderung festlegt.
Gemeinsame Haftung
Rechtsprinzip, bei dem mehrere Parteien (z. B. Entwickler, Betreiber) die Verantwortung für KI-bedingte Schäden teilen, was Einfluss auf Vertrags- und Governance-Strukturen hat.
Gemeinsame Modellierung
Entwicklung von KI-Systemen, die mehrere Aufgaben gleichzeitig lernen (z. B. Spracherkennung + Übersetzung), wobei eine Governance für Komplexität und Überprüfbarkeit erforderlich ist.
Rechtsraum
Die rechtliche Zuständigkeit über Daten, KI-Operationen und Haftung, die je nach geografischer Lage variiert und die Einhaltung regionaler Vorschriften beeinflusst (z. B. DSGVO, CCPA).
K
Schlüsselindikator für die Leistung
Ein quantifizierbarer Messwert (z. B. Modellgenauigkeitsdrift, Zeit zur Beseitigung von Vorurteilen), der zur Überwachung und Berichterstattung über Ziele der KI-Governance und Compliance verwendet wird.
Schlüsselrisikoindikator
Ein führender Messwert (z.B. Häufigkeit von unzutreffenden Vorhersagen, Rate unerklärlicher Entscheidungen), der auf aufkommende KI-Risiken hinweist, bevor sie sich manifestieren.
Wissensmanagement
Praktiken und Werkzeuge zur Erfassung, Organisation und Weitergabe von Organisationswissen (z. B. Modeldokumentation, Prüfungsprotokolle), um Reproduzierbarkeit und Aufsicht sicherzustellen.
L
Minimale Agenturabhängigkeit
Ein Sicherheits- und Governance-Prinzip, das besagt, dass KI-Agenten nur das minimale Maß an Autonomie und Werkzeugzugriff gewährt werden sollte, das zur Erfüllung einer bestimmten Aufgabe erforderlich ist.
Prinzip der minimalen Rechte
Ein Sicherheitsprinzip, bei dem KI-Komponenten und Benutzer nur die minimal erforderlichen Zugriffsrechte erhalten, die notwendig sind, um ihre Funktionen auszuführen, wodurch das Risiko eines Missbrauchs verringert wird.
Rechtliche Konformität
Die Praxis, sicherzustellen, dass KI-Systeme während ihres gesamten Lebenszyklus den geltenden Gesetzen, Vorschriften und Industriestandards entsprechen.
Haftungsrahmen
Ein strukturierter Ansatz zur Bestimmung der Verantwortlichkeiten bei KI-bezogenen Schäden oder Ausfällen, einschließlich Entwicklern, Implementierern und Betreibern.
Lebenszyklusmanagement
Die koordinierten Prozesse für Entwicklung, Bereitstellung, Überwachung, Wartung und Außerdienststellung von KI-Systemen, um kontinuierliche Compliance und Risikokontrolle sicherzustellen.
Lokalisierung
Anpassung von KI-Systemen an lokale Sprachen, Vorschriften, kulturelle Normen und Anforderungen an die Datenresidenz in verschiedenen Gerichtsbarkeiten.
M
Marktüberwachungsbehörde
Die nationale Regulierungsbehörde in jedem EU-Mitgliedstaat, die für die Überwachung von KI-Systemen zuständig ist, um deren Einhaltung des EU-KI-Gesetzes (EU AI Act) sicherzustellen.
MAS-FEAT-Prinzipien
Die Richtlinien der Monetary Authority of Singapore für Fairness, Ethik, Rechenschaftspflicht und Transparenz (FEAT) beim Einsatz von KI im Finanzwesen.
Bedeutungsvolle Menschliche Kontrolle
Ein regulatorischer und betrieblicher Standard, der sicherstellt, dass Menschen die Fähigkeit behalten, AI-Entscheidungsprozesse zu überwachen, einzugreifen und zu übersteuern.
Metadatenverwaltung
Die Praxis der Erfassung und Pflege beschreibender Daten (z. B. Datenherkunft, Merkmaldefinitionen, Modellparameter), um Rückverfolgbarkeit und Audits zu unterstützen.
Kennzahlen & Leistungsindikatoren
Quantitative Maße (z.B. Abweichung der Genauigkeit, Fairness-Scores, Reaktionszeiten bei Vorfällen), die zur Überwachung der Systemgesundheit, Risiken und Compliance-Ziele von KI-Systemen verwendet werden.
Mexikanisches Bundesgesetz über KI und Algorithmen
Ein Entwurf für ein mexikanisches Bundesgesetz zu KI und Algorithmen, das ein risikobasiertes Klassifizierungssystem, die Nationale KI-Kommission (CONAIA) sowie Anforderungen an die Kennzeichnung von KI-generierten Inhalten mittels Wasserzeichen vorschlägt.
Minderungsstrategien
Geplante Maßnahmen (z. B. Beseitigung von Voreingenommenheit, erneutes Training, Feature-Re-Engineering) zur Behebung identifizierter KI-Risiken und Compliance-Lücken.
Minnesota CDPA (Bestimmungen zur künstlichen Intelligenz)
Die KI-spezifischen Komponenten des Minnesota Consumer Data Privacy Act.
Modellkarte
Ein kurzes, standardisiertes Dokument mit wesentlichen Informationen über die Leistung, Einschränkungen und beabsichtigten Anwendungsfälle eines Machine-Learning-Modells.
Modell-Herausgabe
Eine aufsichtsrechtliche Maßnahme, die ein Unternehmen dazu verpflichtet, KI-Modelle oder -Algorithmen zu löschen, welche unter Verwendung unzulässig oder rechtswidrig erlangter Daten entwickelt wurden.
Modellabweichung
Der fortschreitende Qualitätsverlust der Vorhersageleistung eines KI-Modells im Laufe der Zeit, verursacht durch Veränderungen von realen Daten oder Umweltbedingungen.
Modellerklärbarkeit
Techniken und Dokumentation, die die Entscheidungslogik eines KI-Modells verständlich für Stakeholder und Prüfer machen.
Modellführung
Die Richtlinien, Rollen und Kontrollen, die sicherstellen, dass KI-Modelle in Übereinstimmung mit den organisatorischen Standards und regulatorischen Anforderungen entwickelt, genehmigt und verwendet werden.
Modellüberwachung
Kontinuierliches Überwachen der Leistung eines KI-Modells, der Datenverschiebung und der Betriebskennzahlen zur Erkennung von Verschlechterungen oder aufkommenden Risiken.
Modell-Neutraining
Der Prozess der Aktualisierung eines KI-Modells mit neuen oder aktualisierten Daten, um die Leistung und die Einhaltung der Vorschriften aufrechtzuerhalten, während sich die Datenverteilung weiterentwickelt.
Modellrisikomanagement
Der strukturierte Prozess zur Identifizierung, Bewertung und Minderung von Risiken, die sich aus KI/ML-Modellen während ihres gesamten Lebenszyklus ergeben.
Modellvalidierung
Die Evaluierungstätigkeiten (z. B. Tests mit zurückgestellten Daten, Stressszenarien), die bestätigen, dass ein KI-Modell seinen vorgesehenen Zweck und die Leistungskriterien erfüllt.
Engagement von mehreren Interessengruppen
Einbeziehung verschiedener Gruppen (z. B. Recht, Ethik, Betrieb, Endbenutzer) in die Prozesse der KI-Governance, um eine ausgewogene Risikokontrolle und die Ausrichtung auf Unternehmensziele sicherzustellen.
N
NIST KI-Risikomanagement-Rahmenwerk
Eine freiwillige Anleitung des US-amerikanischen National Institute of Standards and Technology, die bewährte Verfahren zur Risikominderung über den gesamten Lebenszyklus von KI-Systemen darlegt.
NIST AI RMF-Profile
Kontextspezifische Implementierungen des NIST AI Risk Management Frameworks, die speziell auf bestimmte Branchen, Technologien oder Risikoarten zugeschnitten sind.
Nicht-menschliche Identität (NHI)
Digitale Anmeldedaten, die von einem KI-Agenten, Bot oder Dienst verwendet werden, um sich gegenüber Unternehmenssystemen zu authentifizieren und mit diesen zu interagieren.
Benannte Stelle
Eine unabhängige Drittorganisation, die von einem EU-Mitgliedstaat benannt wird, um die Konformität bestimmter KI-Systeme mit hohem Risiko gemäß dem EU-KI-Gesetz zu bewerten.
NYC Local Law 144
Ein Gesetz der Stadt New York, das jährliche Audits zur Überprüfung von Voreingenommenheit bei KI-Tools vorschreibt, die für Personalentscheidungen eingesetzt werden.
O
Beobachtbarkeit
Die Fähigkeit, den internen Zustand und das Verhalten eines KI-Systems durch die Sammlung und Analyse von Protokollen, Metriken und Ausgaben für effektive Überwachung und Fehlerbehebung abzuleiten.
OMB-Memorandum M-25-21
Eine bundesweit geltende Richtlinie, die Anforderungen an die Governance und das Risikomanagement von KI für Behörden der US-Regierung festlegt.
Fortlaufende Überwachung
Kontinuierliches Tracking der Leistung von KI-Systemen, Datenverschiebungen, Verzerrungsmessungen und Sicherheitsereignissen, um auftretende Risiken im Laufe der Zeit zu erkennen und zu adressieren.
Operative Autonomie
Die Fähigkeit eines KI-Systems, mehrstufige Aufgaben auszuführen und Entscheidungen zu treffen, ohne dass in jeder Phase ein menschliches Eingreifen erforderlich ist.
Betriebliche Resilienz
Die Fähigkeit von KI-Systemen und deren unterstützender Infrastruktur, Störungen oder widrigen Ereignissen vorherzusehen, ihnen standzuhalten, sich davon zu erholen und sich anzupassen.
Risiko der Ausgabe
Die operationellen, rechtlichen und reputationsbezogenen Risiken, die sich aus der Verwendung fehlerhafter, voreingenommener oder schädlicher Inhalte ergeben, die von einem KI-System generiert wurden.
Überblick
Der strukturierte Prozess der Überprüfung, Genehmigung und Verantwortlichkeit für die Entwicklung und Bereitstellung von KI, der typischerweise funktionsübergreifende Governance-Instanzen umfasst.
OWASP Agentic Top 10
Eine formale Taxonomie der zehn kritischsten Sicherheitsrisiken, die spezifisch für autonome KI-Agenten und deren Anwendungsumgebungen sind.
P
Governance für den standardisierten Entwicklungspfad
Eine Strategie, die Compliance fördert, indem autorisierte, sichere Workflows einfacher zu befolgen sind als nicht autorisierte Alternativen.
Berechtigungsverwaltung
Die Verwaltung von Benutzer- und Systemzugriffsrechten auf KI-Daten und -Funktionen, um sicherzustellen, dass nur die minimalen erforderlichen Rechte vergeben werden und unbefugte Nutzung verhindert wird.
Pilotversuche
Ein begrenzter Versuch eines KI-Systems in einer kontrollierten Umgebung, um Leistung, Risiken und Governance-Kontrollen vor der vollständigen Einführung zu bewerten.
Richtlinienumsetzung
Die automatisierten oder manuellen Mechanismen, die sicherstellen, dass KI-Operationen den organisatorischen Richtlinien, regulatorischen Vorschriften und ethischen Leitlinien entsprechen.
Überwachungen nach der Bereitstellung
Fortlaufende Beobachtung des Verhaltens und der Umgebung von KI-Systemen nach deren Freigabe, um Abbau, Abweichungen oder Verstöße gegen die Compliance zu erkennen.
PRA SS1/23 (Management von Modellrisiken)
Die Erklärung der britischen Prudential Regulation Authority zum Modellrisikomanagement für Banken und Versicherer.
Konformitätsvermutung
Ein rechtlicher Mechanismus im Rahmen des EU-KI-Gesetzes und anderer Regelungen, bei dem die Einhaltung eines harmonisierten Standards (z. B. eines veröffentlichten EN-Standards) die widerlegbare Annahme begründet, dass die zugrunde liegende Verordnung erfüllt ist.
Datenschutz durch Design
Ein Ansatz, der Datenschutz und die Privatsphäre der Nutzer von Anfang an in die Architektur und die Prozesse des KI-Systems einbindet.
Datenschutz-Folgenabschätzung
Eine strukturierte Analyse zur Identifizierung und Minderung von Datenschutzrisiken im Zusammenhang mit KI-Systemen, die Datenerfassung, -nutzung, -weitergabe und -speicherung abdeckt.
Probabilistisches System
Ein System, dessen Ergebnisse auf statistischen Wahrscheinlichkeiten basieren und nicht auf einer deterministischen, festen Logik.
F
Qualitative Bewertung
Die subjektive Überprüfung von Verhaltensweisen, Entscheidungen und Dokumentationen von KI-Systemen durch Experten, um ethische, rechtliche oder rufschädigende Bedenken zu identifizieren, die quantitativ nicht erfasst werden.
Qualitätssicherung
Die systematischen Prozesse und Überprüfungen zur Sicherstellung, dass KI-Modelle und Datenpipelines definierte Standards für Genauigkeit, Zuverlässigkeit und ethische Konformität erfüllen.
Qualitätskontrolle
Die fortlaufende Überprüfung von AI-Ergebnissen und -Prozessen anhand von Benchmarks und Testfällen, um Mängel, Vorfälle von Voreingenommenheit oder Verstöße gegen Richtlinien aufzudecken.
Quantitative Risikoanalyse
Eine datenbasierte Bewertung potenzieller Bedrohungen durch KI, die Wahrscheinlichkeiten und Auswirkungen numerisch abschätzt, um Priorisierungsmaßnahmen zu ermöglichen und Risikokontrollstrategien zu optimieren.
Datenschutz bei Abfragen
Techniken und Richtlinien zum Schutz sensibler Informationen in Benutzeranfragen, um sicherzustellen, dass aufgezeichnete Eingaben keine persönlichen oder proprietären Daten gefährden.
Fragebogenrahmen
Ein strukturierter Satz von governance-orientierten Fragen, der während der Gestaltung, Beschaffung oder Implementierung verwendet wird, um sicherzustellen, dass KI-Systeme mit den Anforderungen der Richtlinien übereinstimmen.
Beschlussfähigkeit des Governance Boards
Die Mindestanzahl der erforderlichen Mitglieder des Governance-Ausschusses, die anwesend sein müssen, um offizielle Entscheidungen über KI-Risiken, Genehmigungen von Richtlinien oder Prüfergebnisse zu treffen.
Kontingentverwaltung
Die Steuerungen und Begrenzungen der Nutzung von KI-Ressourcen (z. B. API-Aufrufe, Rechenzeit), um Governance-Richtlinien durchzusetzen und unkontrollierte Kosten oder Missbrauch zu verhindern.
R
Argumentationskette
Der mehrstufige logische Prozess, dem ein KI-Agent folgt, um von einer ursprünglichen Zielsetzung zu einer finalen Aktion oder Ausgabe zu gelangen.
Rückgriff
Mechanismen, die betroffenen Personen ermöglichen, KI-gesteuerte Entscheidungen, die ihre Rechte oder Interessen betreffen, anzufechten oder eine Abhilfe zu suchen.
Rotes Teaming
Ein proaktiver Testansatz, bei dem interne oder externe Experten Angriffe oder Missbrauchsszenarien simulieren, um Schwachstellen in KI-Systemen aufzudecken.
Regulatorische Konformität
Sicherstellung, dass KI-Systeme während ihres gesamten Betriebs die geltenden Gesetze, Vorschriften und Industriestandards (z. B. DSGVO, FDA, finanzielle Aufsicht) einhalten.
Verantwortlichkeitszuordnungsmatrix
Ein Instrument (z. B. RACI), das Rollen und Zuständigkeiten für jede Governance-Aktivität klar definiert – also festlegt, wer verantwortlich, gesamtverantwortlich, zu konsultieren und zu informieren ist.
Verantwortungsvolle KI
Die Praxis des Entwerfens, Entwickelns und Bereitstellens von KI-Systemen auf eine Weise, die ethisch, transparent und rechenschaftspflichtig gegenüber den Interessengruppen und der Gesellschaft ist.
Risikobewertung
Der Prozess der Identifizierung, Analyse und Priorisierung potenzieller Schäden oder Ausfälle in KI-Systemen, um geeignete Minderungsstrategien zu bestimmen.
Risikomanagement-Rahmenwerk
Eine strukturierte Reihe von Richtlinien und Prozessen zur systematischen Bewältigung von KI-Risiken über den gesamten Lebenszyklus des Systems, von der Gestaltung bis zur Außerbetriebnahme.
Ursachenanalyse
Eine strukturierte Untersuchung, um die zugrunde liegenden Gründe für das Versagen von KI-Systemen oder unerwartetem Verhalten zu bestimmen und korrigierende Maßnahmen zu leiten.
S
Genehmigte Nutzungsrichtlinie
Definierte Regeln und Kontrollen, die zugelassene Kontexte, Benutzer und Zwecke für den Betrieb von KI-Systemen spezifizieren, um Missbrauch zu verhindern.
Sicherheit durch Design
Die Integration von Sicherheitskontrollen und bewährten Praktiken in KI-Systeme von den frühesten Designphasen an, um Schwachstellen und Datenverletzungen zu verhindern.
Schattenakteur_innen
Nicht autorisierte, autonome KI-Agenten, die ohne das Wissen des Governance-Teams innerhalb einer Organisation bereitgestellt werden und in der Lage sind, Aktionen auszuführen, die sich auf Geschäftssysteme und externe Parteien auswirken.
Schatten-KI
Die unautorisierte Verwendung von KI-Modellen, -Agenten oder -Werkzeugen durch Mitarbeiter ohne Genehmigung der IT-Abteilung schafft verdeckte Sicherheitslücken durch Datenleckagen und unbefugte autonome Aktionen.
Modell-Rahmenwerk für KI-Governance in Singapur
Ein freiwilliger Leitfaden der singapurischen Behörden IMDA und PDPC für die verantwortungsvolle Implementierung künstlicher Intelligenz.
KI-Basisgesetz für Südkorea
Südkoreas umfassender rechtlicher Rahmen für die Entwicklung und das Vertrauen in KI.
Bewertung der gesellschaftlichen Auswirkungen
Eine strukturierte Bewertung, wie ein KI-System die sozialen, wirtschaftlichen und kulturellen Aspekte von Gemeinschaften beeinflusst, wobei mögliche Schäden und Vorteile identifiziert werden.
SR 11-7 (Modellrisikomanagement)
Die grundlegenden Leitlinien der US-Notenbank Federal Reserve für das Risikomanagement im Zusammenhang mit dem Einsatz von Modellen im Bankenwesen.
Stakeholder-Engagement
Der Prozess der Einbeziehung betroffener Parteien (z.B. Benutzer, Regulierungsbehörden, betroffene Gemeinschaften) in die Entwicklung und Überwachung von KI, um vielfältige Perspektiven und Unterstützung sicherzustellen.
Erklärung zur Anwendbarkeit (Statement of Applicability, SoA)
Ein Dokument, das bestimmt, welche Kontrollen aus dem ISO 42001 Anhang A für das KI-Managementsystem einer Organisation relevant sind, und erläutert, warum andere ausgeschlossen wurden.
Wesentliche Änderung
Eine Änderung an einem KI-System nach dessen Inverkehrbringen, die sich auf seine Konformität oder seinen bestimmungsgemäßen Zweck gemäß dem KI-Gesetz der EU auswirkt.
Überwachungsrisiko
Die Bedrohung, dass KI-Systeme für invasive Überwachung von Einzelpersonen oder Gruppen ausgenutzt werden könnten, wobei die Privatsphäre und bürgerliche Freiheiten verletzt werden.
System der Aufzeichnung
Die maßgebliche Datenquelle für ein bestimmtes Datenelement oder eine Information innerhalb einer Organisation.
Schwellenwert für systemisches Risiko
Der technische oder fähigkeitsbasierte Grenzwert (z. B. 10^25 FLOPs), ab dem ein Allzweck-KI-Modell als mit einem hohen Risiko für die Gesellschaft verbunden eingestuft wird.
T
Extremes Risiko
Das Potenzial für seltene, extreme Ergebnisse im Verhalten oder in der Entscheidungsfindung von KI, die außerhalb normaler Erwartungen liegen und spezielle Maßnahmenplanung erfordern.
Testen & Validierung
Der systematische Prozess der Bewertung von KI-Modellen anhand von Benchmark-Tests, speziellen Randfällen und Belastungsbedingungen, um sicherzustellen, dass sie Leistungs-, Sicherheits- und Compliance-Kriterien erfüllen.
Risiko durch Dritte
Das Risiko, das sich aus der Abhängigkeit von externen Datenanbietern, Modelllieferanten oder Dienstleistungsplattformen ergibt, die möglicherweise Compliance- oder Sicherheitsanfälligkeiten einführen.
Schwellenwert Einstellung
Festlegung von Grenzen oder Grenzwerten in KI-Entscheidungsregeln (z. B. Vertrauenswerte), um Risiken wie falsch-positive gegenüber falsch-negativen Ergebnissen auszubalancieren.
Trilog
Die informelle dreiseitige Verhandlung zwischen der Europäischen Kommission, dem Rat der Europäischen Union und dem Europäischen Parlament, die zur Erzielung einer politischen Einigung über EU-Rechtsvorschriften vor deren formeller Annahme dient.
Verlässliche KI
KI-Systeme, die in einer Weise entworfen und betrieben werden, die ethisch, zuverlässig, sicher und im Einklang mit menschlichen Werten und gesellschaftlichen Normen steht.
Sie
Aktionsplan für KI-Chancen im Vereinigten Königreich
Der strategische Fahrplan der britischen Regierung zur Maximierung der Vorteile von KI bei gleichzeitiger Etablierung gezielter, verbindlicher Sicherheitsregeln.
Anwendungsfall-Governance
Die Praxis der Definition, Genehmigung und Überwachung spezifischer KI-Anwendungsfälle, um sicherzustellen, dass jeder mit den organisatorischen Richtlinien, ethischen Standards und der Risikobereitschaft übereinstimmt.
Benutzerzustimmung
Der Prozess des Einholens und Aufzeichnens ausdrücklicher Zustimmung von Einzelpersonen, bevor ihre persönlichen Daten in KI-Systemen gesammelt, verarbeitet oder verwendet werden.
V
Varianzüberwachung
Verfolgung von Schwankungen in den Ausgaben von KI-Modellen oder Leistungskennzahlen im Laufe der Zeit, um Drift zu erkennen und potenziellen Abbau oder Risiken zu ermitteln.
Lieferantenrisikomanagement
Bewertung und Überwachung von Drittanbietern von KI-Komponenten oder -Dienstleistungen zur Identifizierung und Minderung potenzieller Compliance-, Sicherheits- oder ethischer Risiken.
Versions-Pinning
Die Vorgehensweise, ein KI-System auf eine bestimmte, getestete Version eines Basismodells festzulegen, um zu verhindern, dass unangekündigte Updates das Systemverhalten verändern.
Vetorecht
Das formale Recht, das von einem Governance-Gremium oder einem Stakeholder ausgeübt wird, um AI-Implementierungen, die unannehmbare Risiken darstellen, zu blockieren oder Änderungen zu verlangen.
Überwachungsinstrument
Kontinuierliche Überwachung des Verhaltens von KI und externer Signale (z.B. regulatorische Aktualisierungen), um aufkommende Risiken oder Nicht-Einhaltungen frühzeitig zu erkennen und darauf zu reagieren.
Visuelle KI-Überwachung
Die Governance-Prozesse, die speziell für Computer-Vision-Systeme entwickelt wurden, gewährleisten die Datenqualität, führen Bias-Prüfungen durch und sorgen für Transparenz bei auf Bild/Video basierenden Entscheidungsprozessen.
W
Watchdog-Überwachung
Unabhängige Laufzeitprüfungen, die KI-Entscheidungen überwachen und Warnungen oder Eingriffe auslösen, wenn Richtlinien oder Schwellenwerte überschritten werden.
Wasserzeichenerstellung
Die Praxis, erkennbare, maschinenlesbare Herkunftsmarkierungen in KI-generierten Inhalten wie Bildern, Audio, Video und synthetischem Text einzubetten, damit nachgelagerte Konsumenten und Plattformen diese Inhalte als KI-generiert identifizieren können.
Gewichtskontrolle
Untersuchung von Modellgewichten und -strukturen auf Anomalien, Hintertüren oder Vorurteile, die auf Manipulationen oder unbeabsichtigte Verhaltensweisen hindeuten könnten.
Richtlinie zur Zulassungsliste/Sperrliste
Governance-Regel, die erlaubte (Whitelist) und nicht erlaubte (Blacklist) Eingaben, Funktionen oder Vorgänge definiert, um die Einhaltung der Vorschriften zu gewährleisten und Missbrauch zu verhindern.
Positivliste
Nur vorab genehmigte Datenquellen, Bibliotheken oder Modellkomponenten in KI-Pipelines zuzulassen, um das Risiko durch nicht überprüfte oder bösartige Elemente zu reduzieren.
Arbeitslasttrennung
Trennung von KI-Computing-Umgebungen (z. B. Entwicklung, Test, Produktion) und Datenbereichen, um den Ausbreitungsradius von Fehlern oder Sicherheitsverletzungen zu begrenzen.
Worst-Case-Analyse
Bewertung der extremsten potenziellen Ausfälle oder Missbräuche eines KI-Systems, um solide Risikominderungs- und Notfallplanungsstrategien zu entwickeln.
X
XAI-Prüfung
Ein Überprüfungsprozess, der bewertet, ob die Ausgaben zur Erklärbarkeit von KI den internen Richtlinien und behördlichen Anforderungen entsprechen und ausreichende Transparenz gewährleisten.
XAI (Erklärbare KI)
Techniken und Methoden, die den Entscheidungsprozess eines KI-Modells für Menschen transparent und verständlich machen und somit Verantwortlichkeit und Compliance unterstützen.
XAI-Framework
Ein strukturierter Ansatz oder ein Satz von Richtlinien, den Organisationen verwenden, um die Umsetzbarkeit, Messung und Steuerung von Erklärbarkeitspraktiken in ihren KI-Systemen zu implementieren und zu verwalten.
XAI-Metriken
Quantitative oder qualitative Messgrößen (z. B. Wichtigkeitsscores von Funktionen, Erklärungsgenauigkeit), die zur Bewertung der Qualität und Zuverlässigkeit von KI-Erklärungen verwendet werden.
Ja
Jährliche Compliance-Überprüfung
Eine jährliche Bewertung der KI-Governance-Prozesse, -Richtlinien und -Systeme, um die fortwährende Einhaltung von Vorschriften und internen Standards sicherzustellen.
Z
Null-Fehlertoleranz
Ein Governance-Prinzip, das darauf abzielt, keine Fehler oder Richtlinienverstöße in den KI-Ergebnissen zuzulassen, unterstützt durch rigorose Tests, Überwachung und kontinuierliche Verbesserungszyklen.
Zonenbasierte Zugriffskontrolle
Ein Netzwerk- oder Daten-Governance-Ansatz, der Ressourcen in Zonen mit unterschiedlichen Richtlinien unterteilt und den Zugriff von KI-Systemen gemäß der Datenempfindlichkeit einschränkt.
Abonnieren Sie unseren Newsletter
Indem Sie sich anmelden, stimmen Sie der Enzai Datenschutzerklärung zu.
Abonnieren Sie unseren Newsletter
Indem Sie sich anmelden, stimmen Sie der Enzai Datenschutzerklärung zu.
Abonnieren Sie unseren Newsletter
Indem Sie sich anmelden, stimmen Sie der Enzai Datenschutzerklärung zu.
Abonnieren Sie unseren Newsletter
Indem Sie sich anmelden, stimmen Sie der Enzai Datenschutzerklärung zu.
KI-Governance
KI-Governance
Infrastruktur
Infrastruktur
Entwickelt für Vertrauen.
Entwickelt für Vertrauen.
Ermöglichen Sie Ihrer Organisation die Einführung, Steuerung und Überwachung von KI mit unternehmensgerechtem Vertrauen. Entwickelt für regulierte Organisationen, die im großen Maßstab operieren.
Verbinden Sie nahtlos Ihre bestehenden Systeme, Richtlinien und KI-Workflows – alles auf einer einheitlichen Plattform.
Verbinden Sie nahtlos Ihre bestehenden Systeme, Richtlinien und KI-Workflows – alles auf einer einheitlichen Plattform.