Produkte
Entdecken Sie das vollständige Sortiment an KI-Governance-Produkten von Enzai, das darauf ausgelegt ist, Organisationen dabei zu helfen, KI mit Vertrauen zu verwalten, zu überwachen und zu skalieren. Von strukturierten Aufnahmen und zentralisierten KI-Inventaren bis hin zu automatisierten Bewertungen und Echtzeitüberwachung bietet Enzai die Bausteine, um Governance direkt in alltägliche KI-Workflows einzubetten — ohne die Innovation zu verlangsamen.
Alle
Whitepaper
Vorschriften für KI
Podcasts
Produktaktualisierungen
Presseberichterstattung
Glossar
Treten Sie unserem Podcast bei oder arbeiten Sie an Inhalten mit uns zusammen
Kontaktieren Sie uns, und wir werden sehen, was wir gemeinsam produzieren können.
Ein
Nutzungsrichtlinie (Acceptable Use Policy)
Ein von einem Unternehmen aufgestelltes Regelwerk, das festlegt, in welcher Form Mitarbeiter die vom Unternehmen bereitgestellten KI-Tools nutzen dürfen und welche Nutzungsweisen untersagt sind.
Akkreditierte Zertifizierung
Ein Zertifikat, das von einer Zertifizierungsstelle ausgestellt wurde, die von einer nationalen Akkreditierungsstelle (wie ANAB oder UKAS) offiziell als kompetent für die Auditierung nach einer bestimmten Norm anerkannt wurde.
Genauigkeit
Der Grad, zu dem die Ausgaben eines KI-Systems korrekt reale Daten oder beabsichtigte Ergebnisse widerspiegeln.
Aktionsvorschau
Eine Governance-Anforderung, nach der ein KI-Agent genau anzeigen muss, welche Auswirkungen eine irreversible Aktion haben wird, bevor eine menschliche Freigabe erfolgt.
Aktions-Whitelisting
Eine Sicherheits- und Governance-Kontrollfunktion, die festlegt, welche Tools, APIs und Aktionen ein KI-Agent ausschließlich ausführen darf.
Gegnerischer Angriff
Techniken, die AI-Modelle durch das Einführen täuschender Eingaben manipulieren, um fehlerhafte Ergebnisse zu verursachen.
Agenten-Plattform
Ein integriertes Laufzeitsubstrat, das mehrere KI-Agenten sowie die Modelle, Tools und Daten, von denen sie abhängen, hostet, orchestriert und steuert.
Übernahme von Agentenzielen (ASI01)
Eine Schwachstelle, bei der ein Angreifer die Ziele oder Entscheidungspfade eines Agenten manipuliert, um dessen autonomes Verhalten auf unerwünschte Ergebnisse umzulenken.
Agenten-Mesh
Eine vernetzte Topologie, in der KI-Agenten über eine gemeinsame Infrastrukturschicht einander entdecken, miteinander kommunizieren und gegenseitig Aufgaben delegieren.
Agentic KI
Eine Klasse von künstlichen Intelligenzsystemen, die darauf ausgelegt ist, komplexe Ziele selbstständig zu verfolgen und mehrstufige Aktionen (wie Softwarebereitstellung oder Finanztransaktionen) mit minimalem menschlichen Eingriff auszuführen.
Agentische KI-Governance
Die Steuerung autonomer KI-Systeme, die unabhängig agieren können (z.B. Transaktionen, Code-Bereitstellung), unterscheidet sich von voraussschauender KI (die Einblicke bietet) und generativer KI (die Inhalte erstellt).
Agentenbasierte Richtlinien-Engine
Eine Laufzeit-Softwarekomponente, die Aktionen von Agenten abfängt und diese vor der Ausführung anhand einer Reihe deterministischer Governance-Regeln bewertet.
Verantwortlichkeit der KI
Die Verpflichtung der Entwickler und Betreiber von KI-Systemen, sicherzustellen, dass ihre Systeme verantwortungsvoll entworfen und verwendet werden, unter Einhaltung ethischer Standards und gesetzlicher Anforderungen.
KI-Ausrichtung
Der Prozess, sicherzustellen, dass die Ziele und Verhaltensweisen von KI-Systemen mit menschlichen Werten und Absichten in Einklang stehen.
KI-Assistent
Ein System für konversationelle KI, das darauf ausgelegt ist, Nutzer bei der Erledigung von Aufgaben durch Interaktion in natürlicher Sprache zu unterstützen, typischerweise betrieben durch ein großes Sprachmodell.
KI-Prüfung
Die systematische Bewertung von KI-Systemen zur Beurteilung der Einhaltung von ethischen Standards, Vorschriften und Leistungskennzahlen.
KI-Voreingenommenheit
Systematische Fehler in den Ausgaben der KI, die durch voreingenommene Trainingsdaten oder fehlerhafte Algorithmen entstehen und zu unfaire Ergebnisse führen.
KI-Software-Stückliste (AIBOM)
Ein strukturiertes Inventar, das die Komponenten eines KI-Systems auflistet – einschließlich Basismodellen, Trainingsdatensätzen, Bibliotheken und Abhängigkeiten. Dies ist das KI-Äquivalent zu einer Software-Stückliste (Software Bill of Materials, SBOM).
KI-Konformität
Die Einhaltung von geltenden Gesetzen, Vorschriften und ethischen Richtlinien durch KI-Systeme während ihres gesamten Lebenszyklus.
KI-Ethik
Das Fachgebiet, das sich mit den moralischen Implikationen und Verantwortlichkeiten im Zusammenhang mit der Entwicklung und Implementierung von KI-Technologien befasst.
Erklärbarkeit von KI
Das Ausmaß, in dem die internen Mechanismen eines KI-Systems von Menschen verstanden und interpretiert werden können.
KI-Fußabdruck
Die Gesamtheit aller KI-Systeme, -Modelle, -Agenten und integrierten KI-Funktionen, die zu einem bestimmten Zeitpunkt in einem Unternehmen im Einsatz sind, einschließlich offiziell genehmigter sowie inoffizieller Systeme (Schatten-IT).
KI-Governance
Das Rahmenwerk aus Richtlinien, Prozessen und Kontrollmechanismen, das die ethische und effektive Entwicklung und Nutzung von KI-Systemen leitet.
KI-Governance für Finanzdienstleistungen
Die spezialisierte Anwendung von KI-Risikomanagement-Frameworks zur Erfüllung der strengen Aufsichts- und Verhaltensanforderungen des Banken- und Versicherungssektors.
KI-Governance-Software
Spezialisierte Enterprise-Tools zur Automatisierung der Inventarisierung, Risikobewertung und regulatorischen Compliance von Systemen der künstlichen Intelligenz.
KI-Inventar
Ein umfassender, zentralisierter Katalog aller KI-Systeme, Modelle und Agenten, die in einer Organisation verwendet werden, der ihren Geschäftszweck, das Risikoniveau und die Eigentümerschaft verfolgt.
EU-KI-Haftungsrichtlinie
Ein Entwurf für eine EU-Richtlinie, die darauf abzielt, das Verfahren für Kläger zur Geltendmachung von durch KI-Systeme verursachten Schäden zu vereinfachen, indem eine widerlegbare Kausalitätsvermutung eingeführt wird.
KI-Kompetenz
Das Verständnis von KI-Konzepten, Fähigkeiten und Einschränkungen, ermöglicht eine informierte Interaktion mit KI-Technologien.
Management-System für Künstliche Intelligenz (AIMS)
Eine Reihe von miteinander in Beziehung stehenden oder sich gegenseitig beeinflussenden Elementen einer Organisation zur Festlegung von Richtlinien, Zielen und Prozessen für die verantwortungsvolle Entwicklung oder Nutzung von KI.
KI-Überwachung
Die kontinuierliche Beobachtung und Analyse der Leistung von KI-Systemen, um Zuverlässigkeit, Sicherheit und Compliance zu gewährleisten.
KI-Risiko
Das Potenzial von KI-Systemen, Schaden oder unbeabsichtigte Folgen zu verursachen, einschließlich ethischer, rechtlicher und betrieblicher Risiken.
KI-Risikomanagement
Der Prozess der Identifizierung, Bewertung und Minderung von Risiken im Zusammenhang mit KI-Systemen.
Wildwuchs von KI-Anwendungen
Die unkontrollierte Verbreitung von KI-Systemen im gesamten Unternehmen, die in der Regel durch den einfachen Zugang zu KI-Tools und das Fehlen effektiver Erfassungs- und Inventarisierungsprozesse begünstigt wird.
Folgenabschätzung für KI-Systeme
Ein formelles Verfahren zur Bewertung der potenziellen Folgen des Einsatzes eines KI-Systems auf Einzelpersonen, Gruppen und die Gesellschaft als Ganzes.
KI-Transparenz
Das Prinzip, dass KI-Systeme offen und transparent über ihre Abläufe, Entscheidungen und Datennutzung informieren sollten.
KI TRiSM
Ein von Gartner geprägtes Akronym, das für KI-Vertrauen, Risiko- und Sicherheitsmanagement steht; ein Rahmenwerk, das Governance, Vertrauenswürdigkeit und Sicherheit in eine einzige operative Strategie vereint.
Gesetz über künstliche Intelligenz und Daten (AIDA)
Kanadas föderaler Regulierungsrahmen (Teil des Gesetzesentwurfs Bill C-27), der darauf abzielt, eine sichere und vorurteilsfreie Entwicklung sowie Nutzung von KI-Systemen mit weitreichenden Auswirkungen zu gewährleisten.
Algorithmus
Ein Satz von Regeln oder Anweisungen, die einem KI-System gegeben werden, um ihm zu helfen, eigenständig zu lernen.
Algorithmische Verzerrung
Ein Bias, der auftritt, wenn ein Algorithmus systematisch voreingenommene Ergebnisse produziert, aufgrund fehlerhafter Annahmen im maschinellen Lernprozess.
Algorithmische Verwaltung
Der Einsatz von Algorithmen zur Steuerung und Regulierung gesellschaftlicher Funktionen, der potenziell die Entscheidungsprozesse beeinflussen kann.
Amnestie-Programm
Eine zeitlich begrenzte Governance-Initiative, bei der Mitarbeitende dazu eingeladen werden, die Nutzung nicht genehmigter KI-Tools offenzulegen, ohne disziplinarische Maßnahmen befürchten zu müssen.
Produkte gemäß Anhang I
Eine Liste von Produkten, die bereits dem EU-Gesundheits- und Sicherheitsrecht unterliegen (z. B. Maschinen, Medizinprodukte) und bei denen integrierte KI gemäß der EU-KI-Verordnung automatisch als Hochrisiko eingestuft wird.
Anhang-III-Kategorien
Eine spezifische Liste von hochriskanten KI-Anwendungsbereichen, die im EU-KI-Gesetz definiert sind und zwingende Compliance-Verpflichtungen auslösen.
Analyse des API-Traffics
Der technische Prozess der Überwachung und Überprüfung von Netzwerkaufrufen an externe KI-Dienstleister.
Ausnahme gemäß Artikel 6 Absatz 3
Ein Selbstbestimmungsmechanismus unter dem EU-KI-Gesetz, der es Anbietern ermöglicht, ein KI-System der Anlage III als nicht hochriskant einzustufen, sofern es kein erhebliches Risiko darstellt.
Artikel 25 (EU-Gesetz über künstliche Intelligenz)
Die Bestimmung des EU-KI-Gesetzes, die eine direkte Verpflichtungskette zwischen Anbietern und Betreibern von Hochrisiko-KI-Systemen schafft, einschließlich der Haftungsübertragung bei wesentlichen Systemänderungen.
Artikel 50 (EU-Gesetz über künstliche Intelligenz)
Die Bestimmung des EU-KI-Gesetzes, die Transparenzpflichten für KI-Systeme festlegt, die mit Menschen interagieren, synthetische Inhalte generieren oder Deepfakes erstellen.
Allgemeine Künstliche Intelligenz
Eine Art von KI, die über die Fähigkeit verfügt, Wissen auf eine verallgemeinerte Weise zu verstehen, zu lernen und anzuwenden, ähnlich der menschlichen Intelligenz.
Künstliche Intelligenz
Die Simulation menschlicher Intelligenzprozesse durch Maschinen, insbesondere Computersysteme, einschließlich Lernen, Schlussfolgern und Selbstkorrektur.
Australische Richtlinie für sichere und verantwortungsvolle KI
Die Richtlinie der australischen Bundesregierung zur Regulierung des Einsatzes künstlicher Intelligenz im öffentlichen Dienst und in Regierungsbehörden.
Automatisierte KI-Governance
Der Einsatz von Software- und API-Integrationen zur Durchführung kontinuierlicher Compliance-Prüfungen und Risikoüberwachungen in Echtzeit ohne manuelles Eingreifen.
B
Rückpropagation
Ein Trainingsalgorithmus, der in neuronalen Netzwerken verwendet wird, um Gewichte anzupassen, indem Fehler vom Ausgabeschicht rückwärts propagiert werden, um den Verlust zu minimieren.
Stapelverarbeitung Lernen
Ein maschinelles Lernverfahren, bei dem das Modell auf einmal mit dem gesamten Datensatz trainiert wird, im Gegensatz zum inkrementellen Lernen.
Benchmarking
Der Prozess des Vergleichs der Leistung eines KI-Systems mit Standardkennzahlen oder anderen Systemen zur Bewertung der Effektivität.
Voreingenommenheit
Systematische Fehler in den Ausgaben der KI, die durch voreingenommene Trainingsdaten oder fehlerhafte Algorithmen entstehen und zu unfaire Ergebnisse führen.
Verstärkung von Verzerrungen
Das Phänomen, bei dem KI-Systeme bestehende Vorurteile in den Trainingsdaten verstärken und zu zunehmend verzerrten Ergebnissen führen.
Voreingenommenheitsprüfung
Ein Bewertungsprozess zur Erkennung und Minderung von Verzerrungen in KI-Systemen, um Fairness und die Einhaltung ethischer Standards sicherzustellen.
Voreingenommenheitserkennung
Der Prozess der Identifizierung von Verzerrungen in KI-Modellen durch Analyse ihrer Ergebnisse und Entscheidungsprozesse.
Voreingenommenheitsminderung
Techniken, die während der KI-Entwicklung angewendet werden, um Vorurteile in Modellen und Datensätzen zu reduzieren oder zu beseitigen.
Schwarzkastenmodell
Ein KI-System, dessen interne Abläufe nicht transparent oder interpretierbar sind, was es schwierig macht zu verstehen, wie Entscheidungen getroffen werden.
Bot
Eine Softwareanwendung, die automatisierte Aufgaben ausführt und häufig in der KI für Aufgaben wie Kundenservice oder Datenerfassung eingesetzt wird.
Brasilianischer Gesetzentwurf zur KI (PL 2338/2023)
Brasiliens primäres gesetzgeberisches Vorhaben zur Schaffung eines nationalen Rahmens für KI-Rechte und deren Regulierung.
Brüsseler Effekt
Das Phänomen, bei dem EU-Regulierungen durch Marktzugangsbedingungen zum weltweiten Standard werden, selbst für Unternehmen mit Hauptsitz außerhalb der EU.
C
Kalifornisches Gesetz AB 1008
Eine Änderung des CCPA, die klarstellt, dass personenbezogene Daten auch solche Daten umfassen, die von KI-Systemen generiert oder ausgegeben werden.
Kalifornisches Gesetz AB 3030
Ein kalifornisches Gesetz, das Transparenz vorschreibt, wenn generative KI im Gesundheitswesen zur Kommunikation mit Patientinnen und Patienten eingesetzt wird.
Kalifornische ADMT-Regulierungen
Vorschriften des California Consumer Privacy Act (CCPA) zur Regulierung von automatisierten Entscheidungsfindungstechnologien (Automated Decision-Making Technology, ADMT).
Kalifornische FEHA-KI-Regulierungen
Staatliche Vorschriften im Rahmen des Fair Employment and Housing Act (FEHA) zur Bekämpfung von KI-gestützter Diskriminierung am Arbeitsplatz.
Kalifornisches Gesetz zur KI-Transparenz (SB 942)
Gesetzgebung, die große Anbieter von generativen KI-Systemen verpflichtet, Erkennungswerkzeuge bereitzustellen sowie latente und offensichtliche Offenlegungen in KI-generierte Inhalte einzubetten.
Kaskadierender Fehler (ASI08)
Ein Fehlermodus, bei dem ein Fehler oder eine böswillige Eingabe im Denkprozess eines KI-Agenten eine Kettenreaktion von Ausfällen über mehrere verbundene Agenten oder Systeme hinweg auslöst.
Kausale Inferenz
Eine Methode in der KI und Statistik, die verwendet wird, um Ursache-Wirkungs-Beziehungen zu bestimmen und dabei hilft, die Auswirkungen von Interventionen oder Änderungen von Variablen zu verstehen.
CE-Kennzeichnung
Ein zwingend erforderliches Zertifizierungskennzeichen, das die Konformität eines KI-Systems mit den Gesundheits-, Sicherheits- und Umweltschutzstandards für Produkte bestätigt, die innerhalb des EWR verkauft werden.
Benachrichtigungszeitfenster ändern
Ein vertraglich festgelegter Zeitraum, in dem ein Anbieter den Kunden über wesentliche Aktualisierungen eines KI-Modells informieren muss, bevor diese Aktualisierungen in der Produktivumgebung implementiert werden.
Chatbot
Eine KI-gestützte Softwareanwendung, die darauf ausgelegt ist, menschliche Gespräche zu simulieren und häufig im Kundenservice sowie zur Informationsbeschaffung eingesetzt wird.
Interimsregelungen für generative KI in China
Regulatorische Anforderungen für generative KI-Dienste, die für die chinesische Öffentlichkeit bereitgestellt werden.
Klassifizierung
Ein überwachtes Lernverfahren im Bereich des maschinellen Lernens, bei dem das Modell die Kategorie oder Klassenbezeichnung neuer Beobachtungen basierend auf den Trainingsdaten vorhersagt.
KI-Konvention des Europarats
Der erste rechtlich bindende internationale Vertrag über KI, der sich auf den Schutz der Menschenrechte, der Demokratie und der Rechtsstaatlichkeit konzentriert.
Kognitive Voreingenommenheit
Systematische Abweichungsmuster von der Norm oder Rationalität im Urteil, die die Entscheidungsfindung von KI beeinflussen können, wenn sie in den Trainingsdaten vorhanden sind.
Kognitives Computing
Ein Teilbereich der KI, der menschliche Denkprozesse in einem computergestützten Modell simuliert, mit dem Ziel, komplexe Probleme ohne menschliche Unterstützung zu lösen.
Kognitive Belastung
Der gesamte mentale Aufwand, der im Arbeitsgedächtnis verwendet wird, wird im Bereich der KI berücksichtigt, um Systeme zu entwerfen, die Benutzer nicht überfordern.
Colorado AI Act (SB24-205)
Das erste umfassende US-Bundesstaatengesetz, das Entwickler und Bereitsteller von hochriskanten KI-Systemen zur Implementierung von Sorgfaltsstandards und zur Durchführung jährlicher Folgenabschätzungen verpflichtet.
Colorado AI Act (SB 26-189)
Colorado SB 26-189 is the 2026 replacement for the original Colorado AI Act (SB 24-205), taking effect 1 January 2027 with obligations focused on automated decision-making technology making consequential decisions about Coloradans.
Compliance-Rahmenwerk
Ein strukturierter Satz von Richtlinien und Best Practices, denen Organisationen folgen, um sicherzustellen, dass ihre KI-Systeme regulatorische und ethische Standards erfüllen.
Compliance-Risiko
Das Potenzial für rechtliche oder regulatorische Sanktionen, finanzielle Verluste oder Reputationsschäden, dem ein Unternehmen ausgesetzt ist, wenn es versäumt, gesetzliche Vorschriften, Regulierungen oder vorgegebene Praktiken einzuhalten.
Computer Vision
Ein Bereich der KI, der Computer darin schult, visuelle Informationen aus der Welt, wie Bilder und Videos, zu interpretieren und zu verarbeiten.
Konzeptdrift
Die Veränderung der statistischen Eigenschaften der Zielvariablen, die das Modell vorherzusagen versucht, im Laufe der Zeit, was zu einer Verschlechterung des Modells führt.
Vertrauensintervall
Ein Wertebereich, abgeleitet von Stichprobenstatistiken, der wahrscheinlich den Wert eines unbekannten Populationsparameters enthält, wird in der KI verwendet, um Unsicherheiten auszudrücken.
Konformitätsbewertung
Ein Verfahren zur Bestimmung, ob ein KI-System festgelegte Anforderungen, Standards oder Vorschriften erfüllt, das häufig Tests und Zertifizierungen umfasst.
Interne Kontrolle (Konformitätsbewertung)
Ein Verfahren im Rahmen des EU-KI-Gesetzes, bei dem ein Anbieter selbst bestätigt, dass sein Hochrisiko-KI-System alle regulatorischen Anforderungen erfüllt, ohne dass eine Prüfung durch eine unabhängige Stelle erforderlich ist.
Kontinuierliches Lernen
Die Fähigkeit eines KI-Systems, kontinuierlich aus neuen Dateneingaben zu lernen und sich ohne menschliches Eingreifen anzupassen, verbessert sich im Laufe der Zeit.
Steuerbarkeit
In welchem Maße Menschen die Entscheidungen und Verhaltensweisen eines KI-Systems lenken, beeinflussen oder übersteuern können.
Mandat des AStV
Das Verhandlungsmandat, das die Botschafter der EU-Mitgliedstaaten (Ausschuss der Ständigen Vertreter) der rotierenden Ratspräsidentschaft für Trilog-Verhandlungen über EU-Rechtsvorschriften erteilen.
Kreuzvalidierung
Eine Modellvalidierungsmethode zur Beurteilung, wie die Ergebnisse einer statistischen Analyse auf ein unabhängiges Datenset verallgemeinert werden können.
Kryptografische Agenten-Identität
Ein verifizierbarer digitaler Berechtigungsnachweis (oftmals ein dezentraler Identifikator oder DID), der einen KI-Agenten und dessen Autorisierungsstufe eindeutig identifiziert.
Cybersicherheit
Die Praxis des Schutzes von Systemen, Netzwerken und Programmen vor digitalen Angriffen ist entscheidend für den Schutz von KI-Systemen vor Bedrohungen.
D
Datenabweichung
Die Veränderung der Modell-Eingabedaten im Laufe der Zeit kann zu einer Verschlechterung der Modellleistung führen, wenn diese nicht überwacht und behoben wird.
Datenethik
Der Bereich der Ethik, der Datenpraktiken im Hinblick auf die moralischen Verpflichtungen bei der Erfassung, dem Schutz und der Nutzung personenbezogener Informationen bewertet.
Datenverwaltung
Die umfassende Verwaltung der Datenverfügbarkeit, Benutzerfreundlichkeit, Integrität und Sicherheit in einem Unternehmen, um sicherzustellen, dass Daten während ihres gesamten Lebenszyklus ordnungsgemäß behandelt werden.
Risiko bei der Datenübernahme
Das Risiko, dass vertrauliche oder geschützte Informationen während der Interaktion eines Benutzers dauerhaft in den Trainingsdatensatz eines KI-Modells aufgenommen werden.
Datenlebenszyklusverwaltung
Die richtlinienbasierte Verwaltung des Datenflusses über den gesamten Lebenszyklus: von der Erstellung und anfänglichen Speicherung bis zu dem Zeitpunkt, an dem die Daten veraltet sind und gelöscht werden.
Datenminimierung
Das Prinzip, nur die Daten zu erfassen, die für einen bestimmten Zweck erforderlich sind, reduziert das Risiko von Missbrauch oder Verstößen.
Datenschutz
Der Bereich der Informationstechnologie, der sich mit der Fähigkeit befasst, zu kontrollieren, welche Daten geteilt werden und mit wem, und dabei sicherzustellen, dass personenbezogene Daten angemessen behandelt werden.
Datenschutz
Der Prozess, wichtige Informationen vor Beschädigung, Kompromittierung oder Verlust zu schützen und die Einhaltung der Datenschutzgesetze und -vorschriften zu gewährleisten.
Datenherkunft
Eine dokumentierte Erfassung der Herkunft, der Eigentumsverhältnisse und des Lebenszyklus eines Datensatzes, der für das Training oder die Feinabstimmung eines KI-Modells verwendet wird.
Datenqualität
Der Zustand von Daten, basierend auf Faktoren wie Genauigkeit, Vollständigkeit, Zuverlässigkeit und Relevanz, ist entscheidend für die effektive Leistung von KI-Modellen.
Datenresidenz
Der physische oder geografische Standort der Daten einer Organisation, der Auswirkungen auf die Einhaltung von Datenschutzgesetzen haben kann.
Datenhoheit
Das Konzept, dass Daten den Gesetzen und Governance-Strukturen des Landes unterliegen, in dem sie gesammelt, gespeichert oder verarbeitet werden.
Betroffene Person
Eine Person, deren personenbezogene Daten erfasst, gespeichert oder verarbeitet werden, was insbesondere im Kontext von Datenschutzgesetzen wie der DSGVO relevant ist.
De-Identifikation
Der Prozess der Entfernung oder Verschleierung personenbezogener Kennungen in Datensätzen, um es schwierig zu machen, Einzelpersonen zu identifizieren, wird verwendet, um die Privatsphäre zu schützen.
Tiefes Lernen
Ein Teilbereich des maschinellen Lernens, der neuronale Netze mit mehreren Schichten umfasst und die Modellierung komplexer Muster in Daten ermöglicht.
Täuschungstechnologie
Synthetische Medien, bei denen eine Person in einem bestehenden Bild oder Video durch das Abbild einer anderen Person ersetzt wird, das mit Hilfe von Deep-Learning-Techniken erstellt wurde.
Differentialer Datenschutz
Ein System zur öffentlichen Weitergabe von Informationen über einen Datensatz, indem Muster von Gruppen innerhalb des Datensatzes beschrieben werden, während Informationen über Einzelpersonen zurückgehalten werden.
Das digitale EU-Omnibusgesetz zur Künstlichen Intelligenz
Ein Gesetzgebungspaket für 2025/2026, das darauf ausgelegt ist, technische Standards, Konformitätsbewertungen und Durchsetzungszeitpläne im Rahmen des EU-KI-Gesetzes und damit verbundener digitaler Sicherheitsgesetze zu rationalisieren und zu harmonisieren.
Diskriminierung
Im Bereich der KI bezieht sich dies auf die unfaire Behandlung von Einzelpersonen oder Gruppen aufgrund von Verzerrungen in Daten oder Algorithmen, die zu ungleichen Ergebnissen führen.
Verteiltes Lernen
Ein maschineller Lernansatz, bei dem Trainingsdaten auf mehrere Geräte oder Standorte verteilt werden und Modelle kollaborativ trainiert werden, ohne rohe Daten auszutauschen.
Domänenanpassung
Eine Technik im maschinellen Lernen, bei der ein in einem Bereich trainiertes Modell angepasst wird, um in einem anderen, aber verwandten Bereich zu funktionieren.
Dual-Use-Basismodell
Ein KI-Modell, das auf einer enormen Datenmenge trainiert wurde und über eine leistungsstarke Performance verfügt, sodass es sowohl für zivile als auch für schädliche oder militärische Zwecke eingesetzt werden kann.
Dynamische Risikoanalyse
Der kontinuierliche Prozess der Identifizierung und Bewertung von Risiken in Echtzeit ermöglicht rechtzeitige Reaktionen auf neu auftretende Bedrohungen in KI-Systemen.
E
Edge-KI
Die Bereitstellung von KI-Algorithmen auf Edge-Geräten ermöglicht die Datenverarbeitung und Entscheidungsfindung direkt an der Quelle der Datenerzeugung.
Edge-Analytik
Die Analyse von Daten am Rand des Netzwerks, nahe der Quelle der Datenerzeugung, reduziert Latenzzeiten und Bandbreitennutzung.
Integrierte KI
KI-Funktionen oder -Features, die direkt in die Software-as-a-Service-Plattformen (SaaS) oder Unternehmensanwendungen von Drittanbietern integriert sind.
Ensemble-Lernen
Ein maschinelles Lernparadigma, bei dem mehrere Modelle trainiert und kombiniert werden, um dasselbe Problem zu lösen und die Gesamtleistung zu verbessern.
Entitätsauflösung
Der Prozess der Identifizierung und Verknüpfung von Datensätzen, die sich auf dasselbe reale Objekt in verschiedenen Datenbeständen beziehen.
Enzai
Eine Unternehmensplattform für KI-Governance, die es Organisationen ermöglicht, ihre KI-Systeme zu inventarisieren, bewerten und steuern, um eine maximale Einführung von KI zu gewährleisten und zugleich das Risiko zu minimieren.
Eskalationslogik
Ein Satz vordefinierter Regeln und Auslöser, die einen KI-Agenten zwingen, den autonomen Betrieb einzustellen und die Kontrolle wieder an einen menschlichen Bediener zu übergeben.
ESMA-Erwartungen an die KI/ML-Governance
Regulatorische Richtlinien der Europäischen Wertpapier- und Marktaufsichtsbehörde bezüglich des Einsatzes von Abstrakter Intelligenz (KI) und maschinellem Lernen auf den Finanzmärkten.
Ethische KI
Die Praxis, KI-Systeme auf eine Weise zu entwerfen, zu entwickeln und bereitzustellen, die mit ethischen Prinzipien und Werten übereinstimmt, um Fairness, Verantwortlichkeit und Transparenz zu gewährleisten.
Ethisches KI-Audit
Der Prozess der systematischen Bewertung von KI-Systemen, um sicherzustellen, dass sie den ethischen Standards entsprechen und keinen Schaden verursachen.
Zertifizierung für ethische KI
Eine formale Anerkennung, dass ein KI-System etablierten ethischen Standards und Richtlinien entspricht.
Ethische KI-Governance
Der Rahmen von Richtlinien, Verfahren und Praktiken, die sicherstellen, dass KI-Systeme verantwortungsvoll und ethisch entwickelt und verwendet werden.
Ethische Rahmenwerke
Strukturierte Sätze von Prinzipien und Richtlinien, die dazu bestimmt sind, die ethische Entwicklung und Implementierung von KI-Systemen zu leiten.
Ethisches Hacken
Die bewusste Überprüfung von Systemen auf Schwachstellen, um Sicherheitsprobleme zu identifizieren und zu beheben, gewährleistet die Robustheit von KI-Systemen.
Ethische Auswirkungen Bewertung
Ein systematischer Evaluierungsprozess zur Identifizierung und Berücksichtigung der ethischen Implikationen und potenziellen gesellschaftlichen Auswirkungen von KI-Systemen vor deren Einsatz.
Ethisches Risiko
Das Potenzial eines KI-Systems, Schaden durch unethisches Verhalten wie Voreingenommenheit, Diskriminierung oder Verletzung der Privatsphäre zu verursachen.
Ethische Leitlinien für vertrauenswürdige KI
Ein Satz von Richtlinien, die von der hochrangigen Expertengruppe der Europäischen Kommission für KI entwickelt wurden, um vertrauenswürdige KI zu fördern, wobei der Schwerpunkt auf menschlicher Handlungskompetenz, technischer Robustheit, Datenschutz, Transparenz, Vielfalt, gesellschaftlichem Wohlergehen und Verantwortung liegt.
EU-KI-Gesetz
Das weltweit erste umfassende horizontale Regelwerk für KI, das ein risikobasiertes Klassifizierungssystem für Systeme etabliert, die innerhalb der Europäischen Union bereitgestellt oder genutzt werden.
Hochrisiko-Kategorien gemäß dem EU-KI-Gesetz
Die beiden Einstufungen von Hochrisiko-KI-Systemen im Rahmen des EU-KI-Gesetzes (EU AI Act): eigenständige Systeme, die in Anhang III aufgeführt sind (einschließlich Biometrie, kritischer Infrastruktur, Beschäftigung, Bildung, Strafverfolgung und anderer genannter Verwendungszwecke), und in regulierte Produkte eingebettete KI, die in Anhang I aufgeführt sind (einschließlich Medizinprodukten, Fahrzeugen, Maschinen und anderen regulierten Produktkategorien).
Risikoklassifizierung nach dem EU-Gesetz über künstliche Intelligenz
Der vorgeschriebene Prozess zur Einstufung eines KI-Systems in eine von vier Risikoklassen (unacceptable, high, limited, minimal risk) gemäß dem EU-Gesetz über künstliche Intelligenz (EU AI Act).
EU-Amt für KI
Das Gremium der Europäischen Kommission, das für die Überwachung der Umsetzung und Durchsetzung der EU-KI-Verordnung eingerichtet wurde, insbesondere im Hinblick auf KI-Modelle mit allgemeinem Verwendungszweck und systemischem Risiko.
Digitale Omnibus-Richtlinie der EU
Das umfassendere Gesetzgebungs-Vereinfachungspaket der Europäischen Union für den Zeitraum 2025–2026, das verschiedene digitale Verordnungen adressiert, darunter das Gesetz über künstliche Intelligenz (AI Act), Bestimmungen der DSGVO, das Cyber-Resilienz-Gesetz sowie Änderungen des Datengesetzes (Data Act).
Übermäßige Handlungsbefugnis
Eine Sicherheitslücke, bei der einem KI-System im Verhältnis zu seiner beabsichtigten Funktion ein zu hohes Maß an Autonomie, zu viele Werkzeuge oder übermäßig privilegierte Zugriffsrechte gewährt werden.
Executive Order 14110
Die Regierungsrichtlinie der Biden-Administration (unterzeichnet im Oktober 2023, aufgehoben im Januar 2025), die nationale US-Standards für die Sicherheit, Vertrauenswürdigkeit und den Datenschutz von KI festlegte und das U.S. AI Safety Institute am NIST ins Leben rief.
Techniken der Erklärbarkeit
Methoden zur Interpretation und zum Verständnis der Entscheidungen von KI-Modellen, wie LIME, SHAP und Salienzabbildungen.
Erklärbarkeit vs. Interpretierbarkeit
Während beide darauf abzielen, KI-Entscheidungen verständlich zu machen, konzentriert sich die Erklärbarkeit auf die Begründung der Entscheidungen, während sich die Interpretierbarkeit auf die Transparenz der internen Mechanismen des Modells bezieht.
Erklärbare KI (XAI)
KI-Systeme, die darauf ausgelegt sind, nachvollziehbare Begründungen für ihre Entscheidungen und Handlungen bereitzustellen, wodurch Transparenz und Vertrauen gestärkt werden.
Erklärbare Maschinelles Lernen
Maschinelle Lernmodelle, die entwickelt wurden, um klare und verständliche Erklärungen für ihre Vorhersagen und Entscheidungen bereitzustellen.
F
Gerechtigkeit
Sicherstellen, dass KI-Systeme unvoreingenommene und gerechte Ergebnisse für verschiedene Einzelpersonen und Gruppen liefern und diskriminierende Auswirkungen mindern.
Fairness-Kennzahlen
Quantitative Maße (z.B. demografische Parität, gleichberechtigte Chancen), die verwendet werden, um zu bewerten, wie fair die Vorhersagen eines KI-Modells über verschiedene Gruppen hinweg sind.
Falsch Negativ
Wenn ein AI-Modell fälschlicherweise eine negative Klasse für eine Instanz vorhersagt, die tatsächlich positiv ist (Typ-II-Fehler).
Falsch-Positiv
Wenn ein KI-Modell fälschlicherweise eine positive Klasse für ein Beispiel prognostiziert, das in Wirklichkeit negativ ist (Typ-I-Fehler).
Fehlertoleranz
Die Fähigkeit eines KI-Systems, auch dann korrekt weiterzuarbeiten, wenn einige Komponenten ausfallen oder Fehler produzieren.
Merkmalsengineering
Erstellen, Auswählen oder Transformieren von Rohdatensatzattributen in Merkmale, die die Leistung von maschinellen Lernmodellen verbessern.
Merkmalextraktion
Der Prozess der Zuordnung von Rohdaten (z. B. Text, Bilder) zu numerischen Darstellungen (Merkmale), die sich für die Eingabe in maschinelle Lernalgorithmen eignen.
Funktionsauswahl
Identifizierung und Auswahl der relevantesten Merkmale für das Modelltraining, um die Komplexität zu reduzieren und die Genauigkeit zu verbessern.
Föderierte KI-Governance
Ein Governance-Modell, bei dem zentrale Richtlinien und Aufsicht mit dezentralen Entscheidungsbefugnissen der Geschäftsbereiche oder regionalen Niederlassungen kombiniert werden, um ein ausgewogenes Verhältnis zwischen Konsistenz und operativer Flexibilität zu gewährleisten.
Föderiertes Lernen
Ein dezentraler Ansatz für maschinelles Lernen, bei dem Modelle auf mehreren Geräten oder Servern trainiert werden, die lokale Daten halten, ohne dass Rohdaten zentral geteilt werden müssen.
Rückkopplungsschleife
Ein Prozess, bei dem KI-Ausgaben als Eingaben zurückgeführt werden, wodurch das Modellverhalten verstärkt werden kann – zum Positiven (verstärkendes Lernen) oder zum Negativen (Verstärkung von Verzerrungen).
Feinabstimmung
Anpassen eines vortrainierten KI-Modells an eine spezifische Aufgabe oder ein spezifisches Dataset durch Fortsetzung des Trainings mit neuen Daten, was oft die leistungsbezogene Effizienz verbessert.
Formale Verifikation
Mathematisch beweisen, dass KI-Algorithmen spezifischen Korrektheitseigenschaften entsprechen, die häufig in sicherheitskritischen Systemen verwendet werden.
Rahmenwerk
Ein strukturiertes Set von Richtlinien, Prozessen und Werkzeugen zur Steuerung, Entwicklung, Bereitstellung und Überwachung von KI-Systemen.
Betrugserkennung
Verwendung von KI-Techniken (z.B. Anomalieerkennung, Mustererkennung), um betrügerische Aktivitäten in Finanzwesen, Versicherungen usw. zu identifizieren und zu verhindern.
FS AI RMF (Risikomanagement-Framework für künstliche Intelligenz im Finanzdienstleistungssektor)
Das im Februar 2026 veröffentlichte, spezialisierte KI-Risikomanagement-Framework des US-Finanzministeriums für Finanzdienstleistungsunternehmen, welches das NIST AI RMF an sektorspezifische Verpflichtungen anpasst.
Funktionale Sicherheit
Sicherzustellen, dass KI-Systeme unter allen Bedingungen sicher funktionieren, insbesondere in Branchen wie der Automobilindustrie oder dem Gesundheitswesen, erfolgt oft durch Redundanz und Überprüfungen.
Grundrechtecharta-Folgenabschätzung (FRIA)
Eine nach dem EU-KI-Gesetz für bestimmte Bereitsteller obligatorische Bewertung zur Bestimmung der Auswirkungen, die der Einsatz eines Hochrisiko-KI-Systems auf die Bürgerrechte und Menschenrechte haben könnte.
Fuzzy-Logik
Ein Logiksystem, das Schlussfolgerungen mit ungefähren statt binären Wahr/Falsch-Werten verarbeitet – nützlich für Steuerungssysteme und den Umgang mit Unsicherheiten.
G
Lückenanalyse
Der Prozess, aktuelle KI-Governance-Praktiken mit den gewünschten Standards oder Vorschriften zu vergleichen, um Bereiche zu identifizieren, die Verbesserungen benötigen.
DSGVO
Die Datenschutz-Grundverordnung der EU legt strenge Anforderungen für die Erfassung, Verarbeitung und die individuellen Rechte persönlicher Daten fest.
Verallgemeinerung
Die Fähigkeit eines KI-Modells, auf neuen, unbekannten Daten gute Leistungen zu erbringen, indem es zugrunde liegende Muster erfasst, anstatt Trainingsbeispiele auswendig zu lernen.
Generative KI
KI-Techniken (z. B. GANs, Transformer), die neue Inhalte – Texte, Bilder oder andere Medien – erstellen und dabei häufig neuartige Fragestellungen in Bezug auf Governance und geistiges Eigentum aufwerfen.
Globales Modell
Ein konsolidiertes KI-Modell, das auf aggregierten Daten aus mehreren Quellen trainiert ist, im Gegensatz zu lokalisierten oder personalisierten Modellen.
Zielabweichung
Ein Phänomen, bei dem sich die internen Teilziele oder Argumentationspfade eines KI-Agenten schrittweise von den ursprünglich durch den Menschen vorgegebenen Zielen entfernen.
Governance
Das Gesamtkonstrukt aus Richtlinien, Verfahren, Rollen und Verantwortlichkeiten, das die ethische, legale und effektive Entwicklung sowie den Einsatz von KI-Systemen leitet.
Lenkungsgremium
Eine funktionsübergreifende Gruppe (z. B. rechtlich, ethisch, technisch), die damit betraut ist, die Richtlinien zur KI-Governance innerhalb einer Organisation zu überwachen und deren Umsetzung zu gewährleisten.
Governance-Rahmenwerk
Ein strukturiertes Modell, das darlegt, wie die Komponenten der KI-Governance (Risikomanagement, Verantwortlichkeit, Aufsicht) zusammenpassen, um die Einhaltung von Vorschriften und die ethische Nutzung sicherzustellen.
Reifegradmodell für Governance
Ein gestuftes Rahmenwerk, das bewertet, wie fortgeschritten die KI-Governance-Praktiken einer Organisation sind, von ad-hoc bis optimiert.
Richtlinie zur Unternehmensführung
Ein formales Dokument, das Regeln, Rollen und Verfahren für die Entwicklung und Überwachung von KI innerhalb einer Organisation kodifiziert.
Governance-Bewertungssystem
Ein Dashboard oder Bericht, das wichtige Kennzahlen (z. B. Vorfälle von Voreingenommenheit, Compliance-Audits) zur Messung der Effektivität der KI-Governance im Laufe der Zeit verfolgt.
Verhaltenskodex für GPAI
Das detaillierte Regulierungsinstrument, das spezifische Verpflichtungen zur Transparenz, Sicherheitsprüfung und Risikominderung für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck (GPAI) gemäß dem Gesetz über künstliche Intelligenz der EU (EU AI Act) festlegt.
GPAI-Modell
Ein universell einsetzbares Modell der künstlichen Intelligenz, das in der Lage ist, eine Vielzahl unterschiedlicher Aufgaben auszuführen und sich nahtlos in verschiedene Anwendungen integrieren lässt.
GPU
Spezialisierter Hardware-Beschleuniger für parallele Berechnungen, der häufig zum effizienten Trainieren und Ausführen groß angelegter KI-Modelle verwendet wird.
Gradientenabstieg
Ein Optimierungsalgorithmus, der die Modellparameter iterativ in die Richtung anpasst, die die Verlustfunktion minimal verringert.
Granulare Zustimmung
Ein Datenschutzansatz, der es Einzelpersonen ermöglicht, spezifische Berechtigungen für jede Art der Datennutzung zu erteilen oder zu verweigern, wodurch Transparenz und Kontrolle verbessert werden.
Grüne KI
Die Praxis, den ökologischen Fußabdruck von KI durch energieeffiziente Algorithmen und nachhaltige Computerpraktiken zu reduzieren.
Grauer-Box-Modell
Ein Modell, dessen innere Logik teilweise transparent ist (einige Komponenten sind interpretierbar, andere undurchsichtig), das Leistung und Erklärbarkeit ausbalanciert.
Tatsächliche Gegebenheit
Die präzisen, praxisnahen Daten oder Kennzeichnungen, die als Maßstab zur Schulung und Bewertung der Leistung von KI-Modellen verwendet werden.
Leitplanken
Vordefinierte Einschränkungen oder Überprüfungen (technisch und richtlinienbasiert), die in KI-Systeme eingebettet sind, um unsicheres oder nicht konformes Verhalten zur Laufzeit zu verhindern.
Leitlinie (Ethische KI)
Eine unverbindliche Empfehlung oder ein Best-Practice-Dokument, das von Organisationen (z.B. IEEE, EU) herausgegeben wird, um die verantwortungsvolle Entwicklung und Implementierung von KI zu gestalten.
H
Halluzination
Wenn generative KI inkorrekte oder erfundene Informationen erstellt, die plausibel erscheinen, aber keine Grundlage in den Trainingsdaten haben.
Umgang mit fehlenden Daten
Techniken (z.B. Imputation, Löschung, Modellierung) zur Schließung von Lücken in Datensätzen, um die Integrität und Fairness des Modells zu bewahren.
Hardware-Beschleuniger
Spezialisierte Chips (z.B. GPUs, TPUs), die zur Beschleunigung von KI-Berechnungen entwickelt wurden, mit Auswirkungen auf den Energieverbrauch und das Lieferkettenrisiko.
Schadensbewertung
Bewertung potenzieller negativer Auswirkungen (physisch, psychologisch, gesellschaftlich) von KI-Systemen und Definition von Minderungsstrategien.
Harmonisierung
Harmonisierung von KI-Richtlinien, -Standards und -Vorschriften über verschiedene Rechtsgebiete hinweg, um Konflikte zu reduzieren und Interoperabilität zu ermöglichen.
Harmonisierte Struktur
Eine einheitliche Vorlage für alle ISO-Managementsystemnormen, ehemals bekannt als Annex SL, die für Konsistenz bei der Terminologie und der Nummerierung der Abschnitte sorgt.
Hashierung
Der Prozess der Umwandlung von Daten in eine Zeichenfolge fester Größe wird für Datenintegritätsprüfungen und die datenschutzfreundliche Verknüpfung von Aufzeichnungen verwendet.
Heterogene Daten
Die Kombination von Daten unterschiedlicher Typen (Text, Bild, Sensor) oder aus mehreren Domänen stellt Herausforderungen an Integration und Governance dar.
Heuristik
Eine Faustregel oder vereinfachte Entscheidungsstrategie, die verwendet wird, um KI-Prozesse zu beschleunigen, wobei oft Optimalität gegen Effizienz eingetauscht wird.
Heuristische Bewertung
Eine Methode zur Gebrauchstauglichkeitsprüfung, bei der Experten ein KI-System anhand etablierter Gebrauchstauglichkeitsprinzipien beurteilen, um potenzielle Probleme zu identifizieren.
Hochrisiko-KI-System
KI-Anwendungen, die ein erhebliches Potenzial zur Gefährdung der Gesundheit, Sicherheit oder der Grundrechte von Personen aufweisen und somit die strengsten Compliance-Anforderungen gemäß dem EU-Gesetz über künstliche Intelligenz (EU AI Act) auslösen.
KI im Hochspannungsbereich
KI-Anwendungen, deren Ausfälle erheblichen Schaden verursachen könnten (z. B. medizinische Diagnosen, autonome Fahrzeuge), erfordern verstärkte Governance und Aufsicht.
Mensch-in-der-Schleife
Einbeziehung menschlicher Urteilsfähigkeit in KI-Prozesse (Schulung, Validierung, Entscheidungsüberprüfung), um Genauigkeit und Verantwortlichkeit zu verbessern.
Menschliche Aufsicht
Mechanismen, die es ausgewählten Personen ermöglichen, Entscheidungen von KI-Systemen zu überwachen, einzugreifen oder zu überschreiben, um ethische und gesetzliche Konformität sicherzustellen.
Auswirkungen auf die Menschenrechte Bewertung
Ein Verfahren zur Bewertung, wie KI-Systeme die Grundrechte (Privatsphäre, Meinungsfreiheit, Nichtdiskriminierung) beeinflussen, und zur Identifizierung von Minderungsmaßnahmen.
Hybrides Modell
KI-Systeme, die mehrere Lernparadigmen kombinieren (z. B. symbolische und neuronale), um Erklärbarkeit und Leistung in Einklang zu bringen.
Hyperparameter
Eine Konfigurationsvariable (z. B. Lernrate, Baumeistiefe), die vor dem Modelltraining festgelegt wird und das Lernverhalten sowie die Leistung beeinflusst.
Optimierung von Hyperparametern
Der Prozess der Suche nach den optimalen Hyperparameterwerten (z.B. durch Grid-Suche oder Bayes'sche Optimierung), um die Modellleistung zu maximieren.
Ich
Ungleichgewichtige Daten
Ein Datensatz, bei dem eine Klasse oder Kategorie die anderen signifikant überwiegt, was dazu führen kann, dass KI-Modelle zugunsten der Mehrheitsklasse voreingenommen sind, es sei denn, dies wird behoben.
Unveränderliches Hauptbuch
Ein manipulationsnachweisender Mechanismus zur Protokollführung (z. B. Blockchain), der sicherstellt, dass einmal geschriebene Daten nicht ohne Erkennung verändert werden können – ideal für KI-Audit-Trails.
Auswirkungsbewertung
Eine strukturierte Bewertung zur Identifizierung, Analyse und Minderung potenzieller ethischer, rechtlicher und gesellschaftlicher Auswirkungen eines KI-Systems vor dessen Einsatz.
Durchführungsrechtsakte
Sekundärrecht der Europäischen Union, das von der Europäischen Kommission erlassen wird, um einheitliche Bedingungen für die Umsetzung von Primärrecht festzulegen, und das in allen Mitgliedstaaten rechtsverbindlich ist.
Implizite Voreingenommenheit
Unbewusste oder unbeabsichtigte Verzerrungen, die in den Trainingsdaten oder im Modellentwurf eingebettet sind und zu diskriminierenden Ergebnissen führen können.
Anreizabstimmung
Die Gestaltung von Belohnungsstrukturen und Zielen, sodass die Zielsetzungen von KI-Systemen mit menschlichen Werten und organisatorischen Prioritäten übereinstimmen.
Induktive Verzerrung
Die Menge von Annahmen, die ein Lernalgorithmus verwendet, um von beobachteten Daten auf nicht gesehene Instanzen zu verallgemeinern.
Schlussfolgerung
Der Prozess, bei dem ein trainiertes KI-Modell neue Daten eingibt, um Vorhersagen oder Entscheidungen zu treffen.
Schlussfolgerungsmaschine
Die Komponente eines KI-Systems (oft in regelbasierten oder Expertensystemen), die eine Wissensdatenbank auf Eingabedaten anwendet, um Schlussfolgerungen zu ziehen.
Informationsverwaltung
Die Richtlinien, Verfahren und Kontrollen, die die Datenqualität, den Datenschutz und die Nutzbarkeit über die Datenbestände einer Organisation hinweg gewährleisten, einschließlich der Schulungsdatensätze für künstliche Intelligenz.
Datenschutzinformationen
Das Recht von Personen, zu kontrollieren, wie ihre persönlichen Daten von KI-Systemen gesammelt, verwendet, gespeichert und geteilt werden.
Infrastruktur als Code (IaC)
Verwalten und Bereitstellen von KI-Infrastruktur (Rechenleistung, Speicher, Netzwerk) durch maschinenlesbare Konfigurationsdateien, wodurch Wiederholbarkeit und Prüfungsfähigkeit verbessert werden.
Vererbtes Datenrisiko
Das regulatorische und ethische Haftungsrisiko, das ein Unternehmen eingeht, wenn es ein KI-System einsetzt, das mit Daten trainiert wurde, die das Unternehmen nicht selbst erhoben oder überprüft hat.
Erfassungsworkflow
Der standardisierte Prozess und die Reihe von Prüfungen, die ein neues KI-System durchlaufen muss, bevor es entwickelt oder beschafft wird.
Absichtsvalidierung
Der Prozess der Verifizierung, dass die geplanten Teilschritte eines KI-Agenten konsistent mit dem ursprünglich vom Menschen vorgegebenen Ziel übereinstimmen.
Interoperabilität
Die Fähigkeit verschiedener KI-Systeme und -Komponenten, Informationen nahtlos auszutauschen, zu verstehen und zu nutzen, häufig über offene Standards oder APIs.
Interpretierbarkeit
Das Maß, in dem ein Mensch die inneren Mechanismen oder Entscheidungsgründe eines KI-Modells verstehen kann.
Einbruchserkennung
Überwachung der KI-Infrastruktur und -Anwendungen auf bösartige Aktivitäten oder Verstöße gegen Richtlinien, Auslösung von Warnungen oder automatisierten Reaktionen.
ISO/IEC 42001
Der internationale Standard, der Anforderungen für die Einführung, Implementierung, Aufrechterhaltung und kontinuierliche Verbesserung eines Managementsystems für Künstliche Intelligenz (AIMS) definiert.
ISO/IEC 42005
Der internationale Standard, der Richtlinien für die Durchführung von Folgenabschätzungen für KI-Systeme bereitstellt.
ISO/IEC JTC 1/SC 42
Der gemeinsame ISO/IEC-Ausschuss für die Standardisierung Künstlicher Intelligenz entwickelt internationale KI-Standards für Governance, Risiko und Interoperabilität.
J
Jacobian-Matrix
In der Erklärbarkeit von KI ist die Matrix aller partiellen Ableitungen erster Ordnung der Ausgaben eines Modells in Bezug auf seine Eingaben, die zur Bewertung der Empfindlichkeit und der Merkmalsbedeutung verwendet wird.
Jailbreak-Angriff
Eine Art von Prompt-Injection, bei der Benutzer Schwachstellen ausnutzen, um Schutzmaßnahmen in generativen KI-Modellen zu umgehen, was möglicherweise zu unsicheren oder unautorisierten Ausgaben führen kann.
Japanisches Gesetz zur Förderung von KI
Ein japanisches Gesetz (beschlossen im Jahr 2025), das grundlegende Prinzipien zur Förderung von KI und zur Risikominderung festlegt.
Gemeinsame Haftung
Rechtsprinzip, bei dem mehrere Parteien (z. B. Entwickler, Betreiber) die Verantwortung für KI-bedingte Schäden teilen, was Einfluss auf Vertrags- und Governance-Strukturen hat.
Gemeinsame Modellierung
Entwicklung von KI-Systemen, die mehrere Aufgaben gleichzeitig lernen (z. B. Spracherkennung + Übersetzung), wobei eine Governance für Komplexität und Überprüfbarkeit erforderlich ist.
Urteilsverzerrung
Systematische Fehler in menschlichen oder KI-Entscheidungsprozessen, die durch kognitive Abkürzungen oder fehlerhafte Daten verursacht werden, erfordern eine Überprüfung und Minderung von Verzerrungen.
Gerichtliche Überprüfung
Der rechtliche Prozess, bei dem Gerichte die Gesetzmäßigkeit von Entscheidungen prüfen, die von KI getroffen oder unterstützt werden, um Verantwortlichkeit und ordnungsgemäßen Ablauf sicherzustellen.
Rechtsraum
Die rechtliche Zuständigkeit über Daten, KI-Operationen und Haftung, die je nach geografischer Lage variiert und die Einhaltung regionaler Vorschriften beeinflusst (z. B. DSGVO, CCPA).
Juror Automatisierung
Der Einsatz von KI zur Unterstützung bei der Jury-Auswahl oder der Fallanalyse wirft ethische Bedenken hinsichtlich Fairness, Transparenz und rechtlicher Aufsicht auf.
Gerechtigkeitsmetriken
Quantitative Messgrößen (z. B. unterschiedliche Auswirkungen, Chancengleichheit), die zur Bewertung von Fairness und Nichtdiskriminierung bei KI-Entscheidungsprozessen verwendet werden.
K
Schlüsselindikator für die Leistung
Ein quantifizierbarer Messwert (z. B. Modellgenauigkeitsdrift, Zeit zur Beseitigung von Vorurteilen), der zur Überwachung und Berichterstattung über Ziele der KI-Governance und Compliance verwendet wird.
Schlüsselrisikoindikator
Ein führender Messwert (z.B. Häufigkeit von unzutreffenden Vorhersagen, Rate unerklärlicher Entscheidungen), der auf aufkommende KI-Risiken hinweist, bevor sie sich manifestieren.
Kennen Sie Ihren Kunden (KYC)
Compliance-Prozesse zur Überprüfung der Identität, des Risikoprofils und der Legitimität von Personen oder Unternehmen, die mit KI-Systemen interagieren, insbesondere in regulierten Branchen.
Wissensverdichtung
Eine Methode zur Übertragung von Erkenntnissen von einem größeren „Lehrer“-Modell auf ein kleineres „Schüler“-Modell, um Leistung mit Ressourcen- und Governance-Einschränkungen in Einklang zu bringen.
Wissensgraph
Eine strukturierte Darstellung von Entitäten und deren Beziehungen, die dazu verwendet wird, die Erklärbarkeit, Prüfbarkeit und Anpassung von KI an Domänenontologien zu verbessern.
Wissensmanagement
Praktiken und Werkzeuge zur Erfassung, Organisation und Weitergabe von Organisationswissen (z. B. Modeldokumentation, Prüfungsprotokolle), um Reproduzierbarkeit und Aufsicht sicherzustellen.
L
Etikettenleckage
Die unbeabsichtigte Aufnahme von Ausgabedaten in die Trainingsdatenetiketten, die Leistungskennzahlen beeinflussen und tatsächliche Generalisierungsprobleme des Modells verschleiern können.
Großes Sprachmodell
Ein Deep-Learning-Modell, das auf umfangreichen Textkorpora trainiert wurde und Aufgaben wie Textgenerierung, Übersetzung und Zusammenfassung ausführen kann, wobei oft eine sorgfältige Steuerung von Vorurteilen und Missbrauch erforderlich ist.
Minimale Agenturabhängigkeit
Ein Sicherheits- und Governance-Prinzip, das besagt, dass KI-Agenten nur das minimale Maß an Autonomie und Werkzeugzugriff gewährt werden sollte, das zur Erfüllung einer bestimmten Aufgabe erforderlich ist.
Prinzip der minimalen Rechte
Ein Sicherheitsprinzip, bei dem KI-Komponenten und Benutzer nur die minimal erforderlichen Zugriffsrechte erhalten, die notwendig sind, um ihre Funktionen auszuführen, wodurch das Risiko eines Missbrauchs verringert wird.
Rechtliche Konformität
Die Praxis, sicherzustellen, dass KI-Systeme während ihres gesamten Lebenszyklus den geltenden Gesetzen, Vorschriften und Industriestandards entsprechen.
Haftungsrahmen
Ein strukturierter Ansatz zur Bestimmung der Verantwortlichkeiten bei KI-bezogenen Schäden oder Ausfällen, einschließlich Entwicklern, Implementierern und Betreibern.
Lebenszyklusmanagement
Die koordinierten Prozesse für Entwicklung, Bereitstellung, Überwachung, Wartung und Außerdienststellung von KI-Systemen, um kontinuierliche Compliance und Risikokontrolle sicherzustellen.
Lebendigkeitserkennung
Techniken, die verwendet werden, um zu überprüfen, dass eine Eingabe (z. B. biometrische Daten) von einem lebenden Subjekt stammt und nicht von einem Spoof oder Replay, wodurch die Systemsicherheit und Integrität verbessert wird.
Lokalisierung
Anpassung von KI-Systemen an lokale Sprachen, Vorschriften, kulturelle Normen und Anforderungen an die Datenresidenz in verschiedenen Gerichtsbarkeiten.
Protokollverwaltung
Die Sammlung, Speicherung und Analyse von System- und Anwendungsprotokollen aus AI-Workflows zur Unterstützung von Audits, Reaktionsmaßnahmen auf Vorfälle und der Nachverfolgung von Modellleistung.
Verlustfunktion
Eine mathematische Funktion, die den Unterschied zwischen vorhergesagten Ausgaben und tatsächlichen Werten quantifiziert und die Modellschulung und -optimierung steuert.
M
Marktüberwachungsbehörde
Die nationale Regulierungsbehörde in jedem EU-Mitgliedstaat, die für die Überwachung von KI-Systemen zuständig ist, um deren Einhaltung des EU-KI-Gesetzes (EU AI Act) sicherzustellen.
MAS-FEAT-Prinzipien
Die Richtlinien der Monetary Authority of Singapore für Fairness, Ethik, Rechenschaftspflicht und Transparenz (FEAT) beim Einsatz von KI im Finanzwesen.
Bedeutungsvolle Menschliche Kontrolle
Ein regulatorischer und betrieblicher Standard, der sicherstellt, dass Menschen die Fähigkeit behalten, AI-Entscheidungsprozesse zu überwachen, einzugreifen und zu übersteuern.
Metadatenverwaltung
Die Praxis der Erfassung und Pflege beschreibender Daten (z. B. Datenherkunft, Merkmaldefinitionen, Modellparameter), um Rückverfolgbarkeit und Audits zu unterstützen.
Kennzahlen & Leistungsindikatoren
Quantitative Maße (z.B. Abweichung der Genauigkeit, Fairness-Scores, Reaktionszeiten bei Vorfällen), die zur Überwachung der Systemgesundheit, Risiken und Compliance-Ziele von KI-Systemen verwendet werden.
Mexikanisches Bundesgesetz über KI und Algorithmen
Ein Entwurf für ein mexikanisches Bundesgesetz zu KI und Algorithmen, das ein risikobasiertes Klassifizierungssystem, die Nationale KI-Kommission (CONAIA) sowie Anforderungen an die Kennzeichnung von KI-generierten Inhalten mittels Wasserzeichen vorschlägt.
Minderungsstrategien
Geplante Maßnahmen (z. B. Beseitigung von Voreingenommenheit, erneutes Training, Feature-Re-Engineering) zur Behebung identifizierter KI-Risiken und Compliance-Lücken.
Minnesota CDPA (Bestimmungen zur künstlichen Intelligenz)
Die KI-spezifischen Komponenten des Minnesota Consumer Data Privacy Act.
Modellkarte
Ein kurzes, standardisiertes Dokument mit wesentlichen Informationen über die Leistung, Einschränkungen und beabsichtigten Anwendungsfälle eines Machine-Learning-Modells.
Modell-Herausgabe
Eine aufsichtsrechtliche Maßnahme, die ein Unternehmen dazu verpflichtet, KI-Modelle oder -Algorithmen zu löschen, welche unter Verwendung unzulässig oder rechtswidrig erlangter Daten entwickelt wurden.
Modellabweichung
Der fortschreitende Qualitätsverlust der Vorhersageleistung eines KI-Modells im Laufe der Zeit, verursacht durch Veränderungen von realen Daten oder Umweltbedingungen.
Modellerklärbarkeit
Techniken und Dokumentation, die die Entscheidungslogik eines KI-Modells verständlich für Stakeholder und Prüfer machen.
Modellführung
Die Richtlinien, Rollen und Kontrollen, die sicherstellen, dass KI-Modelle in Übereinstimmung mit den organisatorischen Standards und regulatorischen Anforderungen entwickelt, genehmigt und verwendet werden.
Modellüberwachung
Kontinuierliches Überwachen der Leistung eines KI-Modells, der Datenverschiebung und der Betriebskennzahlen zur Erkennung von Verschlechterungen oder aufkommenden Risiken.
Modell-Neutraining
Der Prozess der Aktualisierung eines KI-Modells mit neuen oder aktualisierten Daten, um die Leistung und die Einhaltung der Vorschriften aufrechtzuerhalten, während sich die Datenverteilung weiterentwickelt.
Modellrisikomanagement
Der strukturierte Prozess zur Identifizierung, Bewertung und Minderung von Risiken, die sich aus KI/ML-Modellen während ihres gesamten Lebenszyklus ergeben.
Modellvalidierung
Die Evaluierungstätigkeiten (z. B. Tests mit zurückgestellten Daten, Stressszenarien), die bestätigen, dass ein KI-Modell seinen vorgesehenen Zweck und die Leistungskriterien erfüllt.
Engagement von mehreren Interessengruppen
Einbeziehung verschiedener Gruppen (z. B. Recht, Ethik, Betrieb, Endbenutzer) in die Prozesse der KI-Governance, um eine ausgewogene Risikokontrolle und die Ausrichtung auf Unternehmensziele sicherzustellen.
N
Verarbeitung natürlicher Sprache (NLP)
Techniken und Werkzeuge, die Maschinen ermöglichen, menschliche Sprache in Text- oder Sprachform zu interpretieren, zu generieren und zu analysieren.
Netzwerksicherheit
Maßnahmen und Kontrollen (z. B. Segmentierung, Firewalls, Eindringungserkennung), um die KI-Infrastruktur und Datenpipelines vor unbefugtem Zugriff oder Manipulation zu schützen.
Neuronale Architektur-Suche
Automatisierte Methoden zur Gestaltung und Optimierung von neuronalen Netzwerkstrukturen, um die Modellleistung zu verbessern, während die Komplexität und Ressourcenbeschränkungen ausgewogen werden.
NIST KI-Risikomanagement-Rahmenwerk
Eine freiwillige Anleitung des US-amerikanischen National Institute of Standards and Technology, die bewährte Verfahren zur Risikominderung über den gesamten Lebenszyklus von KI-Systemen darlegt.
NIST AI RMF-Profile
Kontextspezifische Implementierungen des NIST AI Risk Management Frameworks, die speziell auf bestimmte Branchen, Technologien oder Risikoarten zugeschnitten sind.
Rauschinjektion
Gezielte Einführung zufälliger Störungen in Trainingsdaten oder Modellparameter, um die Robustheit zu erhöhen und gegen manipulative Angriffe zu schützen.
Nicht-menschliche Identität (NHI)
Digitale Anmeldedaten, die von einem KI-Agenten, Bot oder Dienst verwendet werden, um sich gegenüber Unternehmenssystemen zu authentifizieren und mit diesen zu interagieren.
Benannte Stelle
Eine unabhängige Drittorganisation, die von einem EU-Mitgliedstaat benannt wird, um die Konformität bestimmter KI-Systeme mit hohem Risiko gemäß dem EU-KI-Gesetz zu bewerten.
Neuartigkeitserkennung
Techniken zur Identifizierung von Eingaben oder Szenarien, die erheblich von den Trainingsdaten abweichen und eine Überprüfung oder einen Sicherheitsmodus auslösen, um unerwartete Ausfälle zu verhindern.
NYC Local Law 144
Ein Gesetz der Stadt New York, das jährliche Audits zur Überprüfung von Voreingenommenheit bei KI-Tools vorschreibt, die für Personalentscheidungen eingesetzt werden.
O
Beobachtbarkeit
Die Fähigkeit, den internen Zustand und das Verhalten eines KI-Systems durch die Sammlung und Analyse von Protokollen, Metriken und Ausgaben für effektive Überwachung und Fehlerbehebung abzuleiten.
OMB-Memorandum M-25-21
Eine bundesweit geltende Richtlinie, die Anforderungen an die Governance und das Risikomanagement von KI für Behörden der US-Regierung festlegt.
Fortlaufende Überwachung
Kontinuierliches Tracking der Leistung von KI-Systemen, Datenverschiebungen, Verzerrungsmessungen und Sicherheitsereignissen, um auftretende Risiken im Laufe der Zeit zu erkennen und zu adressieren.
Deckkraft
Das Fehlen von Transparenz bei der Art und Weise, wie ein KI-Modell Entscheidungen oder Vorhersagen trifft, stellt Herausforderungen für das Vertrauen und die Einhaltung von Vorschriften dar.
Operative Autonomie
Die Fähigkeit eines KI-Systems, mehrstufige Aufgaben auszuführen und Entscheidungen zu treffen, ohne dass in jeder Phase ein menschliches Eingreifen erforderlich ist.
Betriebliche Resilienz
Die Fähigkeit von KI-Systemen und deren unterstützender Infrastruktur, Störungen oder widrigen Ereignissen vorherzusehen, ihnen standzuhalten, sich davon zu erholen und sich anzupassen.
Orchestrierung
Die automatisierte Orchestrierung von KI-Workflows und -Services – von der Datenaufnahme über das Modelltraining bis hin zur Bereitstellung – gewährleistet die Einhaltung von Richtlinien sowie eine effektive Ressourcen-Governance.
Ausreißererkennung
Techniken zur Identifizierung von Datenpunkten oder Modellvorhersagen, die erheblich von den erwarteten Mustern abweichen und Überprüfungs- oder Abhilfemaßnahmen auslösen.
Risiko der Ausgabe
Die operationellen, rechtlichen und reputationsbezogenen Risiken, die sich aus der Verwendung fehlerhafter, voreingenommener oder schädlicher Inhalte ergeben, die von einem KI-System generiert wurden.
Überanpassung
Ein Modellierungsproblem, bei dem ein KI-System Rauschen oder Eigenheiten in den Trainingsdaten erlernt und dadurch seine Fähigkeit zur Verallgemeinerung auf neue, unsichtbare Daten verringert.
Überblick
Der strukturierte Prozess der Überprüfung, Genehmigung und Verantwortlichkeit für die Entwicklung und Bereitstellung von KI, der typischerweise funktionsübergreifende Governance-Instanzen umfasst.
OWASP Agentic Top 10
Eine formale Taxonomie der zehn kritischsten Sicherheitsrisiken, die spezifisch für autonome KI-Agenten und deren Anwendungsumgebungen sind.
Eigentum
Die klare Zuweisung von Verantwortung und Befugnissen für KI-Assets – Daten, Modelle, Prozesse – zur Sicherstellung der Rechenschaftspflicht über den gesamten Systemlebenszyklus hinweg.
P
Parametrisches Wissen
Die Informationen, die ein KI-Modell während seines Trainingsprozesses lernt und in seinen Gewichtungen und Parametern speichert.
Governance für den standardisierten Entwicklungspfad
Eine Strategie, die Compliance fördert, indem autorisierte, sichere Workflows einfacher zu befolgen sind als nicht autorisierte Alternativen.
Berechtigungsverwaltung
Die Verwaltung von Benutzer- und Systemzugriffsrechten auf KI-Daten und -Funktionen, um sicherzustellen, dass nur die minimalen erforderlichen Rechte vergeben werden und unbefugte Nutzung verhindert wird.
Pilotversuche
Ein begrenzter Versuch eines KI-Systems in einer kontrollierten Umgebung, um Leistung, Risiken und Governance-Kontrollen vor der vollständigen Einführung zu bewerten.
Richtlinienumsetzung
Die automatisierten oder manuellen Mechanismen, die sicherstellen, dass KI-Operationen den organisatorischen Richtlinien, regulatorischen Vorschriften und ethischen Leitlinien entsprechen.
Überwachungen nach der Bereitstellung
Fortlaufende Beobachtung des Verhaltens und der Umgebung von KI-Systemen nach deren Freigabe, um Abbau, Abweichungen oder Verstöße gegen die Compliance zu erkennen.
PRA SS1/23 (Management von Modellrisiken)
Die Erklärung der britischen Prudential Regulation Authority zum Modellrisikomanagement für Banken und Versicherer.
Vorausschauende Wartung
KI-gesteuerte Überwachung und Analyse zur Vorhersage von Komponenten- oder Systemausfällen, um die Betriebskontinuität zu gewährleisten und Risiken in kritischen Umgebungen zu mindern.
Konformitätsvermutung
Ein rechtlicher Mechanismus im Rahmen des EU-KI-Gesetzes und anderer Regelungen, bei dem die Einhaltung eines harmonisierten Standards (z. B. eines veröffentlichten EN-Standards) die widerlegbare Annahme begründet, dass die zugrunde liegende Verordnung erfüllt ist.
Datenschutz durch Design
Ein Ansatz, der Datenschutz und die Privatsphäre der Nutzer von Anfang an in die Architektur und die Prozesse des KI-Systems einbindet.
Datenschutz-Folgenabschätzung
Eine strukturierte Analyse zur Identifizierung und Minderung von Datenschutzrisiken im Zusammenhang mit KI-Systemen, die Datenerfassung, -nutzung, -weitergabe und -speicherung abdeckt.
Probabilistisches System
Ein System, dessen Ergebnisse auf statistischen Wahrscheinlichkeiten basieren und nicht auf einer deterministischen, festen Logik.
Prozessautomatisierung
Der Einsatz von KI und Workflow-Tools zur Straffung von Governance, Compliance-Prüfungen und Risikominderungsaktivitäten, wodurch manueller Aufwand und Fehler verringert werden.
F
Qualitative Bewertung
Die subjektive Überprüfung von Verhaltensweisen, Entscheidungen und Dokumentationen von KI-Systemen durch Experten, um ethische, rechtliche oder rufschädigende Bedenken zu identifizieren, die quantitativ nicht erfasst werden.
Qualitätssicherung
Die systematischen Prozesse und Überprüfungen zur Sicherstellung, dass KI-Modelle und Datenpipelines definierte Standards für Genauigkeit, Zuverlässigkeit und ethische Konformität erfüllen.
Qualitätskontrolle
Die fortlaufende Überprüfung von AI-Ergebnissen und -Prozessen anhand von Benchmarks und Testfällen, um Mängel, Vorfälle von Voreingenommenheit oder Verstöße gegen Richtlinien aufzudecken.
Quantitative Risikoanalyse
Eine datenbasierte Bewertung potenzieller Bedrohungen durch KI, die Wahrscheinlichkeiten und Auswirkungen numerisch abschätzt, um Priorisierungsmaßnahmen zu ermöglichen und Risikokontrollstrategien zu optimieren.
Quantencomputing
Das aufstrebende Rechenparadigma, das die Quantenmechanik nutzt und neue Herausforderungen in Bezug auf Sicherheit, Standardisierung und Risiko aufwirft.
Abfrageprotokollierung
Die Praxis der Aufzeichnung von KI-Systemeingaben und Benutzeranfragen, um Prüfpfade zu ermöglichen, Missbrauch zu erkennen und Verantwortlichkeit zu unterstützen.
Datenschutz bei Abfragen
Techniken und Richtlinien zum Schutz sensibler Informationen in Benutzeranfragen, um sicherzustellen, dass aufgezeichnete Eingaben keine persönlichen oder proprietären Daten gefährden.
Fragebogenrahmen
Ein strukturierter Satz von governance-orientierten Fragen, der während der Gestaltung, Beschaffung oder Implementierung verwendet wird, um sicherzustellen, dass KI-Systeme mit den Anforderungen der Richtlinien übereinstimmen.
Beschlussfähigkeit des Governance Boards
Die Mindestanzahl der erforderlichen Mitglieder des Governance-Ausschusses, die anwesend sein müssen, um offizielle Entscheidungen über KI-Risiken, Genehmigungen von Richtlinien oder Prüfergebnisse zu treffen.
Kontingentverwaltung
Die Steuerungen und Begrenzungen der Nutzung von KI-Ressourcen (z. B. API-Aufrufe, Rechenzeit), um Governance-Richtlinien durchzusetzen und unkontrollierte Kosten oder Missbrauch zu verhindern.
R
Argumentationskette
Der mehrstufige logische Prozess, dem ein KI-Agent folgt, um von einer ursprünglichen Zielsetzung zu einer finalen Aktion oder Ausgabe zu gelangen.
Rückgriff
Mechanismen, die betroffenen Personen ermöglichen, KI-gesteuerte Entscheidungen, die ihre Rechte oder Interessen betreffen, anzufechten oder eine Abhilfe zu suchen.
Rotes Teaming
Ein proaktiver Testansatz, bei dem interne oder externe Experten Angriffe oder Missbrauchsszenarien simulieren, um Schwachstellen in KI-Systemen aufzudecken.
Regulatorische Konformität
Sicherstellung, dass KI-Systeme während ihres gesamten Betriebs die geltenden Gesetze, Vorschriften und Industriestandards (z. B. DSGVO, FDA, finanzielle Aufsicht) einhalten.
Reproduzierbarkeit
Die Fähigkeit, die Ergebnisse von KI-Modellen unter Verwendung derselben Daten, Codes und Konfigurationen konstant zu reproduzieren, wodurch Transparenz und Prüfbarkeit sichergestellt werden.
Verantwortlichkeitszuordnungsmatrix
Ein Instrument (z. B. RACI), das Rollen und Zuständigkeiten für jede Governance-Aktivität klar definiert – also festlegt, wer verantwortlich, gesamtverantwortlich, zu konsultieren und zu informieren ist.
Verantwortungsvolle KI
Die Praxis des Entwerfens, Entwickelns und Bereitstellens von KI-Systemen auf eine Weise, die ethisch, transparent und rechenschaftspflichtig gegenüber den Interessengruppen und der Gesellschaft ist.
Risikobewertung
Der Prozess der Identifizierung, Analyse und Priorisierung potenzieller Schäden oder Ausfälle in KI-Systemen, um geeignete Minderungsstrategien zu bestimmen.
Risikomanagement-Rahmenwerk
Eine strukturierte Reihe von Richtlinien und Prozessen zur systematischen Bewältigung von KI-Risiken über den gesamten Lebenszyklus des Systems, von der Gestaltung bis zur Außerbetriebnahme.
Robustheit
Die Fähigkeit eines KI-Systems, unter einer Vielzahl von herausfordernden oder gegnerischen Bedingungen eine zuverlässige Leistung zu erbringen.
Ursachenanalyse
Eine strukturierte Untersuchung, um die zugrunde liegenden Gründe für das Versagen von KI-Systemen oder unerwartetem Verhalten zu bestimmen und korrigierende Maßnahmen zu leiten.
S
Genehmigte Nutzungsrichtlinie
Definierte Regeln und Kontrollen, die zugelassene Kontexte, Benutzer und Zwecke für den Betrieb von KI-Systemen spezifizieren, um Missbrauch zu verhindern.
Sicherheit durch Design
Die Integration von Sicherheitskontrollen und bewährten Praktiken in KI-Systeme von den frühesten Designphasen an, um Schwachstellen und Datenverletzungen zu verhindern.
Schattenakteur_innen
Nicht autorisierte, autonome KI-Agenten, die ohne das Wissen des Governance-Teams innerhalb einer Organisation bereitgestellt werden und in der Lage sind, Aktionen auszuführen, die sich auf Geschäftssysteme und externe Parteien auswirken.
Schatten-KI
Die unautorisierte Verwendung von KI-Modellen, -Agenten oder -Werkzeugen durch Mitarbeiter ohne Genehmigung der IT-Abteilung schafft verdeckte Sicherheitslücken durch Datenleckagen und unbefugte autonome Aktionen.
Modell-Rahmenwerk für KI-Governance in Singapur
Ein freiwilliger Leitfaden der singapurischen Behörden IMDA und PDPC für die verantwortungsvolle Implementierung künstlicher Intelligenz.
KI-Basisgesetz für Südkorea
Südkoreas umfassender rechtlicher Rahmen für die Entwicklung und das Vertrauen in KI.
Bewertung der gesellschaftlichen Auswirkungen
Eine strukturierte Bewertung, wie ein KI-System die sozialen, wirtschaftlichen und kulturellen Aspekte von Gemeinschaften beeinflusst, wobei mögliche Schäden und Vorteile identifiziert werden.
Software-Entwicklungslebenszyklus
Der End-to-End-Prozess (Anforderungen, Design, Erstellung, Test, Bereitstellung, Überwachung) für KI-Anwendungen, der in jeder Phase Governance- und Compliance-Prüfungen integriert.
SR 11-7 (Modellrisikomanagement)
Die grundlegenden Leitlinien der US-Notenbank Federal Reserve für das Risikomanagement im Zusammenhang mit dem Einsatz von Modellen im Bankenwesen.
Stakeholder-Engagement
Der Prozess der Einbeziehung betroffener Parteien (z.B. Benutzer, Regulierungsbehörden, betroffene Gemeinschaften) in die Entwicklung und Überwachung von KI, um vielfältige Perspektiven und Unterstützung sicherzustellen.
Erklärung zur Anwendbarkeit (Statement of Applicability, SoA)
Ein Dokument, das bestimmt, welche Kontrollen aus dem ISO 42001 Anhang A für das KI-Managementsystem einer Organisation relevant sind, und erläutert, warum andere ausgeschlossen wurden.
Wesentliche Änderung
Eine Änderung an einem KI-System nach dessen Inverkehrbringen, die sich auf seine Konformität oder seinen bestimmungsgemäßen Zweck gemäß dem KI-Gesetz der EU auswirkt.
Überwachungsrisiko
Die Bedrohung, dass KI-Systeme für invasive Überwachung von Einzelpersonen oder Gruppen ausgenutzt werden könnten, wobei die Privatsphäre und bürgerliche Freiheiten verletzt werden.
Synthetische Daten
Künstlich generierte Datensätze, die reale Datenverteilungen nachahmen und zur Erweiterung von Trainingssätzen verwendet werden, während der Datenschutz gewahrt bleibt.
System der Aufzeichnung
Die maßgebliche Datenquelle für ein bestimmtes Datenelement oder eine Information innerhalb einer Organisation.
Schwellenwert für systemisches Risiko
Der technische oder fähigkeitsbasierte Grenzwert (z. B. 10^25 FLOPs), ab dem ein Allzweck-KI-Modell als mit einem hohen Risiko für die Gesellschaft verbunden eingestuft wird.
T
Extremes Risiko
Das Potenzial für seltene, extreme Ergebnisse im Verhalten oder in der Entscheidungsfindung von KI, die außerhalb normaler Erwartungen liegen und spezielle Maßnahmenplanung erfordern.
Testen & Validierung
Der systematische Prozess der Bewertung von KI-Modellen anhand von Benchmark-Tests, speziellen Randfällen und Belastungsbedingungen, um sicherzustellen, dass sie Leistungs-, Sicherheits- und Compliance-Kriterien erfüllen.
Risiko durch Dritte
Das Risiko, das sich aus der Abhängigkeit von externen Datenanbietern, Modelllieferanten oder Dienstleistungsplattformen ergibt, die möglicherweise Compliance- oder Sicherheitsanfälligkeiten einführen.
Schwellenwert Einstellung
Festlegung von Grenzen oder Grenzwerten in KI-Entscheidungsregeln (z. B. Vertrauenswerte), um Risiken wie falsch-positive gegenüber falsch-negativen Ergebnissen auszubalancieren.
Rückverfolgbarkeit
Die Fähigkeit, jeden Schritt im KI-Lebenszyklus – von der Datenerfassung über die Modellentwicklung bis hin zur Bereitstellung – nachzuverfolgen und zu dokumentieren, um Audits und forensische Analysen zu unterstützen.
Schulungsdatensatz
Die kuratierte Sammlung von gelabelten oder ungelabelten Daten, die verwendet wird, um einem KI-Modell die Beziehungen und Muster beizubringen, die es lernen muss, um seine Aufgabe auszuführen.
Transfer-Lernen
Eine Technik, bei der ein für eine Aufgabe entwickeltes Modell für eine verwandte Aufgabe angepasst wird. Dies verkürzt die Entwicklungszeit, erfordert jedoch eine Steuerung der übernommenen Vorurteile.
Transparenz
Die Praxis, Prozesse von KI-Systemen, Entscheidungslogik und Datennutzung für Transparenz und Verständlichkeit gegenüber Stakeholdern klar darzustellen.
Trilog
Die informelle dreiseitige Verhandlung zwischen der Europäischen Kommission, dem Rat der Europäischen Union und dem Europäischen Parlament, die zur Erzielung einer politischen Einigung über EU-Rechtsvorschriften vor deren formeller Annahme dient.
Verlässliche KI
KI-Systeme, die in einer Weise entworfen und betrieben werden, die ethisch, zuverlässig, sicher und im Einklang mit menschlichen Werten und gesellschaftlichen Normen steht.
Sie
Aktionsplan für KI-Chancen im Vereinigten Königreich
Der strategische Fahrplan der britischen Regierung zur Maximierung der Vorteile von KI bei gleichzeitiger Etablierung gezielter, verbindlicher Sicherheitsregeln.
Unteranpassung
Ein Modellierungsproblem, bei dem ein KI-System zu einfach ist, um zugrunde liegende Datenmuster zu erfassen, was zu einer schlechten Leistung sowohl bei Trainingsdaten als auch bei neuen Daten führt.
Einheitlichkeit
Sicherstellung einer konsistenten Anwendung von Richtlinien, Kontrollen und Standards über alle KI-Systeme hinweg, um Governance-Lücken oder ungleiche Risikomanagementpraktiken zu vermeiden.
Unüberwachtes Lernen
Ein maschineller Lernansatz, bei dem Modelle Muster oder Gruppierungen in nicht gekennzeichneten Daten erkennen, ohne explizite Ergebnisanweisungen.
Verfügbarkeitsüberwachung
Kontinuierliche Überwachung der Verfügbarkeit und Leistung von KI-Systemen, um Ausfälle oder Leistungseinbußen zu erkennen, die kritische Abläufe oder Compliance-Verpflichtungen beeinträchtigen könnten.
Anwendungsfall-Governance
Die Praxis der Definition, Genehmigung und Überwachung spezifischer KI-Anwendungsfälle, um sicherzustellen, dass jeder mit den organisatorischen Richtlinien, ethischen Standards und der Risikobereitschaft übereinstimmt.
Benutzerzustimmung
Der Prozess des Einholens und Aufzeichnens ausdrücklicher Zustimmung von Einzelpersonen, bevor ihre persönlichen Daten in KI-Systemen gesammelt, verarbeitet oder verwendet werden.
Dienstprogramm
Ein Maß dafür, wie wertvoll oder effektiv ein KI-System bei der Erreichung seiner vorgesehenen Ziele ist, im Verhältnis zu den damit verbundenen Risiken oder Ressourcenaufwendungen.
V
Validierung
Der Prozess der Bestätigung, dass ein KI-Modell genaue und zuverlässige Leistungen bei den vorgesehenen Aufgaben erbringt und definierte Leistungskriterien erfüllt.
Varianzüberwachung
Verfolgung von Schwankungen in den Ausgaben von KI-Modellen oder Leistungskennzahlen im Laufe der Zeit, um Drift zu erkennen und potenziellen Abbau oder Risiken zu ermitteln.
Lieferantenrisikomanagement
Bewertung und Überwachung von Drittanbietern von KI-Komponenten oder -Dienstleistungen zur Identifizierung und Minderung potenzieller Compliance-, Sicherheits- oder ethischer Risiken.
Versionskontrolle
Die Praxis, Änderungen an KI-Code, Modellen und Datensätzen im Laufe der Zeit zu verwalten und nachzuverfolgen, um Reproduzierbarkeit und Prüfbarkeit sicherzustellen.
Versions-Pinning
Die Vorgehensweise, ein KI-System auf eine bestimmte, getestete Version eines Basismodells festzulegen, um zu verhindern, dass unangekündigte Updates das Systemverhalten verändern.
Vetorecht
Das formale Recht, das von einem Governance-Gremium oder einem Stakeholder ausgeübt wird, um AI-Implementierungen, die unannehmbare Risiken darstellen, zu blockieren oder Änderungen zu verlangen.
Überwachungsinstrument
Kontinuierliche Überwachung des Verhaltens von KI und externer Signale (z.B. regulatorische Aktualisierungen), um aufkommende Risiken oder Nicht-Einhaltungen frühzeitig zu erkennen und darauf zu reagieren.
Visuelle KI-Überwachung
Die Governance-Prozesse, die speziell für Computer-Vision-Systeme entwickelt wurden, gewährleisten die Datenqualität, führen Bias-Prüfungen durch und sorgen für Transparenz bei auf Bild/Video basierenden Entscheidungsprozessen.
Schwachstellenbewertung
Identifizierung, Analyse und Priorisierung von Sicherheitsschwächen in AI-Infrastrukturen und -Anwendungen zur Steuerung von Behebungsmaßnahmen.
W
Watchdog-Überwachung
Unabhängige Laufzeitprüfungen, die KI-Entscheidungen überwachen und Warnungen oder Eingriffe auslösen, wenn Richtlinien oder Schwellenwerte überschritten werden.
Wasserzeichenerstellung
Die Praxis, erkennbare, maschinenlesbare Herkunftsmarkierungen in KI-generierten Inhalten wie Bildern, Audio, Video und synthetischem Text einzubetten, damit nachgelagerte Konsumenten und Plattformen diese Inhalte als KI-generiert identifizieren können.
Gewichtskontrolle
Untersuchung von Modellgewichten und -strukturen auf Anomalien, Hintertüren oder Vorurteile, die auf Manipulationen oder unbeabsichtigte Verhaltensweisen hindeuten könnten.
White-Box-Tests
Bewertung von KI-Systemen mit umfassendem Wissen über interne Abläufe (Code, Parameter, Architektur), um Korrektheit, Sicherheit und Compliance zu überprüfen.
Richtlinie zur Zulassungsliste/Sperrliste
Governance-Regel, die erlaubte (Whitelist) und nicht erlaubte (Blacklist) Eingaben, Funktionen oder Vorgänge definiert, um die Einhaltung der Vorschriften zu gewährleisten und Missbrauch zu verhindern.
Positivliste
Nur vorab genehmigte Datenquellen, Bibliotheken oder Modellkomponenten in KI-Pipelines zuzulassen, um das Risiko durch nicht überprüfte oder bösartige Elemente zu reduzieren.
Arbeitsablauf-Orchestrierung
Automatisierung und Sequenzierung von KI-Lebenszyklusaufgaben (Datenaufnahme, Training, Validierung, Bereitstellung), um Governance-Richtlinien durchzusetzen und Konsistenz sicherzustellen.
Arbeitslasttrennung
Trennung von KI-Computing-Umgebungen (z. B. Entwicklung, Test, Produktion) und Datenbereichen, um den Ausbreitungsradius von Fehlern oder Sicherheitsverletzungen zu begrenzen.
Worst-Case-Analyse
Bewertung der extremsten potenziellen Ausfälle oder Missbräuche eines KI-Systems, um solide Risikominderungs- und Notfallplanungsstrategien zu entwickeln.
Speicher für einmaliges Schreiben und mehrfaches Lesen (WORM)
Unveränderlicher Speicher gewährleistet, dass Protokolle, Prüfpfade und Modellartefakte nach dem Schreiben nicht mehr verändert werden können, was die Nichtabstreitbarkeit unterstützt und eine forensische Überprüfung ermöglicht.
X
X-Validierung
Eine Modellvalidierungstechnik (häufig als „X-Val“ abgekürzt), die Daten in Falten aufteilt, um die Generalisierung des Modells rigoros zu bewerten und Überanpassung zu erkennen.
XAI-Prüfung
Ein Überprüfungsprozess, der bewertet, ob die Ausgaben zur Erklärbarkeit von KI den internen Richtlinien und behördlichen Anforderungen entsprechen und ausreichende Transparenz gewährleisten.
XAI (Erklärbare KI)
Techniken und Methoden, die den Entscheidungsprozess eines KI-Modells für Menschen transparent und verständlich machen und somit Verantwortlichkeit und Compliance unterstützen.
XAI-Framework
Ein strukturierter Ansatz oder ein Satz von Richtlinien, den Organisationen verwenden, um die Umsetzbarkeit, Messung und Steuerung von Erklärbarkeitspraktiken in ihren KI-Systemen zu implementieren und zu verwalten.
XAI-Metriken
Quantitative oder qualitative Messgrößen (z. B. Wichtigkeitsscores von Funktionen, Erklärungsgenauigkeit), die zur Bewertung der Qualität und Zuverlässigkeit von KI-Erklärungen verwendet werden.
Ja
YARA-Regeln
Ein Satz von signaturbasierten Erkennungsmustern, die verwendet werden, um KI-Pipelines und Artefakte auf bekannte bösartige Codes oder Manipulationen zu überprüfen.
Jährliche Compliance-Überprüfung
Eine jährliche Bewertung der KI-Governance-Prozesse, -Richtlinien und -Systeme, um die fortwährende Einhaltung von Vorschriften und internen Standards sicherzustellen.
Z
Zero-Day-Schwachstelle
Eine zuvor unbekannte Sicherheitslücke in der KI-Software oder -Infrastruktur, die ausgenutzt werden kann, bevor ein Patch oder eine Abhilfe verfügbar ist.
Null-Fehlertoleranz
Ein Governance-Prinzip, das darauf abzielt, keine Fehler oder Richtlinienverstöße in den KI-Ergebnissen zuzulassen, unterstützt durch rigorose Tests, Überwachung und kontinuierliche Verbesserungszyklen.
Null-Schuss-Lernen
Eine Modellfähigkeit, Aufgaben korrekt zu bewältigen oder Daten zu klassifizieren, auf die es nie explizit trainiert wurde, indem es generalisierte Wissensdarstellungen nutzt.
Zonenbasierte Zugriffskontrolle
Ein Netzwerk- oder Daten-Governance-Ansatz, der Ressourcen in Zonen mit unterschiedlichen Richtlinien unterteilt und den Zugriff von KI-Systemen gemäß der Datenempfindlichkeit einschränkt.
Alle
Whitepaper
Vorschriften für KI
Podcasts
Produktaktualisierungen
Presseberichterstattung
Glossar
Treten Sie unserem Podcast bei oder arbeiten Sie an Inhalten mit uns zusammen
Kontaktieren Sie uns, und wir werden sehen, was wir gemeinsam produzieren können.
Ein
Nutzungsrichtlinie (Acceptable Use Policy)
Ein von einem Unternehmen aufgestelltes Regelwerk, das festlegt, in welcher Form Mitarbeiter die vom Unternehmen bereitgestellten KI-Tools nutzen dürfen und welche Nutzungsweisen untersagt sind.
Akkreditierte Zertifizierung
Ein Zertifikat, das von einer Zertifizierungsstelle ausgestellt wurde, die von einer nationalen Akkreditierungsstelle (wie ANAB oder UKAS) offiziell als kompetent für die Auditierung nach einer bestimmten Norm anerkannt wurde.
Genauigkeit
Der Grad, zu dem die Ausgaben eines KI-Systems korrekt reale Daten oder beabsichtigte Ergebnisse widerspiegeln.
Aktionsvorschau
Eine Governance-Anforderung, nach der ein KI-Agent genau anzeigen muss, welche Auswirkungen eine irreversible Aktion haben wird, bevor eine menschliche Freigabe erfolgt.
Aktions-Whitelisting
Eine Sicherheits- und Governance-Kontrollfunktion, die festlegt, welche Tools, APIs und Aktionen ein KI-Agent ausschließlich ausführen darf.
Gegnerischer Angriff
Techniken, die AI-Modelle durch das Einführen täuschender Eingaben manipulieren, um fehlerhafte Ergebnisse zu verursachen.
Agenten-Plattform
Ein integriertes Laufzeitsubstrat, das mehrere KI-Agenten sowie die Modelle, Tools und Daten, von denen sie abhängen, hostet, orchestriert und steuert.
Übernahme von Agentenzielen (ASI01)
Eine Schwachstelle, bei der ein Angreifer die Ziele oder Entscheidungspfade eines Agenten manipuliert, um dessen autonomes Verhalten auf unerwünschte Ergebnisse umzulenken.
Agenten-Mesh
Eine vernetzte Topologie, in der KI-Agenten über eine gemeinsame Infrastrukturschicht einander entdecken, miteinander kommunizieren und gegenseitig Aufgaben delegieren.
Agentic KI
Eine Klasse von künstlichen Intelligenzsystemen, die darauf ausgelegt ist, komplexe Ziele selbstständig zu verfolgen und mehrstufige Aktionen (wie Softwarebereitstellung oder Finanztransaktionen) mit minimalem menschlichen Eingriff auszuführen.
Agentische KI-Governance
Die Steuerung autonomer KI-Systeme, die unabhängig agieren können (z.B. Transaktionen, Code-Bereitstellung), unterscheidet sich von voraussschauender KI (die Einblicke bietet) und generativer KI (die Inhalte erstellt).
Agentenbasierte Richtlinien-Engine
Eine Laufzeit-Softwarekomponente, die Aktionen von Agenten abfängt und diese vor der Ausführung anhand einer Reihe deterministischer Governance-Regeln bewertet.
Verantwortlichkeit der KI
Die Verpflichtung der Entwickler und Betreiber von KI-Systemen, sicherzustellen, dass ihre Systeme verantwortungsvoll entworfen und verwendet werden, unter Einhaltung ethischer Standards und gesetzlicher Anforderungen.
KI-Ausrichtung
Der Prozess, sicherzustellen, dass die Ziele und Verhaltensweisen von KI-Systemen mit menschlichen Werten und Absichten in Einklang stehen.
KI-Assistent
Ein System für konversationelle KI, das darauf ausgelegt ist, Nutzer bei der Erledigung von Aufgaben durch Interaktion in natürlicher Sprache zu unterstützen, typischerweise betrieben durch ein großes Sprachmodell.
KI-Prüfung
Die systematische Bewertung von KI-Systemen zur Beurteilung der Einhaltung von ethischen Standards, Vorschriften und Leistungskennzahlen.
KI-Voreingenommenheit
Systematische Fehler in den Ausgaben der KI, die durch voreingenommene Trainingsdaten oder fehlerhafte Algorithmen entstehen und zu unfaire Ergebnisse führen.
KI-Software-Stückliste (AIBOM)
Ein strukturiertes Inventar, das die Komponenten eines KI-Systems auflistet – einschließlich Basismodellen, Trainingsdatensätzen, Bibliotheken und Abhängigkeiten. Dies ist das KI-Äquivalent zu einer Software-Stückliste (Software Bill of Materials, SBOM).
KI-Konformität
Die Einhaltung von geltenden Gesetzen, Vorschriften und ethischen Richtlinien durch KI-Systeme während ihres gesamten Lebenszyklus.
KI-Ethik
Das Fachgebiet, das sich mit den moralischen Implikationen und Verantwortlichkeiten im Zusammenhang mit der Entwicklung und Implementierung von KI-Technologien befasst.
Erklärbarkeit von KI
Das Ausmaß, in dem die internen Mechanismen eines KI-Systems von Menschen verstanden und interpretiert werden können.
KI-Fußabdruck
Die Gesamtheit aller KI-Systeme, -Modelle, -Agenten und integrierten KI-Funktionen, die zu einem bestimmten Zeitpunkt in einem Unternehmen im Einsatz sind, einschließlich offiziell genehmigter sowie inoffizieller Systeme (Schatten-IT).
KI-Governance
Das Rahmenwerk aus Richtlinien, Prozessen und Kontrollmechanismen, das die ethische und effektive Entwicklung und Nutzung von KI-Systemen leitet.
KI-Governance für Finanzdienstleistungen
Die spezialisierte Anwendung von KI-Risikomanagement-Frameworks zur Erfüllung der strengen Aufsichts- und Verhaltensanforderungen des Banken- und Versicherungssektors.
KI-Governance-Software
Spezialisierte Enterprise-Tools zur Automatisierung der Inventarisierung, Risikobewertung und regulatorischen Compliance von Systemen der künstlichen Intelligenz.
KI-Inventar
Ein umfassender, zentralisierter Katalog aller KI-Systeme, Modelle und Agenten, die in einer Organisation verwendet werden, der ihren Geschäftszweck, das Risikoniveau und die Eigentümerschaft verfolgt.
EU-KI-Haftungsrichtlinie
Ein Entwurf für eine EU-Richtlinie, die darauf abzielt, das Verfahren für Kläger zur Geltendmachung von durch KI-Systeme verursachten Schäden zu vereinfachen, indem eine widerlegbare Kausalitätsvermutung eingeführt wird.
KI-Kompetenz
Das Verständnis von KI-Konzepten, Fähigkeiten und Einschränkungen, ermöglicht eine informierte Interaktion mit KI-Technologien.
Management-System für Künstliche Intelligenz (AIMS)
Eine Reihe von miteinander in Beziehung stehenden oder sich gegenseitig beeinflussenden Elementen einer Organisation zur Festlegung von Richtlinien, Zielen und Prozessen für die verantwortungsvolle Entwicklung oder Nutzung von KI.
KI-Überwachung
Die kontinuierliche Beobachtung und Analyse der Leistung von KI-Systemen, um Zuverlässigkeit, Sicherheit und Compliance zu gewährleisten.
KI-Risiko
Das Potenzial von KI-Systemen, Schaden oder unbeabsichtigte Folgen zu verursachen, einschließlich ethischer, rechtlicher und betrieblicher Risiken.
KI-Risikomanagement
Der Prozess der Identifizierung, Bewertung und Minderung von Risiken im Zusammenhang mit KI-Systemen.
Wildwuchs von KI-Anwendungen
Die unkontrollierte Verbreitung von KI-Systemen im gesamten Unternehmen, die in der Regel durch den einfachen Zugang zu KI-Tools und das Fehlen effektiver Erfassungs- und Inventarisierungsprozesse begünstigt wird.
Folgenabschätzung für KI-Systeme
Ein formelles Verfahren zur Bewertung der potenziellen Folgen des Einsatzes eines KI-Systems auf Einzelpersonen, Gruppen und die Gesellschaft als Ganzes.
KI-Transparenz
Das Prinzip, dass KI-Systeme offen und transparent über ihre Abläufe, Entscheidungen und Datennutzung informieren sollten.
KI TRiSM
Ein von Gartner geprägtes Akronym, das für KI-Vertrauen, Risiko- und Sicherheitsmanagement steht; ein Rahmenwerk, das Governance, Vertrauenswürdigkeit und Sicherheit in eine einzige operative Strategie vereint.
Gesetz über künstliche Intelligenz und Daten (AIDA)
Kanadas föderaler Regulierungsrahmen (Teil des Gesetzesentwurfs Bill C-27), der darauf abzielt, eine sichere und vorurteilsfreie Entwicklung sowie Nutzung von KI-Systemen mit weitreichenden Auswirkungen zu gewährleisten.
Algorithmus
Ein Satz von Regeln oder Anweisungen, die einem KI-System gegeben werden, um ihm zu helfen, eigenständig zu lernen.
Algorithmische Verzerrung
Ein Bias, der auftritt, wenn ein Algorithmus systematisch voreingenommene Ergebnisse produziert, aufgrund fehlerhafter Annahmen im maschinellen Lernprozess.
Algorithmische Verwaltung
Der Einsatz von Algorithmen zur Steuerung und Regulierung gesellschaftlicher Funktionen, der potenziell die Entscheidungsprozesse beeinflussen kann.
Amnestie-Programm
Eine zeitlich begrenzte Governance-Initiative, bei der Mitarbeitende dazu eingeladen werden, die Nutzung nicht genehmigter KI-Tools offenzulegen, ohne disziplinarische Maßnahmen befürchten zu müssen.
Produkte gemäß Anhang I
Eine Liste von Produkten, die bereits dem EU-Gesundheits- und Sicherheitsrecht unterliegen (z. B. Maschinen, Medizinprodukte) und bei denen integrierte KI gemäß der EU-KI-Verordnung automatisch als Hochrisiko eingestuft wird.
Anhang-III-Kategorien
Eine spezifische Liste von hochriskanten KI-Anwendungsbereichen, die im EU-KI-Gesetz definiert sind und zwingende Compliance-Verpflichtungen auslösen.
Analyse des API-Traffics
Der technische Prozess der Überwachung und Überprüfung von Netzwerkaufrufen an externe KI-Dienstleister.
Ausnahme gemäß Artikel 6 Absatz 3
Ein Selbstbestimmungsmechanismus unter dem EU-KI-Gesetz, der es Anbietern ermöglicht, ein KI-System der Anlage III als nicht hochriskant einzustufen, sofern es kein erhebliches Risiko darstellt.
Artikel 25 (EU-Gesetz über künstliche Intelligenz)
Die Bestimmung des EU-KI-Gesetzes, die eine direkte Verpflichtungskette zwischen Anbietern und Betreibern von Hochrisiko-KI-Systemen schafft, einschließlich der Haftungsübertragung bei wesentlichen Systemänderungen.
Artikel 50 (EU-Gesetz über künstliche Intelligenz)
Die Bestimmung des EU-KI-Gesetzes, die Transparenzpflichten für KI-Systeme festlegt, die mit Menschen interagieren, synthetische Inhalte generieren oder Deepfakes erstellen.
Allgemeine Künstliche Intelligenz
Eine Art von KI, die über die Fähigkeit verfügt, Wissen auf eine verallgemeinerte Weise zu verstehen, zu lernen und anzuwenden, ähnlich der menschlichen Intelligenz.
Künstliche Intelligenz
Die Simulation menschlicher Intelligenzprozesse durch Maschinen, insbesondere Computersysteme, einschließlich Lernen, Schlussfolgern und Selbstkorrektur.
Australische Richtlinie für sichere und verantwortungsvolle KI
Die Richtlinie der australischen Bundesregierung zur Regulierung des Einsatzes künstlicher Intelligenz im öffentlichen Dienst und in Regierungsbehörden.
Automatisierte KI-Governance
Der Einsatz von Software- und API-Integrationen zur Durchführung kontinuierlicher Compliance-Prüfungen und Risikoüberwachungen in Echtzeit ohne manuelles Eingreifen.
B
Rückpropagation
Ein Trainingsalgorithmus, der in neuronalen Netzwerken verwendet wird, um Gewichte anzupassen, indem Fehler vom Ausgabeschicht rückwärts propagiert werden, um den Verlust zu minimieren.
Stapelverarbeitung Lernen
Ein maschinelles Lernverfahren, bei dem das Modell auf einmal mit dem gesamten Datensatz trainiert wird, im Gegensatz zum inkrementellen Lernen.
Benchmarking
Der Prozess des Vergleichs der Leistung eines KI-Systems mit Standardkennzahlen oder anderen Systemen zur Bewertung der Effektivität.
Voreingenommenheit
Systematische Fehler in den Ausgaben der KI, die durch voreingenommene Trainingsdaten oder fehlerhafte Algorithmen entstehen und zu unfaire Ergebnisse führen.
Verstärkung von Verzerrungen
Das Phänomen, bei dem KI-Systeme bestehende Vorurteile in den Trainingsdaten verstärken und zu zunehmend verzerrten Ergebnissen führen.
Voreingenommenheitsprüfung
Ein Bewertungsprozess zur Erkennung und Minderung von Verzerrungen in KI-Systemen, um Fairness und die Einhaltung ethischer Standards sicherzustellen.
Voreingenommenheitserkennung
Der Prozess der Identifizierung von Verzerrungen in KI-Modellen durch Analyse ihrer Ergebnisse und Entscheidungsprozesse.
Voreingenommenheitsminderung
Techniken, die während der KI-Entwicklung angewendet werden, um Vorurteile in Modellen und Datensätzen zu reduzieren oder zu beseitigen.
Schwarzkastenmodell
Ein KI-System, dessen interne Abläufe nicht transparent oder interpretierbar sind, was es schwierig macht zu verstehen, wie Entscheidungen getroffen werden.
Bot
Eine Softwareanwendung, die automatisierte Aufgaben ausführt und häufig in der KI für Aufgaben wie Kundenservice oder Datenerfassung eingesetzt wird.
Brasilianischer Gesetzentwurf zur KI (PL 2338/2023)
Brasiliens primäres gesetzgeberisches Vorhaben zur Schaffung eines nationalen Rahmens für KI-Rechte und deren Regulierung.
Brüsseler Effekt
Das Phänomen, bei dem EU-Regulierungen durch Marktzugangsbedingungen zum weltweiten Standard werden, selbst für Unternehmen mit Hauptsitz außerhalb der EU.
C
Kalifornisches Gesetz AB 1008
Eine Änderung des CCPA, die klarstellt, dass personenbezogene Daten auch solche Daten umfassen, die von KI-Systemen generiert oder ausgegeben werden.
Kalifornisches Gesetz AB 3030
Ein kalifornisches Gesetz, das Transparenz vorschreibt, wenn generative KI im Gesundheitswesen zur Kommunikation mit Patientinnen und Patienten eingesetzt wird.
Kalifornische ADMT-Regulierungen
Vorschriften des California Consumer Privacy Act (CCPA) zur Regulierung von automatisierten Entscheidungsfindungstechnologien (Automated Decision-Making Technology, ADMT).
Kalifornische FEHA-KI-Regulierungen
Staatliche Vorschriften im Rahmen des Fair Employment and Housing Act (FEHA) zur Bekämpfung von KI-gestützter Diskriminierung am Arbeitsplatz.
Kalifornisches Gesetz zur KI-Transparenz (SB 942)
Gesetzgebung, die große Anbieter von generativen KI-Systemen verpflichtet, Erkennungswerkzeuge bereitzustellen sowie latente und offensichtliche Offenlegungen in KI-generierte Inhalte einzubetten.
Kaskadierender Fehler (ASI08)
Ein Fehlermodus, bei dem ein Fehler oder eine böswillige Eingabe im Denkprozess eines KI-Agenten eine Kettenreaktion von Ausfällen über mehrere verbundene Agenten oder Systeme hinweg auslöst.
Kausale Inferenz
Eine Methode in der KI und Statistik, die verwendet wird, um Ursache-Wirkungs-Beziehungen zu bestimmen und dabei hilft, die Auswirkungen von Interventionen oder Änderungen von Variablen zu verstehen.
CE-Kennzeichnung
Ein zwingend erforderliches Zertifizierungskennzeichen, das die Konformität eines KI-Systems mit den Gesundheits-, Sicherheits- und Umweltschutzstandards für Produkte bestätigt, die innerhalb des EWR verkauft werden.
Benachrichtigungszeitfenster ändern
Ein vertraglich festgelegter Zeitraum, in dem ein Anbieter den Kunden über wesentliche Aktualisierungen eines KI-Modells informieren muss, bevor diese Aktualisierungen in der Produktivumgebung implementiert werden.
Chatbot
Eine KI-gestützte Softwareanwendung, die darauf ausgelegt ist, menschliche Gespräche zu simulieren und häufig im Kundenservice sowie zur Informationsbeschaffung eingesetzt wird.
Interimsregelungen für generative KI in China
Regulatorische Anforderungen für generative KI-Dienste, die für die chinesische Öffentlichkeit bereitgestellt werden.
Klassifizierung
Ein überwachtes Lernverfahren im Bereich des maschinellen Lernens, bei dem das Modell die Kategorie oder Klassenbezeichnung neuer Beobachtungen basierend auf den Trainingsdaten vorhersagt.
KI-Konvention des Europarats
Der erste rechtlich bindende internationale Vertrag über KI, der sich auf den Schutz der Menschenrechte, der Demokratie und der Rechtsstaatlichkeit konzentriert.
Kognitive Voreingenommenheit
Systematische Abweichungsmuster von der Norm oder Rationalität im Urteil, die die Entscheidungsfindung von KI beeinflussen können, wenn sie in den Trainingsdaten vorhanden sind.
Kognitives Computing
Ein Teilbereich der KI, der menschliche Denkprozesse in einem computergestützten Modell simuliert, mit dem Ziel, komplexe Probleme ohne menschliche Unterstützung zu lösen.
Kognitive Belastung
Der gesamte mentale Aufwand, der im Arbeitsgedächtnis verwendet wird, wird im Bereich der KI berücksichtigt, um Systeme zu entwerfen, die Benutzer nicht überfordern.
Colorado AI Act (SB24-205)
Das erste umfassende US-Bundesstaatengesetz, das Entwickler und Bereitsteller von hochriskanten KI-Systemen zur Implementierung von Sorgfaltsstandards und zur Durchführung jährlicher Folgenabschätzungen verpflichtet.
Colorado AI Act (SB 26-189)
Colorado SB 26-189 is the 2026 replacement for the original Colorado AI Act (SB 24-205), taking effect 1 January 2027 with obligations focused on automated decision-making technology making consequential decisions about Coloradans.
Compliance-Rahmenwerk
Ein strukturierter Satz von Richtlinien und Best Practices, denen Organisationen folgen, um sicherzustellen, dass ihre KI-Systeme regulatorische und ethische Standards erfüllen.
Compliance-Risiko
Das Potenzial für rechtliche oder regulatorische Sanktionen, finanzielle Verluste oder Reputationsschäden, dem ein Unternehmen ausgesetzt ist, wenn es versäumt, gesetzliche Vorschriften, Regulierungen oder vorgegebene Praktiken einzuhalten.
Computer Vision
Ein Bereich der KI, der Computer darin schult, visuelle Informationen aus der Welt, wie Bilder und Videos, zu interpretieren und zu verarbeiten.
Konzeptdrift
Die Veränderung der statistischen Eigenschaften der Zielvariablen, die das Modell vorherzusagen versucht, im Laufe der Zeit, was zu einer Verschlechterung des Modells führt.
Vertrauensintervall
Ein Wertebereich, abgeleitet von Stichprobenstatistiken, der wahrscheinlich den Wert eines unbekannten Populationsparameters enthält, wird in der KI verwendet, um Unsicherheiten auszudrücken.
Konformitätsbewertung
Ein Verfahren zur Bestimmung, ob ein KI-System festgelegte Anforderungen, Standards oder Vorschriften erfüllt, das häufig Tests und Zertifizierungen umfasst.
Interne Kontrolle (Konformitätsbewertung)
Ein Verfahren im Rahmen des EU-KI-Gesetzes, bei dem ein Anbieter selbst bestätigt, dass sein Hochrisiko-KI-System alle regulatorischen Anforderungen erfüllt, ohne dass eine Prüfung durch eine unabhängige Stelle erforderlich ist.
Kontinuierliches Lernen
Die Fähigkeit eines KI-Systems, kontinuierlich aus neuen Dateneingaben zu lernen und sich ohne menschliches Eingreifen anzupassen, verbessert sich im Laufe der Zeit.
Steuerbarkeit
In welchem Maße Menschen die Entscheidungen und Verhaltensweisen eines KI-Systems lenken, beeinflussen oder übersteuern können.
Mandat des AStV
Das Verhandlungsmandat, das die Botschafter der EU-Mitgliedstaaten (Ausschuss der Ständigen Vertreter) der rotierenden Ratspräsidentschaft für Trilog-Verhandlungen über EU-Rechtsvorschriften erteilen.
Kreuzvalidierung
Eine Modellvalidierungsmethode zur Beurteilung, wie die Ergebnisse einer statistischen Analyse auf ein unabhängiges Datenset verallgemeinert werden können.
Kryptografische Agenten-Identität
Ein verifizierbarer digitaler Berechtigungsnachweis (oftmals ein dezentraler Identifikator oder DID), der einen KI-Agenten und dessen Autorisierungsstufe eindeutig identifiziert.
Cybersicherheit
Die Praxis des Schutzes von Systemen, Netzwerken und Programmen vor digitalen Angriffen ist entscheidend für den Schutz von KI-Systemen vor Bedrohungen.
D
Datenabweichung
Die Veränderung der Modell-Eingabedaten im Laufe der Zeit kann zu einer Verschlechterung der Modellleistung führen, wenn diese nicht überwacht und behoben wird.
Datenethik
Der Bereich der Ethik, der Datenpraktiken im Hinblick auf die moralischen Verpflichtungen bei der Erfassung, dem Schutz und der Nutzung personenbezogener Informationen bewertet.
Datenverwaltung
Die umfassende Verwaltung der Datenverfügbarkeit, Benutzerfreundlichkeit, Integrität und Sicherheit in einem Unternehmen, um sicherzustellen, dass Daten während ihres gesamten Lebenszyklus ordnungsgemäß behandelt werden.
Risiko bei der Datenübernahme
Das Risiko, dass vertrauliche oder geschützte Informationen während der Interaktion eines Benutzers dauerhaft in den Trainingsdatensatz eines KI-Modells aufgenommen werden.
Datenlebenszyklusverwaltung
Die richtlinienbasierte Verwaltung des Datenflusses über den gesamten Lebenszyklus: von der Erstellung und anfänglichen Speicherung bis zu dem Zeitpunkt, an dem die Daten veraltet sind und gelöscht werden.
Datenminimierung
Das Prinzip, nur die Daten zu erfassen, die für einen bestimmten Zweck erforderlich sind, reduziert das Risiko von Missbrauch oder Verstößen.
Datenschutz
Der Bereich der Informationstechnologie, der sich mit der Fähigkeit befasst, zu kontrollieren, welche Daten geteilt werden und mit wem, und dabei sicherzustellen, dass personenbezogene Daten angemessen behandelt werden.
Datenschutz
Der Prozess, wichtige Informationen vor Beschädigung, Kompromittierung oder Verlust zu schützen und die Einhaltung der Datenschutzgesetze und -vorschriften zu gewährleisten.
Datenherkunft
Eine dokumentierte Erfassung der Herkunft, der Eigentumsverhältnisse und des Lebenszyklus eines Datensatzes, der für das Training oder die Feinabstimmung eines KI-Modells verwendet wird.
Datenqualität
Der Zustand von Daten, basierend auf Faktoren wie Genauigkeit, Vollständigkeit, Zuverlässigkeit und Relevanz, ist entscheidend für die effektive Leistung von KI-Modellen.
Datenresidenz
Der physische oder geografische Standort der Daten einer Organisation, der Auswirkungen auf die Einhaltung von Datenschutzgesetzen haben kann.
Datenhoheit
Das Konzept, dass Daten den Gesetzen und Governance-Strukturen des Landes unterliegen, in dem sie gesammelt, gespeichert oder verarbeitet werden.
Betroffene Person
Eine Person, deren personenbezogene Daten erfasst, gespeichert oder verarbeitet werden, was insbesondere im Kontext von Datenschutzgesetzen wie der DSGVO relevant ist.
De-Identifikation
Der Prozess der Entfernung oder Verschleierung personenbezogener Kennungen in Datensätzen, um es schwierig zu machen, Einzelpersonen zu identifizieren, wird verwendet, um die Privatsphäre zu schützen.
Tiefes Lernen
Ein Teilbereich des maschinellen Lernens, der neuronale Netze mit mehreren Schichten umfasst und die Modellierung komplexer Muster in Daten ermöglicht.
Täuschungstechnologie
Synthetische Medien, bei denen eine Person in einem bestehenden Bild oder Video durch das Abbild einer anderen Person ersetzt wird, das mit Hilfe von Deep-Learning-Techniken erstellt wurde.
Differentialer Datenschutz
Ein System zur öffentlichen Weitergabe von Informationen über einen Datensatz, indem Muster von Gruppen innerhalb des Datensatzes beschrieben werden, während Informationen über Einzelpersonen zurückgehalten werden.
Das digitale EU-Omnibusgesetz zur Künstlichen Intelligenz
Ein Gesetzgebungspaket für 2025/2026, das darauf ausgelegt ist, technische Standards, Konformitätsbewertungen und Durchsetzungszeitpläne im Rahmen des EU-KI-Gesetzes und damit verbundener digitaler Sicherheitsgesetze zu rationalisieren und zu harmonisieren.
Diskriminierung
Im Bereich der KI bezieht sich dies auf die unfaire Behandlung von Einzelpersonen oder Gruppen aufgrund von Verzerrungen in Daten oder Algorithmen, die zu ungleichen Ergebnissen führen.
Verteiltes Lernen
Ein maschineller Lernansatz, bei dem Trainingsdaten auf mehrere Geräte oder Standorte verteilt werden und Modelle kollaborativ trainiert werden, ohne rohe Daten auszutauschen.
Domänenanpassung
Eine Technik im maschinellen Lernen, bei der ein in einem Bereich trainiertes Modell angepasst wird, um in einem anderen, aber verwandten Bereich zu funktionieren.
Dual-Use-Basismodell
Ein KI-Modell, das auf einer enormen Datenmenge trainiert wurde und über eine leistungsstarke Performance verfügt, sodass es sowohl für zivile als auch für schädliche oder militärische Zwecke eingesetzt werden kann.
Dynamische Risikoanalyse
Der kontinuierliche Prozess der Identifizierung und Bewertung von Risiken in Echtzeit ermöglicht rechtzeitige Reaktionen auf neu auftretende Bedrohungen in KI-Systemen.
E
Edge-KI
Die Bereitstellung von KI-Algorithmen auf Edge-Geräten ermöglicht die Datenverarbeitung und Entscheidungsfindung direkt an der Quelle der Datenerzeugung.
Edge-Analytik
Die Analyse von Daten am Rand des Netzwerks, nahe der Quelle der Datenerzeugung, reduziert Latenzzeiten und Bandbreitennutzung.
Integrierte KI
KI-Funktionen oder -Features, die direkt in die Software-as-a-Service-Plattformen (SaaS) oder Unternehmensanwendungen von Drittanbietern integriert sind.
Ensemble-Lernen
Ein maschinelles Lernparadigma, bei dem mehrere Modelle trainiert und kombiniert werden, um dasselbe Problem zu lösen und die Gesamtleistung zu verbessern.
Entitätsauflösung
Der Prozess der Identifizierung und Verknüpfung von Datensätzen, die sich auf dasselbe reale Objekt in verschiedenen Datenbeständen beziehen.
Enzai
Eine Unternehmensplattform für KI-Governance, die es Organisationen ermöglicht, ihre KI-Systeme zu inventarisieren, bewerten und steuern, um eine maximale Einführung von KI zu gewährleisten und zugleich das Risiko zu minimieren.
Eskalationslogik
Ein Satz vordefinierter Regeln und Auslöser, die einen KI-Agenten zwingen, den autonomen Betrieb einzustellen und die Kontrolle wieder an einen menschlichen Bediener zu übergeben.
ESMA-Erwartungen an die KI/ML-Governance
Regulatorische Richtlinien der Europäischen Wertpapier- und Marktaufsichtsbehörde bezüglich des Einsatzes von Abstrakter Intelligenz (KI) und maschinellem Lernen auf den Finanzmärkten.
Ethische KI
Die Praxis, KI-Systeme auf eine Weise zu entwerfen, zu entwickeln und bereitzustellen, die mit ethischen Prinzipien und Werten übereinstimmt, um Fairness, Verantwortlichkeit und Transparenz zu gewährleisten.
Ethisches KI-Audit
Der Prozess der systematischen Bewertung von KI-Systemen, um sicherzustellen, dass sie den ethischen Standards entsprechen und keinen Schaden verursachen.
Zertifizierung für ethische KI
Eine formale Anerkennung, dass ein KI-System etablierten ethischen Standards und Richtlinien entspricht.
Ethische KI-Governance
Der Rahmen von Richtlinien, Verfahren und Praktiken, die sicherstellen, dass KI-Systeme verantwortungsvoll und ethisch entwickelt und verwendet werden.
Ethische Rahmenwerke
Strukturierte Sätze von Prinzipien und Richtlinien, die dazu bestimmt sind, die ethische Entwicklung und Implementierung von KI-Systemen zu leiten.
Ethisches Hacken
Die bewusste Überprüfung von Systemen auf Schwachstellen, um Sicherheitsprobleme zu identifizieren und zu beheben, gewährleistet die Robustheit von KI-Systemen.
Ethische Auswirkungen Bewertung
Ein systematischer Evaluierungsprozess zur Identifizierung und Berücksichtigung der ethischen Implikationen und potenziellen gesellschaftlichen Auswirkungen von KI-Systemen vor deren Einsatz.
Ethisches Risiko
Das Potenzial eines KI-Systems, Schaden durch unethisches Verhalten wie Voreingenommenheit, Diskriminierung oder Verletzung der Privatsphäre zu verursachen.
Ethische Leitlinien für vertrauenswürdige KI
Ein Satz von Richtlinien, die von der hochrangigen Expertengruppe der Europäischen Kommission für KI entwickelt wurden, um vertrauenswürdige KI zu fördern, wobei der Schwerpunkt auf menschlicher Handlungskompetenz, technischer Robustheit, Datenschutz, Transparenz, Vielfalt, gesellschaftlichem Wohlergehen und Verantwortung liegt.
EU-KI-Gesetz
Das weltweit erste umfassende horizontale Regelwerk für KI, das ein risikobasiertes Klassifizierungssystem für Systeme etabliert, die innerhalb der Europäischen Union bereitgestellt oder genutzt werden.
Hochrisiko-Kategorien gemäß dem EU-KI-Gesetz
Die beiden Einstufungen von Hochrisiko-KI-Systemen im Rahmen des EU-KI-Gesetzes (EU AI Act): eigenständige Systeme, die in Anhang III aufgeführt sind (einschließlich Biometrie, kritischer Infrastruktur, Beschäftigung, Bildung, Strafverfolgung und anderer genannter Verwendungszwecke), und in regulierte Produkte eingebettete KI, die in Anhang I aufgeführt sind (einschließlich Medizinprodukten, Fahrzeugen, Maschinen und anderen regulierten Produktkategorien).
Risikoklassifizierung nach dem EU-Gesetz über künstliche Intelligenz
Der vorgeschriebene Prozess zur Einstufung eines KI-Systems in eine von vier Risikoklassen (unacceptable, high, limited, minimal risk) gemäß dem EU-Gesetz über künstliche Intelligenz (EU AI Act).
EU-Amt für KI
Das Gremium der Europäischen Kommission, das für die Überwachung der Umsetzung und Durchsetzung der EU-KI-Verordnung eingerichtet wurde, insbesondere im Hinblick auf KI-Modelle mit allgemeinem Verwendungszweck und systemischem Risiko.
Digitale Omnibus-Richtlinie der EU
Das umfassendere Gesetzgebungs-Vereinfachungspaket der Europäischen Union für den Zeitraum 2025–2026, das verschiedene digitale Verordnungen adressiert, darunter das Gesetz über künstliche Intelligenz (AI Act), Bestimmungen der DSGVO, das Cyber-Resilienz-Gesetz sowie Änderungen des Datengesetzes (Data Act).
Übermäßige Handlungsbefugnis
Eine Sicherheitslücke, bei der einem KI-System im Verhältnis zu seiner beabsichtigten Funktion ein zu hohes Maß an Autonomie, zu viele Werkzeuge oder übermäßig privilegierte Zugriffsrechte gewährt werden.
Executive Order 14110
Die Regierungsrichtlinie der Biden-Administration (unterzeichnet im Oktober 2023, aufgehoben im Januar 2025), die nationale US-Standards für die Sicherheit, Vertrauenswürdigkeit und den Datenschutz von KI festlegte und das U.S. AI Safety Institute am NIST ins Leben rief.
Techniken der Erklärbarkeit
Methoden zur Interpretation und zum Verständnis der Entscheidungen von KI-Modellen, wie LIME, SHAP und Salienzabbildungen.
Erklärbarkeit vs. Interpretierbarkeit
Während beide darauf abzielen, KI-Entscheidungen verständlich zu machen, konzentriert sich die Erklärbarkeit auf die Begründung der Entscheidungen, während sich die Interpretierbarkeit auf die Transparenz der internen Mechanismen des Modells bezieht.
Erklärbare KI (XAI)
KI-Systeme, die darauf ausgelegt sind, nachvollziehbare Begründungen für ihre Entscheidungen und Handlungen bereitzustellen, wodurch Transparenz und Vertrauen gestärkt werden.
Erklärbare Maschinelles Lernen
Maschinelle Lernmodelle, die entwickelt wurden, um klare und verständliche Erklärungen für ihre Vorhersagen und Entscheidungen bereitzustellen.
F
Gerechtigkeit
Sicherstellen, dass KI-Systeme unvoreingenommene und gerechte Ergebnisse für verschiedene Einzelpersonen und Gruppen liefern und diskriminierende Auswirkungen mindern.
Fairness-Kennzahlen
Quantitative Maße (z.B. demografische Parität, gleichberechtigte Chancen), die verwendet werden, um zu bewerten, wie fair die Vorhersagen eines KI-Modells über verschiedene Gruppen hinweg sind.
Falsch Negativ
Wenn ein AI-Modell fälschlicherweise eine negative Klasse für eine Instanz vorhersagt, die tatsächlich positiv ist (Typ-II-Fehler).
Falsch-Positiv
Wenn ein KI-Modell fälschlicherweise eine positive Klasse für ein Beispiel prognostiziert, das in Wirklichkeit negativ ist (Typ-I-Fehler).
Fehlertoleranz
Die Fähigkeit eines KI-Systems, auch dann korrekt weiterzuarbeiten, wenn einige Komponenten ausfallen oder Fehler produzieren.
Merkmalsengineering
Erstellen, Auswählen oder Transformieren von Rohdatensatzattributen in Merkmale, die die Leistung von maschinellen Lernmodellen verbessern.
Merkmalextraktion
Der Prozess der Zuordnung von Rohdaten (z. B. Text, Bilder) zu numerischen Darstellungen (Merkmale), die sich für die Eingabe in maschinelle Lernalgorithmen eignen.
Funktionsauswahl
Identifizierung und Auswahl der relevantesten Merkmale für das Modelltraining, um die Komplexität zu reduzieren und die Genauigkeit zu verbessern.
Föderierte KI-Governance
Ein Governance-Modell, bei dem zentrale Richtlinien und Aufsicht mit dezentralen Entscheidungsbefugnissen der Geschäftsbereiche oder regionalen Niederlassungen kombiniert werden, um ein ausgewogenes Verhältnis zwischen Konsistenz und operativer Flexibilität zu gewährleisten.
Föderiertes Lernen
Ein dezentraler Ansatz für maschinelles Lernen, bei dem Modelle auf mehreren Geräten oder Servern trainiert werden, die lokale Daten halten, ohne dass Rohdaten zentral geteilt werden müssen.
Rückkopplungsschleife
Ein Prozess, bei dem KI-Ausgaben als Eingaben zurückgeführt werden, wodurch das Modellverhalten verstärkt werden kann – zum Positiven (verstärkendes Lernen) oder zum Negativen (Verstärkung von Verzerrungen).
Feinabstimmung
Anpassen eines vortrainierten KI-Modells an eine spezifische Aufgabe oder ein spezifisches Dataset durch Fortsetzung des Trainings mit neuen Daten, was oft die leistungsbezogene Effizienz verbessert.
Formale Verifikation
Mathematisch beweisen, dass KI-Algorithmen spezifischen Korrektheitseigenschaften entsprechen, die häufig in sicherheitskritischen Systemen verwendet werden.
Rahmenwerk
Ein strukturiertes Set von Richtlinien, Prozessen und Werkzeugen zur Steuerung, Entwicklung, Bereitstellung und Überwachung von KI-Systemen.
Betrugserkennung
Verwendung von KI-Techniken (z.B. Anomalieerkennung, Mustererkennung), um betrügerische Aktivitäten in Finanzwesen, Versicherungen usw. zu identifizieren und zu verhindern.
FS AI RMF (Risikomanagement-Framework für künstliche Intelligenz im Finanzdienstleistungssektor)
Das im Februar 2026 veröffentlichte, spezialisierte KI-Risikomanagement-Framework des US-Finanzministeriums für Finanzdienstleistungsunternehmen, welches das NIST AI RMF an sektorspezifische Verpflichtungen anpasst.
Funktionale Sicherheit
Sicherzustellen, dass KI-Systeme unter allen Bedingungen sicher funktionieren, insbesondere in Branchen wie der Automobilindustrie oder dem Gesundheitswesen, erfolgt oft durch Redundanz und Überprüfungen.
Grundrechtecharta-Folgenabschätzung (FRIA)
Eine nach dem EU-KI-Gesetz für bestimmte Bereitsteller obligatorische Bewertung zur Bestimmung der Auswirkungen, die der Einsatz eines Hochrisiko-KI-Systems auf die Bürgerrechte und Menschenrechte haben könnte.
Fuzzy-Logik
Ein Logiksystem, das Schlussfolgerungen mit ungefähren statt binären Wahr/Falsch-Werten verarbeitet – nützlich für Steuerungssysteme und den Umgang mit Unsicherheiten.
G
Lückenanalyse
Der Prozess, aktuelle KI-Governance-Praktiken mit den gewünschten Standards oder Vorschriften zu vergleichen, um Bereiche zu identifizieren, die Verbesserungen benötigen.
DSGVO
Die Datenschutz-Grundverordnung der EU legt strenge Anforderungen für die Erfassung, Verarbeitung und die individuellen Rechte persönlicher Daten fest.
Verallgemeinerung
Die Fähigkeit eines KI-Modells, auf neuen, unbekannten Daten gute Leistungen zu erbringen, indem es zugrunde liegende Muster erfasst, anstatt Trainingsbeispiele auswendig zu lernen.
Generative KI
KI-Techniken (z. B. GANs, Transformer), die neue Inhalte – Texte, Bilder oder andere Medien – erstellen und dabei häufig neuartige Fragestellungen in Bezug auf Governance und geistiges Eigentum aufwerfen.
Globales Modell
Ein konsolidiertes KI-Modell, das auf aggregierten Daten aus mehreren Quellen trainiert ist, im Gegensatz zu lokalisierten oder personalisierten Modellen.
Zielabweichung
Ein Phänomen, bei dem sich die internen Teilziele oder Argumentationspfade eines KI-Agenten schrittweise von den ursprünglich durch den Menschen vorgegebenen Zielen entfernen.
Governance
Das Gesamtkonstrukt aus Richtlinien, Verfahren, Rollen und Verantwortlichkeiten, das die ethische, legale und effektive Entwicklung sowie den Einsatz von KI-Systemen leitet.
Lenkungsgremium
Eine funktionsübergreifende Gruppe (z. B. rechtlich, ethisch, technisch), die damit betraut ist, die Richtlinien zur KI-Governance innerhalb einer Organisation zu überwachen und deren Umsetzung zu gewährleisten.
Governance-Rahmenwerk
Ein strukturiertes Modell, das darlegt, wie die Komponenten der KI-Governance (Risikomanagement, Verantwortlichkeit, Aufsicht) zusammenpassen, um die Einhaltung von Vorschriften und die ethische Nutzung sicherzustellen.
Reifegradmodell für Governance
Ein gestuftes Rahmenwerk, das bewertet, wie fortgeschritten die KI-Governance-Praktiken einer Organisation sind, von ad-hoc bis optimiert.
Richtlinie zur Unternehmensführung
Ein formales Dokument, das Regeln, Rollen und Verfahren für die Entwicklung und Überwachung von KI innerhalb einer Organisation kodifiziert.
Governance-Bewertungssystem
Ein Dashboard oder Bericht, das wichtige Kennzahlen (z. B. Vorfälle von Voreingenommenheit, Compliance-Audits) zur Messung der Effektivität der KI-Governance im Laufe der Zeit verfolgt.
Verhaltenskodex für GPAI
Das detaillierte Regulierungsinstrument, das spezifische Verpflichtungen zur Transparenz, Sicherheitsprüfung und Risikominderung für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck (GPAI) gemäß dem Gesetz über künstliche Intelligenz der EU (EU AI Act) festlegt.
GPAI-Modell
Ein universell einsetzbares Modell der künstlichen Intelligenz, das in der Lage ist, eine Vielzahl unterschiedlicher Aufgaben auszuführen und sich nahtlos in verschiedene Anwendungen integrieren lässt.
GPU
Spezialisierter Hardware-Beschleuniger für parallele Berechnungen, der häufig zum effizienten Trainieren und Ausführen groß angelegter KI-Modelle verwendet wird.
Gradientenabstieg
Ein Optimierungsalgorithmus, der die Modellparameter iterativ in die Richtung anpasst, die die Verlustfunktion minimal verringert.
Granulare Zustimmung
Ein Datenschutzansatz, der es Einzelpersonen ermöglicht, spezifische Berechtigungen für jede Art der Datennutzung zu erteilen oder zu verweigern, wodurch Transparenz und Kontrolle verbessert werden.
Grüne KI
Die Praxis, den ökologischen Fußabdruck von KI durch energieeffiziente Algorithmen und nachhaltige Computerpraktiken zu reduzieren.
Grauer-Box-Modell
Ein Modell, dessen innere Logik teilweise transparent ist (einige Komponenten sind interpretierbar, andere undurchsichtig), das Leistung und Erklärbarkeit ausbalanciert.
Tatsächliche Gegebenheit
Die präzisen, praxisnahen Daten oder Kennzeichnungen, die als Maßstab zur Schulung und Bewertung der Leistung von KI-Modellen verwendet werden.
Leitplanken
Vordefinierte Einschränkungen oder Überprüfungen (technisch und richtlinienbasiert), die in KI-Systeme eingebettet sind, um unsicheres oder nicht konformes Verhalten zur Laufzeit zu verhindern.
Leitlinie (Ethische KI)
Eine unverbindliche Empfehlung oder ein Best-Practice-Dokument, das von Organisationen (z.B. IEEE, EU) herausgegeben wird, um die verantwortungsvolle Entwicklung und Implementierung von KI zu gestalten.
H
Halluzination
Wenn generative KI inkorrekte oder erfundene Informationen erstellt, die plausibel erscheinen, aber keine Grundlage in den Trainingsdaten haben.
Umgang mit fehlenden Daten
Techniken (z.B. Imputation, Löschung, Modellierung) zur Schließung von Lücken in Datensätzen, um die Integrität und Fairness des Modells zu bewahren.
Hardware-Beschleuniger
Spezialisierte Chips (z.B. GPUs, TPUs), die zur Beschleunigung von KI-Berechnungen entwickelt wurden, mit Auswirkungen auf den Energieverbrauch und das Lieferkettenrisiko.
Schadensbewertung
Bewertung potenzieller negativer Auswirkungen (physisch, psychologisch, gesellschaftlich) von KI-Systemen und Definition von Minderungsstrategien.
Harmonisierung
Harmonisierung von KI-Richtlinien, -Standards und -Vorschriften über verschiedene Rechtsgebiete hinweg, um Konflikte zu reduzieren und Interoperabilität zu ermöglichen.
Harmonisierte Struktur
Eine einheitliche Vorlage für alle ISO-Managementsystemnormen, ehemals bekannt als Annex SL, die für Konsistenz bei der Terminologie und der Nummerierung der Abschnitte sorgt.
Hashierung
Der Prozess der Umwandlung von Daten in eine Zeichenfolge fester Größe wird für Datenintegritätsprüfungen und die datenschutzfreundliche Verknüpfung von Aufzeichnungen verwendet.
Heterogene Daten
Die Kombination von Daten unterschiedlicher Typen (Text, Bild, Sensor) oder aus mehreren Domänen stellt Herausforderungen an Integration und Governance dar.
Heuristik
Eine Faustregel oder vereinfachte Entscheidungsstrategie, die verwendet wird, um KI-Prozesse zu beschleunigen, wobei oft Optimalität gegen Effizienz eingetauscht wird.
Heuristische Bewertung
Eine Methode zur Gebrauchstauglichkeitsprüfung, bei der Experten ein KI-System anhand etablierter Gebrauchstauglichkeitsprinzipien beurteilen, um potenzielle Probleme zu identifizieren.
Hochrisiko-KI-System
KI-Anwendungen, die ein erhebliches Potenzial zur Gefährdung der Gesundheit, Sicherheit oder der Grundrechte von Personen aufweisen und somit die strengsten Compliance-Anforderungen gemäß dem EU-Gesetz über künstliche Intelligenz (EU AI Act) auslösen.
KI im Hochspannungsbereich
KI-Anwendungen, deren Ausfälle erheblichen Schaden verursachen könnten (z. B. medizinische Diagnosen, autonome Fahrzeuge), erfordern verstärkte Governance und Aufsicht.
Mensch-in-der-Schleife
Einbeziehung menschlicher Urteilsfähigkeit in KI-Prozesse (Schulung, Validierung, Entscheidungsüberprüfung), um Genauigkeit und Verantwortlichkeit zu verbessern.
Menschliche Aufsicht
Mechanismen, die es ausgewählten Personen ermöglichen, Entscheidungen von KI-Systemen zu überwachen, einzugreifen oder zu überschreiben, um ethische und gesetzliche Konformität sicherzustellen.
Auswirkungen auf die Menschenrechte Bewertung
Ein Verfahren zur Bewertung, wie KI-Systeme die Grundrechte (Privatsphäre, Meinungsfreiheit, Nichtdiskriminierung) beeinflussen, und zur Identifizierung von Minderungsmaßnahmen.
Hybrides Modell
KI-Systeme, die mehrere Lernparadigmen kombinieren (z. B. symbolische und neuronale), um Erklärbarkeit und Leistung in Einklang zu bringen.
Hyperparameter
Eine Konfigurationsvariable (z. B. Lernrate, Baumeistiefe), die vor dem Modelltraining festgelegt wird und das Lernverhalten sowie die Leistung beeinflusst.
Optimierung von Hyperparametern
Der Prozess der Suche nach den optimalen Hyperparameterwerten (z.B. durch Grid-Suche oder Bayes'sche Optimierung), um die Modellleistung zu maximieren.
Ich
Ungleichgewichtige Daten
Ein Datensatz, bei dem eine Klasse oder Kategorie die anderen signifikant überwiegt, was dazu führen kann, dass KI-Modelle zugunsten der Mehrheitsklasse voreingenommen sind, es sei denn, dies wird behoben.
Unveränderliches Hauptbuch
Ein manipulationsnachweisender Mechanismus zur Protokollführung (z. B. Blockchain), der sicherstellt, dass einmal geschriebene Daten nicht ohne Erkennung verändert werden können – ideal für KI-Audit-Trails.
Auswirkungsbewertung
Eine strukturierte Bewertung zur Identifizierung, Analyse und Minderung potenzieller ethischer, rechtlicher und gesellschaftlicher Auswirkungen eines KI-Systems vor dessen Einsatz.
Durchführungsrechtsakte
Sekundärrecht der Europäischen Union, das von der Europäischen Kommission erlassen wird, um einheitliche Bedingungen für die Umsetzung von Primärrecht festzulegen, und das in allen Mitgliedstaaten rechtsverbindlich ist.
Implizite Voreingenommenheit
Unbewusste oder unbeabsichtigte Verzerrungen, die in den Trainingsdaten oder im Modellentwurf eingebettet sind und zu diskriminierenden Ergebnissen führen können.
Anreizabstimmung
Die Gestaltung von Belohnungsstrukturen und Zielen, sodass die Zielsetzungen von KI-Systemen mit menschlichen Werten und organisatorischen Prioritäten übereinstimmen.
Induktive Verzerrung
Die Menge von Annahmen, die ein Lernalgorithmus verwendet, um von beobachteten Daten auf nicht gesehene Instanzen zu verallgemeinern.
Schlussfolgerung
Der Prozess, bei dem ein trainiertes KI-Modell neue Daten eingibt, um Vorhersagen oder Entscheidungen zu treffen.
Schlussfolgerungsmaschine
Die Komponente eines KI-Systems (oft in regelbasierten oder Expertensystemen), die eine Wissensdatenbank auf Eingabedaten anwendet, um Schlussfolgerungen zu ziehen.
Informationsverwaltung
Die Richtlinien, Verfahren und Kontrollen, die die Datenqualität, den Datenschutz und die Nutzbarkeit über die Datenbestände einer Organisation hinweg gewährleisten, einschließlich der Schulungsdatensätze für künstliche Intelligenz.
Datenschutzinformationen
Das Recht von Personen, zu kontrollieren, wie ihre persönlichen Daten von KI-Systemen gesammelt, verwendet, gespeichert und geteilt werden.
Infrastruktur als Code (IaC)
Verwalten und Bereitstellen von KI-Infrastruktur (Rechenleistung, Speicher, Netzwerk) durch maschinenlesbare Konfigurationsdateien, wodurch Wiederholbarkeit und Prüfungsfähigkeit verbessert werden.
Vererbtes Datenrisiko
Das regulatorische und ethische Haftungsrisiko, das ein Unternehmen eingeht, wenn es ein KI-System einsetzt, das mit Daten trainiert wurde, die das Unternehmen nicht selbst erhoben oder überprüft hat.
Erfassungsworkflow
Der standardisierte Prozess und die Reihe von Prüfungen, die ein neues KI-System durchlaufen muss, bevor es entwickelt oder beschafft wird.
Absichtsvalidierung
Der Prozess der Verifizierung, dass die geplanten Teilschritte eines KI-Agenten konsistent mit dem ursprünglich vom Menschen vorgegebenen Ziel übereinstimmen.
Interoperabilität
Die Fähigkeit verschiedener KI-Systeme und -Komponenten, Informationen nahtlos auszutauschen, zu verstehen und zu nutzen, häufig über offene Standards oder APIs.
Interpretierbarkeit
Das Maß, in dem ein Mensch die inneren Mechanismen oder Entscheidungsgründe eines KI-Modells verstehen kann.
Einbruchserkennung
Überwachung der KI-Infrastruktur und -Anwendungen auf bösartige Aktivitäten oder Verstöße gegen Richtlinien, Auslösung von Warnungen oder automatisierten Reaktionen.
ISO/IEC 42001
Der internationale Standard, der Anforderungen für die Einführung, Implementierung, Aufrechterhaltung und kontinuierliche Verbesserung eines Managementsystems für Künstliche Intelligenz (AIMS) definiert.
ISO/IEC 42005
Der internationale Standard, der Richtlinien für die Durchführung von Folgenabschätzungen für KI-Systeme bereitstellt.
ISO/IEC JTC 1/SC 42
Der gemeinsame ISO/IEC-Ausschuss für die Standardisierung Künstlicher Intelligenz entwickelt internationale KI-Standards für Governance, Risiko und Interoperabilität.
J
Jacobian-Matrix
In der Erklärbarkeit von KI ist die Matrix aller partiellen Ableitungen erster Ordnung der Ausgaben eines Modells in Bezug auf seine Eingaben, die zur Bewertung der Empfindlichkeit und der Merkmalsbedeutung verwendet wird.
Jailbreak-Angriff
Eine Art von Prompt-Injection, bei der Benutzer Schwachstellen ausnutzen, um Schutzmaßnahmen in generativen KI-Modellen zu umgehen, was möglicherweise zu unsicheren oder unautorisierten Ausgaben führen kann.
Japanisches Gesetz zur Förderung von KI
Ein japanisches Gesetz (beschlossen im Jahr 2025), das grundlegende Prinzipien zur Förderung von KI und zur Risikominderung festlegt.
Gemeinsame Haftung
Rechtsprinzip, bei dem mehrere Parteien (z. B. Entwickler, Betreiber) die Verantwortung für KI-bedingte Schäden teilen, was Einfluss auf Vertrags- und Governance-Strukturen hat.
Gemeinsame Modellierung
Entwicklung von KI-Systemen, die mehrere Aufgaben gleichzeitig lernen (z. B. Spracherkennung + Übersetzung), wobei eine Governance für Komplexität und Überprüfbarkeit erforderlich ist.
Urteilsverzerrung
Systematische Fehler in menschlichen oder KI-Entscheidungsprozessen, die durch kognitive Abkürzungen oder fehlerhafte Daten verursacht werden, erfordern eine Überprüfung und Minderung von Verzerrungen.
Gerichtliche Überprüfung
Der rechtliche Prozess, bei dem Gerichte die Gesetzmäßigkeit von Entscheidungen prüfen, die von KI getroffen oder unterstützt werden, um Verantwortlichkeit und ordnungsgemäßen Ablauf sicherzustellen.
Rechtsraum
Die rechtliche Zuständigkeit über Daten, KI-Operationen und Haftung, die je nach geografischer Lage variiert und die Einhaltung regionaler Vorschriften beeinflusst (z. B. DSGVO, CCPA).
Juror Automatisierung
Der Einsatz von KI zur Unterstützung bei der Jury-Auswahl oder der Fallanalyse wirft ethische Bedenken hinsichtlich Fairness, Transparenz und rechtlicher Aufsicht auf.
Gerechtigkeitsmetriken
Quantitative Messgrößen (z. B. unterschiedliche Auswirkungen, Chancengleichheit), die zur Bewertung von Fairness und Nichtdiskriminierung bei KI-Entscheidungsprozessen verwendet werden.
K
Schlüsselindikator für die Leistung
Ein quantifizierbarer Messwert (z. B. Modellgenauigkeitsdrift, Zeit zur Beseitigung von Vorurteilen), der zur Überwachung und Berichterstattung über Ziele der KI-Governance und Compliance verwendet wird.
Schlüsselrisikoindikator
Ein führender Messwert (z.B. Häufigkeit von unzutreffenden Vorhersagen, Rate unerklärlicher Entscheidungen), der auf aufkommende KI-Risiken hinweist, bevor sie sich manifestieren.
Kennen Sie Ihren Kunden (KYC)
Compliance-Prozesse zur Überprüfung der Identität, des Risikoprofils und der Legitimität von Personen oder Unternehmen, die mit KI-Systemen interagieren, insbesondere in regulierten Branchen.
Wissensverdichtung
Eine Methode zur Übertragung von Erkenntnissen von einem größeren „Lehrer“-Modell auf ein kleineres „Schüler“-Modell, um Leistung mit Ressourcen- und Governance-Einschränkungen in Einklang zu bringen.
Wissensgraph
Eine strukturierte Darstellung von Entitäten und deren Beziehungen, die dazu verwendet wird, die Erklärbarkeit, Prüfbarkeit und Anpassung von KI an Domänenontologien zu verbessern.
Wissensmanagement
Praktiken und Werkzeuge zur Erfassung, Organisation und Weitergabe von Organisationswissen (z. B. Modeldokumentation, Prüfungsprotokolle), um Reproduzierbarkeit und Aufsicht sicherzustellen.
L
Etikettenleckage
Die unbeabsichtigte Aufnahme von Ausgabedaten in die Trainingsdatenetiketten, die Leistungskennzahlen beeinflussen und tatsächliche Generalisierungsprobleme des Modells verschleiern können.
Großes Sprachmodell
Ein Deep-Learning-Modell, das auf umfangreichen Textkorpora trainiert wurde und Aufgaben wie Textgenerierung, Übersetzung und Zusammenfassung ausführen kann, wobei oft eine sorgfältige Steuerung von Vorurteilen und Missbrauch erforderlich ist.
Minimale Agenturabhängigkeit
Ein Sicherheits- und Governance-Prinzip, das besagt, dass KI-Agenten nur das minimale Maß an Autonomie und Werkzeugzugriff gewährt werden sollte, das zur Erfüllung einer bestimmten Aufgabe erforderlich ist.
Prinzip der minimalen Rechte
Ein Sicherheitsprinzip, bei dem KI-Komponenten und Benutzer nur die minimal erforderlichen Zugriffsrechte erhalten, die notwendig sind, um ihre Funktionen auszuführen, wodurch das Risiko eines Missbrauchs verringert wird.
Rechtliche Konformität
Die Praxis, sicherzustellen, dass KI-Systeme während ihres gesamten Lebenszyklus den geltenden Gesetzen, Vorschriften und Industriestandards entsprechen.
Haftungsrahmen
Ein strukturierter Ansatz zur Bestimmung der Verantwortlichkeiten bei KI-bezogenen Schäden oder Ausfällen, einschließlich Entwicklern, Implementierern und Betreibern.
Lebenszyklusmanagement
Die koordinierten Prozesse für Entwicklung, Bereitstellung, Überwachung, Wartung und Außerdienststellung von KI-Systemen, um kontinuierliche Compliance und Risikokontrolle sicherzustellen.
Lebendigkeitserkennung
Techniken, die verwendet werden, um zu überprüfen, dass eine Eingabe (z. B. biometrische Daten) von einem lebenden Subjekt stammt und nicht von einem Spoof oder Replay, wodurch die Systemsicherheit und Integrität verbessert wird.
Lokalisierung
Anpassung von KI-Systemen an lokale Sprachen, Vorschriften, kulturelle Normen und Anforderungen an die Datenresidenz in verschiedenen Gerichtsbarkeiten.
Protokollverwaltung
Die Sammlung, Speicherung und Analyse von System- und Anwendungsprotokollen aus AI-Workflows zur Unterstützung von Audits, Reaktionsmaßnahmen auf Vorfälle und der Nachverfolgung von Modellleistung.
Verlustfunktion
Eine mathematische Funktion, die den Unterschied zwischen vorhergesagten Ausgaben und tatsächlichen Werten quantifiziert und die Modellschulung und -optimierung steuert.
M
Marktüberwachungsbehörde
Die nationale Regulierungsbehörde in jedem EU-Mitgliedstaat, die für die Überwachung von KI-Systemen zuständig ist, um deren Einhaltung des EU-KI-Gesetzes (EU AI Act) sicherzustellen.
MAS-FEAT-Prinzipien
Die Richtlinien der Monetary Authority of Singapore für Fairness, Ethik, Rechenschaftspflicht und Transparenz (FEAT) beim Einsatz von KI im Finanzwesen.
Bedeutungsvolle Menschliche Kontrolle
Ein regulatorischer und betrieblicher Standard, der sicherstellt, dass Menschen die Fähigkeit behalten, AI-Entscheidungsprozesse zu überwachen, einzugreifen und zu übersteuern.
Metadatenverwaltung
Die Praxis der Erfassung und Pflege beschreibender Daten (z. B. Datenherkunft, Merkmaldefinitionen, Modellparameter), um Rückverfolgbarkeit und Audits zu unterstützen.
Kennzahlen & Leistungsindikatoren
Quantitative Maße (z.B. Abweichung der Genauigkeit, Fairness-Scores, Reaktionszeiten bei Vorfällen), die zur Überwachung der Systemgesundheit, Risiken und Compliance-Ziele von KI-Systemen verwendet werden.
Mexikanisches Bundesgesetz über KI und Algorithmen
Ein Entwurf für ein mexikanisches Bundesgesetz zu KI und Algorithmen, das ein risikobasiertes Klassifizierungssystem, die Nationale KI-Kommission (CONAIA) sowie Anforderungen an die Kennzeichnung von KI-generierten Inhalten mittels Wasserzeichen vorschlägt.
Minderungsstrategien
Geplante Maßnahmen (z. B. Beseitigung von Voreingenommenheit, erneutes Training, Feature-Re-Engineering) zur Behebung identifizierter KI-Risiken und Compliance-Lücken.
Minnesota CDPA (Bestimmungen zur künstlichen Intelligenz)
Die KI-spezifischen Komponenten des Minnesota Consumer Data Privacy Act.
Modellkarte
Ein kurzes, standardisiertes Dokument mit wesentlichen Informationen über die Leistung, Einschränkungen und beabsichtigten Anwendungsfälle eines Machine-Learning-Modells.
Modell-Herausgabe
Eine aufsichtsrechtliche Maßnahme, die ein Unternehmen dazu verpflichtet, KI-Modelle oder -Algorithmen zu löschen, welche unter Verwendung unzulässig oder rechtswidrig erlangter Daten entwickelt wurden.
Modellabweichung
Der fortschreitende Qualitätsverlust der Vorhersageleistung eines KI-Modells im Laufe der Zeit, verursacht durch Veränderungen von realen Daten oder Umweltbedingungen.
Modellerklärbarkeit
Techniken und Dokumentation, die die Entscheidungslogik eines KI-Modells verständlich für Stakeholder und Prüfer machen.
Modellführung
Die Richtlinien, Rollen und Kontrollen, die sicherstellen, dass KI-Modelle in Übereinstimmung mit den organisatorischen Standards und regulatorischen Anforderungen entwickelt, genehmigt und verwendet werden.
Modellüberwachung
Kontinuierliches Überwachen der Leistung eines KI-Modells, der Datenverschiebung und der Betriebskennzahlen zur Erkennung von Verschlechterungen oder aufkommenden Risiken.
Modell-Neutraining
Der Prozess der Aktualisierung eines KI-Modells mit neuen oder aktualisierten Daten, um die Leistung und die Einhaltung der Vorschriften aufrechtzuerhalten, während sich die Datenverteilung weiterentwickelt.
Modellrisikomanagement
Der strukturierte Prozess zur Identifizierung, Bewertung und Minderung von Risiken, die sich aus KI/ML-Modellen während ihres gesamten Lebenszyklus ergeben.
Modellvalidierung
Die Evaluierungstätigkeiten (z. B. Tests mit zurückgestellten Daten, Stressszenarien), die bestätigen, dass ein KI-Modell seinen vorgesehenen Zweck und die Leistungskriterien erfüllt.
Engagement von mehreren Interessengruppen
Einbeziehung verschiedener Gruppen (z. B. Recht, Ethik, Betrieb, Endbenutzer) in die Prozesse der KI-Governance, um eine ausgewogene Risikokontrolle und die Ausrichtung auf Unternehmensziele sicherzustellen.
N
Verarbeitung natürlicher Sprache (NLP)
Techniken und Werkzeuge, die Maschinen ermöglichen, menschliche Sprache in Text- oder Sprachform zu interpretieren, zu generieren und zu analysieren.
Netzwerksicherheit
Maßnahmen und Kontrollen (z. B. Segmentierung, Firewalls, Eindringungserkennung), um die KI-Infrastruktur und Datenpipelines vor unbefugtem Zugriff oder Manipulation zu schützen.
Neuronale Architektur-Suche
Automatisierte Methoden zur Gestaltung und Optimierung von neuronalen Netzwerkstrukturen, um die Modellleistung zu verbessern, während die Komplexität und Ressourcenbeschränkungen ausgewogen werden.
NIST KI-Risikomanagement-Rahmenwerk
Eine freiwillige Anleitung des US-amerikanischen National Institute of Standards and Technology, die bewährte Verfahren zur Risikominderung über den gesamten Lebenszyklus von KI-Systemen darlegt.
NIST AI RMF-Profile
Kontextspezifische Implementierungen des NIST AI Risk Management Frameworks, die speziell auf bestimmte Branchen, Technologien oder Risikoarten zugeschnitten sind.
Rauschinjektion
Gezielte Einführung zufälliger Störungen in Trainingsdaten oder Modellparameter, um die Robustheit zu erhöhen und gegen manipulative Angriffe zu schützen.
Nicht-menschliche Identität (NHI)
Digitale Anmeldedaten, die von einem KI-Agenten, Bot oder Dienst verwendet werden, um sich gegenüber Unternehmenssystemen zu authentifizieren und mit diesen zu interagieren.
Benannte Stelle
Eine unabhängige Drittorganisation, die von einem EU-Mitgliedstaat benannt wird, um die Konformität bestimmter KI-Systeme mit hohem Risiko gemäß dem EU-KI-Gesetz zu bewerten.
Neuartigkeitserkennung
Techniken zur Identifizierung von Eingaben oder Szenarien, die erheblich von den Trainingsdaten abweichen und eine Überprüfung oder einen Sicherheitsmodus auslösen, um unerwartete Ausfälle zu verhindern.
NYC Local Law 144
Ein Gesetz der Stadt New York, das jährliche Audits zur Überprüfung von Voreingenommenheit bei KI-Tools vorschreibt, die für Personalentscheidungen eingesetzt werden.
O
Beobachtbarkeit
Die Fähigkeit, den internen Zustand und das Verhalten eines KI-Systems durch die Sammlung und Analyse von Protokollen, Metriken und Ausgaben für effektive Überwachung und Fehlerbehebung abzuleiten.
OMB-Memorandum M-25-21
Eine bundesweit geltende Richtlinie, die Anforderungen an die Governance und das Risikomanagement von KI für Behörden der US-Regierung festlegt.
Fortlaufende Überwachung
Kontinuierliches Tracking der Leistung von KI-Systemen, Datenverschiebungen, Verzerrungsmessungen und Sicherheitsereignissen, um auftretende Risiken im Laufe der Zeit zu erkennen und zu adressieren.
Deckkraft
Das Fehlen von Transparenz bei der Art und Weise, wie ein KI-Modell Entscheidungen oder Vorhersagen trifft, stellt Herausforderungen für das Vertrauen und die Einhaltung von Vorschriften dar.
Operative Autonomie
Die Fähigkeit eines KI-Systems, mehrstufige Aufgaben auszuführen und Entscheidungen zu treffen, ohne dass in jeder Phase ein menschliches Eingreifen erforderlich ist.
Betriebliche Resilienz
Die Fähigkeit von KI-Systemen und deren unterstützender Infrastruktur, Störungen oder widrigen Ereignissen vorherzusehen, ihnen standzuhalten, sich davon zu erholen und sich anzupassen.
Orchestrierung
Die automatisierte Orchestrierung von KI-Workflows und -Services – von der Datenaufnahme über das Modelltraining bis hin zur Bereitstellung – gewährleistet die Einhaltung von Richtlinien sowie eine effektive Ressourcen-Governance.
Ausreißererkennung
Techniken zur Identifizierung von Datenpunkten oder Modellvorhersagen, die erheblich von den erwarteten Mustern abweichen und Überprüfungs- oder Abhilfemaßnahmen auslösen.
Risiko der Ausgabe
Die operationellen, rechtlichen und reputationsbezogenen Risiken, die sich aus der Verwendung fehlerhafter, voreingenommener oder schädlicher Inhalte ergeben, die von einem KI-System generiert wurden.
Überanpassung
Ein Modellierungsproblem, bei dem ein KI-System Rauschen oder Eigenheiten in den Trainingsdaten erlernt und dadurch seine Fähigkeit zur Verallgemeinerung auf neue, unsichtbare Daten verringert.
Überblick
Der strukturierte Prozess der Überprüfung, Genehmigung und Verantwortlichkeit für die Entwicklung und Bereitstellung von KI, der typischerweise funktionsübergreifende Governance-Instanzen umfasst.
OWASP Agentic Top 10
Eine formale Taxonomie der zehn kritischsten Sicherheitsrisiken, die spezifisch für autonome KI-Agenten und deren Anwendungsumgebungen sind.
Eigentum
Die klare Zuweisung von Verantwortung und Befugnissen für KI-Assets – Daten, Modelle, Prozesse – zur Sicherstellung der Rechenschaftspflicht über den gesamten Systemlebenszyklus hinweg.
P
Parametrisches Wissen
Die Informationen, die ein KI-Modell während seines Trainingsprozesses lernt und in seinen Gewichtungen und Parametern speichert.
Governance für den standardisierten Entwicklungspfad
Eine Strategie, die Compliance fördert, indem autorisierte, sichere Workflows einfacher zu befolgen sind als nicht autorisierte Alternativen.
Berechtigungsverwaltung
Die Verwaltung von Benutzer- und Systemzugriffsrechten auf KI-Daten und -Funktionen, um sicherzustellen, dass nur die minimalen erforderlichen Rechte vergeben werden und unbefugte Nutzung verhindert wird.
Pilotversuche
Ein begrenzter Versuch eines KI-Systems in einer kontrollierten Umgebung, um Leistung, Risiken und Governance-Kontrollen vor der vollständigen Einführung zu bewerten.
Richtlinienumsetzung
Die automatisierten oder manuellen Mechanismen, die sicherstellen, dass KI-Operationen den organisatorischen Richtlinien, regulatorischen Vorschriften und ethischen Leitlinien entsprechen.
Überwachungen nach der Bereitstellung
Fortlaufende Beobachtung des Verhaltens und der Umgebung von KI-Systemen nach deren Freigabe, um Abbau, Abweichungen oder Verstöße gegen die Compliance zu erkennen.
PRA SS1/23 (Management von Modellrisiken)
Die Erklärung der britischen Prudential Regulation Authority zum Modellrisikomanagement für Banken und Versicherer.
Vorausschauende Wartung
KI-gesteuerte Überwachung und Analyse zur Vorhersage von Komponenten- oder Systemausfällen, um die Betriebskontinuität zu gewährleisten und Risiken in kritischen Umgebungen zu mindern.
Konformitätsvermutung
Ein rechtlicher Mechanismus im Rahmen des EU-KI-Gesetzes und anderer Regelungen, bei dem die Einhaltung eines harmonisierten Standards (z. B. eines veröffentlichten EN-Standards) die widerlegbare Annahme begründet, dass die zugrunde liegende Verordnung erfüllt ist.
Datenschutz durch Design
Ein Ansatz, der Datenschutz und die Privatsphäre der Nutzer von Anfang an in die Architektur und die Prozesse des KI-Systems einbindet.
Datenschutz-Folgenabschätzung
Eine strukturierte Analyse zur Identifizierung und Minderung von Datenschutzrisiken im Zusammenhang mit KI-Systemen, die Datenerfassung, -nutzung, -weitergabe und -speicherung abdeckt.
Probabilistisches System
Ein System, dessen Ergebnisse auf statistischen Wahrscheinlichkeiten basieren und nicht auf einer deterministischen, festen Logik.
Prozessautomatisierung
Der Einsatz von KI und Workflow-Tools zur Straffung von Governance, Compliance-Prüfungen und Risikominderungsaktivitäten, wodurch manueller Aufwand und Fehler verringert werden.
F
Qualitative Bewertung
Die subjektive Überprüfung von Verhaltensweisen, Entscheidungen und Dokumentationen von KI-Systemen durch Experten, um ethische, rechtliche oder rufschädigende Bedenken zu identifizieren, die quantitativ nicht erfasst werden.
Qualitätssicherung
Die systematischen Prozesse und Überprüfungen zur Sicherstellung, dass KI-Modelle und Datenpipelines definierte Standards für Genauigkeit, Zuverlässigkeit und ethische Konformität erfüllen.
Qualitätskontrolle
Die fortlaufende Überprüfung von AI-Ergebnissen und -Prozessen anhand von Benchmarks und Testfällen, um Mängel, Vorfälle von Voreingenommenheit oder Verstöße gegen Richtlinien aufzudecken.
Quantitative Risikoanalyse
Eine datenbasierte Bewertung potenzieller Bedrohungen durch KI, die Wahrscheinlichkeiten und Auswirkungen numerisch abschätzt, um Priorisierungsmaßnahmen zu ermöglichen und Risikokontrollstrategien zu optimieren.
Quantencomputing
Das aufstrebende Rechenparadigma, das die Quantenmechanik nutzt und neue Herausforderungen in Bezug auf Sicherheit, Standardisierung und Risiko aufwirft.
Abfrageprotokollierung
Die Praxis der Aufzeichnung von KI-Systemeingaben und Benutzeranfragen, um Prüfpfade zu ermöglichen, Missbrauch zu erkennen und Verantwortlichkeit zu unterstützen.
Datenschutz bei Abfragen
Techniken und Richtlinien zum Schutz sensibler Informationen in Benutzeranfragen, um sicherzustellen, dass aufgezeichnete Eingaben keine persönlichen oder proprietären Daten gefährden.
Fragebogenrahmen
Ein strukturierter Satz von governance-orientierten Fragen, der während der Gestaltung, Beschaffung oder Implementierung verwendet wird, um sicherzustellen, dass KI-Systeme mit den Anforderungen der Richtlinien übereinstimmen.
Beschlussfähigkeit des Governance Boards
Die Mindestanzahl der erforderlichen Mitglieder des Governance-Ausschusses, die anwesend sein müssen, um offizielle Entscheidungen über KI-Risiken, Genehmigungen von Richtlinien oder Prüfergebnisse zu treffen.
Kontingentverwaltung
Die Steuerungen und Begrenzungen der Nutzung von KI-Ressourcen (z. B. API-Aufrufe, Rechenzeit), um Governance-Richtlinien durchzusetzen und unkontrollierte Kosten oder Missbrauch zu verhindern.
R
Argumentationskette
Der mehrstufige logische Prozess, dem ein KI-Agent folgt, um von einer ursprünglichen Zielsetzung zu einer finalen Aktion oder Ausgabe zu gelangen.
Rückgriff
Mechanismen, die betroffenen Personen ermöglichen, KI-gesteuerte Entscheidungen, die ihre Rechte oder Interessen betreffen, anzufechten oder eine Abhilfe zu suchen.
Rotes Teaming
Ein proaktiver Testansatz, bei dem interne oder externe Experten Angriffe oder Missbrauchsszenarien simulieren, um Schwachstellen in KI-Systemen aufzudecken.
Regulatorische Konformität
Sicherstellung, dass KI-Systeme während ihres gesamten Betriebs die geltenden Gesetze, Vorschriften und Industriestandards (z. B. DSGVO, FDA, finanzielle Aufsicht) einhalten.
Reproduzierbarkeit
Die Fähigkeit, die Ergebnisse von KI-Modellen unter Verwendung derselben Daten, Codes und Konfigurationen konstant zu reproduzieren, wodurch Transparenz und Prüfbarkeit sichergestellt werden.
Verantwortlichkeitszuordnungsmatrix
Ein Instrument (z. B. RACI), das Rollen und Zuständigkeiten für jede Governance-Aktivität klar definiert – also festlegt, wer verantwortlich, gesamtverantwortlich, zu konsultieren und zu informieren ist.
Verantwortungsvolle KI
Die Praxis des Entwerfens, Entwickelns und Bereitstellens von KI-Systemen auf eine Weise, die ethisch, transparent und rechenschaftspflichtig gegenüber den Interessengruppen und der Gesellschaft ist.
Risikobewertung
Der Prozess der Identifizierung, Analyse und Priorisierung potenzieller Schäden oder Ausfälle in KI-Systemen, um geeignete Minderungsstrategien zu bestimmen.
Risikomanagement-Rahmenwerk
Eine strukturierte Reihe von Richtlinien und Prozessen zur systematischen Bewältigung von KI-Risiken über den gesamten Lebenszyklus des Systems, von der Gestaltung bis zur Außerbetriebnahme.
Robustheit
Die Fähigkeit eines KI-Systems, unter einer Vielzahl von herausfordernden oder gegnerischen Bedingungen eine zuverlässige Leistung zu erbringen.
Ursachenanalyse
Eine strukturierte Untersuchung, um die zugrunde liegenden Gründe für das Versagen von KI-Systemen oder unerwartetem Verhalten zu bestimmen und korrigierende Maßnahmen zu leiten.
S
Genehmigte Nutzungsrichtlinie
Definierte Regeln und Kontrollen, die zugelassene Kontexte, Benutzer und Zwecke für den Betrieb von KI-Systemen spezifizieren, um Missbrauch zu verhindern.
Sicherheit durch Design
Die Integration von Sicherheitskontrollen und bewährten Praktiken in KI-Systeme von den frühesten Designphasen an, um Schwachstellen und Datenverletzungen zu verhindern.
Schattenakteur_innen
Nicht autorisierte, autonome KI-Agenten, die ohne das Wissen des Governance-Teams innerhalb einer Organisation bereitgestellt werden und in der Lage sind, Aktionen auszuführen, die sich auf Geschäftssysteme und externe Parteien auswirken.
Schatten-KI
Die unautorisierte Verwendung von KI-Modellen, -Agenten oder -Werkzeugen durch Mitarbeiter ohne Genehmigung der IT-Abteilung schafft verdeckte Sicherheitslücken durch Datenleckagen und unbefugte autonome Aktionen.
Modell-Rahmenwerk für KI-Governance in Singapur
Ein freiwilliger Leitfaden der singapurischen Behörden IMDA und PDPC für die verantwortungsvolle Implementierung künstlicher Intelligenz.
KI-Basisgesetz für Südkorea
Südkoreas umfassender rechtlicher Rahmen für die Entwicklung und das Vertrauen in KI.
Bewertung der gesellschaftlichen Auswirkungen
Eine strukturierte Bewertung, wie ein KI-System die sozialen, wirtschaftlichen und kulturellen Aspekte von Gemeinschaften beeinflusst, wobei mögliche Schäden und Vorteile identifiziert werden.
Software-Entwicklungslebenszyklus
Der End-to-End-Prozess (Anforderungen, Design, Erstellung, Test, Bereitstellung, Überwachung) für KI-Anwendungen, der in jeder Phase Governance- und Compliance-Prüfungen integriert.
SR 11-7 (Modellrisikomanagement)
Die grundlegenden Leitlinien der US-Notenbank Federal Reserve für das Risikomanagement im Zusammenhang mit dem Einsatz von Modellen im Bankenwesen.
Stakeholder-Engagement
Der Prozess der Einbeziehung betroffener Parteien (z.B. Benutzer, Regulierungsbehörden, betroffene Gemeinschaften) in die Entwicklung und Überwachung von KI, um vielfältige Perspektiven und Unterstützung sicherzustellen.
Erklärung zur Anwendbarkeit (Statement of Applicability, SoA)
Ein Dokument, das bestimmt, welche Kontrollen aus dem ISO 42001 Anhang A für das KI-Managementsystem einer Organisation relevant sind, und erläutert, warum andere ausgeschlossen wurden.
Wesentliche Änderung
Eine Änderung an einem KI-System nach dessen Inverkehrbringen, die sich auf seine Konformität oder seinen bestimmungsgemäßen Zweck gemäß dem KI-Gesetz der EU auswirkt.
Überwachungsrisiko
Die Bedrohung, dass KI-Systeme für invasive Überwachung von Einzelpersonen oder Gruppen ausgenutzt werden könnten, wobei die Privatsphäre und bürgerliche Freiheiten verletzt werden.
Synthetische Daten
Künstlich generierte Datensätze, die reale Datenverteilungen nachahmen und zur Erweiterung von Trainingssätzen verwendet werden, während der Datenschutz gewahrt bleibt.
System der Aufzeichnung
Die maßgebliche Datenquelle für ein bestimmtes Datenelement oder eine Information innerhalb einer Organisation.
Schwellenwert für systemisches Risiko
Der technische oder fähigkeitsbasierte Grenzwert (z. B. 10^25 FLOPs), ab dem ein Allzweck-KI-Modell als mit einem hohen Risiko für die Gesellschaft verbunden eingestuft wird.
T
Extremes Risiko
Das Potenzial für seltene, extreme Ergebnisse im Verhalten oder in der Entscheidungsfindung von KI, die außerhalb normaler Erwartungen liegen und spezielle Maßnahmenplanung erfordern.
Testen & Validierung
Der systematische Prozess der Bewertung von KI-Modellen anhand von Benchmark-Tests, speziellen Randfällen und Belastungsbedingungen, um sicherzustellen, dass sie Leistungs-, Sicherheits- und Compliance-Kriterien erfüllen.
Risiko durch Dritte
Das Risiko, das sich aus der Abhängigkeit von externen Datenanbietern, Modelllieferanten oder Dienstleistungsplattformen ergibt, die möglicherweise Compliance- oder Sicherheitsanfälligkeiten einführen.
Schwellenwert Einstellung
Festlegung von Grenzen oder Grenzwerten in KI-Entscheidungsregeln (z. B. Vertrauenswerte), um Risiken wie falsch-positive gegenüber falsch-negativen Ergebnissen auszubalancieren.
Rückverfolgbarkeit
Die Fähigkeit, jeden Schritt im KI-Lebenszyklus – von der Datenerfassung über die Modellentwicklung bis hin zur Bereitstellung – nachzuverfolgen und zu dokumentieren, um Audits und forensische Analysen zu unterstützen.
Schulungsdatensatz
Die kuratierte Sammlung von gelabelten oder ungelabelten Daten, die verwendet wird, um einem KI-Modell die Beziehungen und Muster beizubringen, die es lernen muss, um seine Aufgabe auszuführen.
Transfer-Lernen
Eine Technik, bei der ein für eine Aufgabe entwickeltes Modell für eine verwandte Aufgabe angepasst wird. Dies verkürzt die Entwicklungszeit, erfordert jedoch eine Steuerung der übernommenen Vorurteile.
Transparenz
Die Praxis, Prozesse von KI-Systemen, Entscheidungslogik und Datennutzung für Transparenz und Verständlichkeit gegenüber Stakeholdern klar darzustellen.
Trilog
Die informelle dreiseitige Verhandlung zwischen der Europäischen Kommission, dem Rat der Europäischen Union und dem Europäischen Parlament, die zur Erzielung einer politischen Einigung über EU-Rechtsvorschriften vor deren formeller Annahme dient.
Verlässliche KI
KI-Systeme, die in einer Weise entworfen und betrieben werden, die ethisch, zuverlässig, sicher und im Einklang mit menschlichen Werten und gesellschaftlichen Normen steht.
Sie
Aktionsplan für KI-Chancen im Vereinigten Königreich
Der strategische Fahrplan der britischen Regierung zur Maximierung der Vorteile von KI bei gleichzeitiger Etablierung gezielter, verbindlicher Sicherheitsregeln.
Unteranpassung
Ein Modellierungsproblem, bei dem ein KI-System zu einfach ist, um zugrunde liegende Datenmuster zu erfassen, was zu einer schlechten Leistung sowohl bei Trainingsdaten als auch bei neuen Daten führt.
Einheitlichkeit
Sicherstellung einer konsistenten Anwendung von Richtlinien, Kontrollen und Standards über alle KI-Systeme hinweg, um Governance-Lücken oder ungleiche Risikomanagementpraktiken zu vermeiden.
Unüberwachtes Lernen
Ein maschineller Lernansatz, bei dem Modelle Muster oder Gruppierungen in nicht gekennzeichneten Daten erkennen, ohne explizite Ergebnisanweisungen.
Verfügbarkeitsüberwachung
Kontinuierliche Überwachung der Verfügbarkeit und Leistung von KI-Systemen, um Ausfälle oder Leistungseinbußen zu erkennen, die kritische Abläufe oder Compliance-Verpflichtungen beeinträchtigen könnten.
Anwendungsfall-Governance
Die Praxis der Definition, Genehmigung und Überwachung spezifischer KI-Anwendungsfälle, um sicherzustellen, dass jeder mit den organisatorischen Richtlinien, ethischen Standards und der Risikobereitschaft übereinstimmt.
Benutzerzustimmung
Der Prozess des Einholens und Aufzeichnens ausdrücklicher Zustimmung von Einzelpersonen, bevor ihre persönlichen Daten in KI-Systemen gesammelt, verarbeitet oder verwendet werden.
Dienstprogramm
Ein Maß dafür, wie wertvoll oder effektiv ein KI-System bei der Erreichung seiner vorgesehenen Ziele ist, im Verhältnis zu den damit verbundenen Risiken oder Ressourcenaufwendungen.
V
Validierung
Der Prozess der Bestätigung, dass ein KI-Modell genaue und zuverlässige Leistungen bei den vorgesehenen Aufgaben erbringt und definierte Leistungskriterien erfüllt.
Varianzüberwachung
Verfolgung von Schwankungen in den Ausgaben von KI-Modellen oder Leistungskennzahlen im Laufe der Zeit, um Drift zu erkennen und potenziellen Abbau oder Risiken zu ermitteln.
Lieferantenrisikomanagement
Bewertung und Überwachung von Drittanbietern von KI-Komponenten oder -Dienstleistungen zur Identifizierung und Minderung potenzieller Compliance-, Sicherheits- oder ethischer Risiken.
Versionskontrolle
Die Praxis, Änderungen an KI-Code, Modellen und Datensätzen im Laufe der Zeit zu verwalten und nachzuverfolgen, um Reproduzierbarkeit und Prüfbarkeit sicherzustellen.
Versions-Pinning
Die Vorgehensweise, ein KI-System auf eine bestimmte, getestete Version eines Basismodells festzulegen, um zu verhindern, dass unangekündigte Updates das Systemverhalten verändern.
Vetorecht
Das formale Recht, das von einem Governance-Gremium oder einem Stakeholder ausgeübt wird, um AI-Implementierungen, die unannehmbare Risiken darstellen, zu blockieren oder Änderungen zu verlangen.
Überwachungsinstrument
Kontinuierliche Überwachung des Verhaltens von KI und externer Signale (z.B. regulatorische Aktualisierungen), um aufkommende Risiken oder Nicht-Einhaltungen frühzeitig zu erkennen und darauf zu reagieren.
Visuelle KI-Überwachung
Die Governance-Prozesse, die speziell für Computer-Vision-Systeme entwickelt wurden, gewährleisten die Datenqualität, führen Bias-Prüfungen durch und sorgen für Transparenz bei auf Bild/Video basierenden Entscheidungsprozessen.
Schwachstellenbewertung
Identifizierung, Analyse und Priorisierung von Sicherheitsschwächen in AI-Infrastrukturen und -Anwendungen zur Steuerung von Behebungsmaßnahmen.
W
Watchdog-Überwachung
Unabhängige Laufzeitprüfungen, die KI-Entscheidungen überwachen und Warnungen oder Eingriffe auslösen, wenn Richtlinien oder Schwellenwerte überschritten werden.
Wasserzeichenerstellung
Die Praxis, erkennbare, maschinenlesbare Herkunftsmarkierungen in KI-generierten Inhalten wie Bildern, Audio, Video und synthetischem Text einzubetten, damit nachgelagerte Konsumenten und Plattformen diese Inhalte als KI-generiert identifizieren können.
Gewichtskontrolle
Untersuchung von Modellgewichten und -strukturen auf Anomalien, Hintertüren oder Vorurteile, die auf Manipulationen oder unbeabsichtigte Verhaltensweisen hindeuten könnten.
White-Box-Tests
Bewertung von KI-Systemen mit umfassendem Wissen über interne Abläufe (Code, Parameter, Architektur), um Korrektheit, Sicherheit und Compliance zu überprüfen.
Richtlinie zur Zulassungsliste/Sperrliste
Governance-Regel, die erlaubte (Whitelist) und nicht erlaubte (Blacklist) Eingaben, Funktionen oder Vorgänge definiert, um die Einhaltung der Vorschriften zu gewährleisten und Missbrauch zu verhindern.
Positivliste
Nur vorab genehmigte Datenquellen, Bibliotheken oder Modellkomponenten in KI-Pipelines zuzulassen, um das Risiko durch nicht überprüfte oder bösartige Elemente zu reduzieren.
Arbeitsablauf-Orchestrierung
Automatisierung und Sequenzierung von KI-Lebenszyklusaufgaben (Datenaufnahme, Training, Validierung, Bereitstellung), um Governance-Richtlinien durchzusetzen und Konsistenz sicherzustellen.
Arbeitslasttrennung
Trennung von KI-Computing-Umgebungen (z. B. Entwicklung, Test, Produktion) und Datenbereichen, um den Ausbreitungsradius von Fehlern oder Sicherheitsverletzungen zu begrenzen.
Worst-Case-Analyse
Bewertung der extremsten potenziellen Ausfälle oder Missbräuche eines KI-Systems, um solide Risikominderungs- und Notfallplanungsstrategien zu entwickeln.
Speicher für einmaliges Schreiben und mehrfaches Lesen (WORM)
Unveränderlicher Speicher gewährleistet, dass Protokolle, Prüfpfade und Modellartefakte nach dem Schreiben nicht mehr verändert werden können, was die Nichtabstreitbarkeit unterstützt und eine forensische Überprüfung ermöglicht.
X
X-Validierung
Eine Modellvalidierungstechnik (häufig als „X-Val“ abgekürzt), die Daten in Falten aufteilt, um die Generalisierung des Modells rigoros zu bewerten und Überanpassung zu erkennen.
XAI-Prüfung
Ein Überprüfungsprozess, der bewertet, ob die Ausgaben zur Erklärbarkeit von KI den internen Richtlinien und behördlichen Anforderungen entsprechen und ausreichende Transparenz gewährleisten.
XAI (Erklärbare KI)
Techniken und Methoden, die den Entscheidungsprozess eines KI-Modells für Menschen transparent und verständlich machen und somit Verantwortlichkeit und Compliance unterstützen.
XAI-Framework
Ein strukturierter Ansatz oder ein Satz von Richtlinien, den Organisationen verwenden, um die Umsetzbarkeit, Messung und Steuerung von Erklärbarkeitspraktiken in ihren KI-Systemen zu implementieren und zu verwalten.
XAI-Metriken
Quantitative oder qualitative Messgrößen (z. B. Wichtigkeitsscores von Funktionen, Erklärungsgenauigkeit), die zur Bewertung der Qualität und Zuverlässigkeit von KI-Erklärungen verwendet werden.
Ja
YARA-Regeln
Ein Satz von signaturbasierten Erkennungsmustern, die verwendet werden, um KI-Pipelines und Artefakte auf bekannte bösartige Codes oder Manipulationen zu überprüfen.
Jährliche Compliance-Überprüfung
Eine jährliche Bewertung der KI-Governance-Prozesse, -Richtlinien und -Systeme, um die fortwährende Einhaltung von Vorschriften und internen Standards sicherzustellen.
Z
Zero-Day-Schwachstelle
Eine zuvor unbekannte Sicherheitslücke in der KI-Software oder -Infrastruktur, die ausgenutzt werden kann, bevor ein Patch oder eine Abhilfe verfügbar ist.
Null-Fehlertoleranz
Ein Governance-Prinzip, das darauf abzielt, keine Fehler oder Richtlinienverstöße in den KI-Ergebnissen zuzulassen, unterstützt durch rigorose Tests, Überwachung und kontinuierliche Verbesserungszyklen.
Null-Schuss-Lernen
Eine Modellfähigkeit, Aufgaben korrekt zu bewältigen oder Daten zu klassifizieren, auf die es nie explizit trainiert wurde, indem es generalisierte Wissensdarstellungen nutzt.
Zonenbasierte Zugriffskontrolle
Ein Netzwerk- oder Daten-Governance-Ansatz, der Ressourcen in Zonen mit unterschiedlichen Richtlinien unterteilt und den Zugriff von KI-Systemen gemäß der Datenempfindlichkeit einschränkt.
Whitepaper
Alle
Vorschriften für KI
Podcasts
Produktaktualisierungen
Presseberichterstattung
Glossar
Ein
Nutzungsrichtlinie (Acceptable Use Policy)
Ein von einem Unternehmen aufgestelltes Regelwerk, das festlegt, in welcher Form Mitarbeiter die vom Unternehmen bereitgestellten KI-Tools nutzen dürfen und welche Nutzungsweisen untersagt sind.
Akkreditierte Zertifizierung
Ein Zertifikat, das von einer Zertifizierungsstelle ausgestellt wurde, die von einer nationalen Akkreditierungsstelle (wie ANAB oder UKAS) offiziell als kompetent für die Auditierung nach einer bestimmten Norm anerkannt wurde.
Genauigkeit
Der Grad, zu dem die Ausgaben eines KI-Systems korrekt reale Daten oder beabsichtigte Ergebnisse widerspiegeln.
Aktionsvorschau
Eine Governance-Anforderung, nach der ein KI-Agent genau anzeigen muss, welche Auswirkungen eine irreversible Aktion haben wird, bevor eine menschliche Freigabe erfolgt.
Aktions-Whitelisting
Eine Sicherheits- und Governance-Kontrollfunktion, die festlegt, welche Tools, APIs und Aktionen ein KI-Agent ausschließlich ausführen darf.
Gegnerischer Angriff
Techniken, die AI-Modelle durch das Einführen täuschender Eingaben manipulieren, um fehlerhafte Ergebnisse zu verursachen.
Agenten-Plattform
Ein integriertes Laufzeitsubstrat, das mehrere KI-Agenten sowie die Modelle, Tools und Daten, von denen sie abhängen, hostet, orchestriert und steuert.
Übernahme von Agentenzielen (ASI01)
Eine Schwachstelle, bei der ein Angreifer die Ziele oder Entscheidungspfade eines Agenten manipuliert, um dessen autonomes Verhalten auf unerwünschte Ergebnisse umzulenken.
Agenten-Mesh
Eine vernetzte Topologie, in der KI-Agenten über eine gemeinsame Infrastrukturschicht einander entdecken, miteinander kommunizieren und gegenseitig Aufgaben delegieren.
Agentic KI
Eine Klasse von künstlichen Intelligenzsystemen, die darauf ausgelegt ist, komplexe Ziele selbstständig zu verfolgen und mehrstufige Aktionen (wie Softwarebereitstellung oder Finanztransaktionen) mit minimalem menschlichen Eingriff auszuführen.
Agentische KI-Governance
Die Steuerung autonomer KI-Systeme, die unabhängig agieren können (z.B. Transaktionen, Code-Bereitstellung), unterscheidet sich von voraussschauender KI (die Einblicke bietet) und generativer KI (die Inhalte erstellt).
Agentenbasierte Richtlinien-Engine
Eine Laufzeit-Softwarekomponente, die Aktionen von Agenten abfängt und diese vor der Ausführung anhand einer Reihe deterministischer Governance-Regeln bewertet.
Verantwortlichkeit der KI
Die Verpflichtung der Entwickler und Betreiber von KI-Systemen, sicherzustellen, dass ihre Systeme verantwortungsvoll entworfen und verwendet werden, unter Einhaltung ethischer Standards und gesetzlicher Anforderungen.
KI-Ausrichtung
Der Prozess, sicherzustellen, dass die Ziele und Verhaltensweisen von KI-Systemen mit menschlichen Werten und Absichten in Einklang stehen.
KI-Assistent
Ein System für konversationelle KI, das darauf ausgelegt ist, Nutzer bei der Erledigung von Aufgaben durch Interaktion in natürlicher Sprache zu unterstützen, typischerweise betrieben durch ein großes Sprachmodell.
KI-Prüfung
Die systematische Bewertung von KI-Systemen zur Beurteilung der Einhaltung von ethischen Standards, Vorschriften und Leistungskennzahlen.
KI-Voreingenommenheit
Systematische Fehler in den Ausgaben der KI, die durch voreingenommene Trainingsdaten oder fehlerhafte Algorithmen entstehen und zu unfaire Ergebnisse führen.
KI-Software-Stückliste (AIBOM)
Ein strukturiertes Inventar, das die Komponenten eines KI-Systems auflistet – einschließlich Basismodellen, Trainingsdatensätzen, Bibliotheken und Abhängigkeiten. Dies ist das KI-Äquivalent zu einer Software-Stückliste (Software Bill of Materials, SBOM).
KI-Konformität
Die Einhaltung von geltenden Gesetzen, Vorschriften und ethischen Richtlinien durch KI-Systeme während ihres gesamten Lebenszyklus.
KI-Ethik
Das Fachgebiet, das sich mit den moralischen Implikationen und Verantwortlichkeiten im Zusammenhang mit der Entwicklung und Implementierung von KI-Technologien befasst.
Erklärbarkeit von KI
Das Ausmaß, in dem die internen Mechanismen eines KI-Systems von Menschen verstanden und interpretiert werden können.
KI-Fußabdruck
Die Gesamtheit aller KI-Systeme, -Modelle, -Agenten und integrierten KI-Funktionen, die zu einem bestimmten Zeitpunkt in einem Unternehmen im Einsatz sind, einschließlich offiziell genehmigter sowie inoffizieller Systeme (Schatten-IT).
KI-Governance
Das Rahmenwerk aus Richtlinien, Prozessen und Kontrollmechanismen, das die ethische und effektive Entwicklung und Nutzung von KI-Systemen leitet.
KI-Governance für Finanzdienstleistungen
Die spezialisierte Anwendung von KI-Risikomanagement-Frameworks zur Erfüllung der strengen Aufsichts- und Verhaltensanforderungen des Banken- und Versicherungssektors.
KI-Governance-Software
Spezialisierte Enterprise-Tools zur Automatisierung der Inventarisierung, Risikobewertung und regulatorischen Compliance von Systemen der künstlichen Intelligenz.
KI-Inventar
Ein umfassender, zentralisierter Katalog aller KI-Systeme, Modelle und Agenten, die in einer Organisation verwendet werden, der ihren Geschäftszweck, das Risikoniveau und die Eigentümerschaft verfolgt.
EU-KI-Haftungsrichtlinie
Ein Entwurf für eine EU-Richtlinie, die darauf abzielt, das Verfahren für Kläger zur Geltendmachung von durch KI-Systeme verursachten Schäden zu vereinfachen, indem eine widerlegbare Kausalitätsvermutung eingeführt wird.
KI-Kompetenz
Das Verständnis von KI-Konzepten, Fähigkeiten und Einschränkungen, ermöglicht eine informierte Interaktion mit KI-Technologien.
Management-System für Künstliche Intelligenz (AIMS)
Eine Reihe von miteinander in Beziehung stehenden oder sich gegenseitig beeinflussenden Elementen einer Organisation zur Festlegung von Richtlinien, Zielen und Prozessen für die verantwortungsvolle Entwicklung oder Nutzung von KI.
KI-Überwachung
Die kontinuierliche Beobachtung und Analyse der Leistung von KI-Systemen, um Zuverlässigkeit, Sicherheit und Compliance zu gewährleisten.
KI-Risiko
Das Potenzial von KI-Systemen, Schaden oder unbeabsichtigte Folgen zu verursachen, einschließlich ethischer, rechtlicher und betrieblicher Risiken.
KI-Risikomanagement
Der Prozess der Identifizierung, Bewertung und Minderung von Risiken im Zusammenhang mit KI-Systemen.
Wildwuchs von KI-Anwendungen
Die unkontrollierte Verbreitung von KI-Systemen im gesamten Unternehmen, die in der Regel durch den einfachen Zugang zu KI-Tools und das Fehlen effektiver Erfassungs- und Inventarisierungsprozesse begünstigt wird.
Folgenabschätzung für KI-Systeme
Ein formelles Verfahren zur Bewertung der potenziellen Folgen des Einsatzes eines KI-Systems auf Einzelpersonen, Gruppen und die Gesellschaft als Ganzes.
KI-Transparenz
Das Prinzip, dass KI-Systeme offen und transparent über ihre Abläufe, Entscheidungen und Datennutzung informieren sollten.
KI TRiSM
Ein von Gartner geprägtes Akronym, das für KI-Vertrauen, Risiko- und Sicherheitsmanagement steht; ein Rahmenwerk, das Governance, Vertrauenswürdigkeit und Sicherheit in eine einzige operative Strategie vereint.
Gesetz über künstliche Intelligenz und Daten (AIDA)
Kanadas föderaler Regulierungsrahmen (Teil des Gesetzesentwurfs Bill C-27), der darauf abzielt, eine sichere und vorurteilsfreie Entwicklung sowie Nutzung von KI-Systemen mit weitreichenden Auswirkungen zu gewährleisten.
Algorithmus
Ein Satz von Regeln oder Anweisungen, die einem KI-System gegeben werden, um ihm zu helfen, eigenständig zu lernen.
Algorithmische Verzerrung
Ein Bias, der auftritt, wenn ein Algorithmus systematisch voreingenommene Ergebnisse produziert, aufgrund fehlerhafter Annahmen im maschinellen Lernprozess.
Algorithmische Verwaltung
Der Einsatz von Algorithmen zur Steuerung und Regulierung gesellschaftlicher Funktionen, der potenziell die Entscheidungsprozesse beeinflussen kann.
Amnestie-Programm
Eine zeitlich begrenzte Governance-Initiative, bei der Mitarbeitende dazu eingeladen werden, die Nutzung nicht genehmigter KI-Tools offenzulegen, ohne disziplinarische Maßnahmen befürchten zu müssen.
Produkte gemäß Anhang I
Eine Liste von Produkten, die bereits dem EU-Gesundheits- und Sicherheitsrecht unterliegen (z. B. Maschinen, Medizinprodukte) und bei denen integrierte KI gemäß der EU-KI-Verordnung automatisch als Hochrisiko eingestuft wird.
Anhang-III-Kategorien
Eine spezifische Liste von hochriskanten KI-Anwendungsbereichen, die im EU-KI-Gesetz definiert sind und zwingende Compliance-Verpflichtungen auslösen.
Analyse des API-Traffics
Der technische Prozess der Überwachung und Überprüfung von Netzwerkaufrufen an externe KI-Dienstleister.
Ausnahme gemäß Artikel 6 Absatz 3
Ein Selbstbestimmungsmechanismus unter dem EU-KI-Gesetz, der es Anbietern ermöglicht, ein KI-System der Anlage III als nicht hochriskant einzustufen, sofern es kein erhebliches Risiko darstellt.
Artikel 25 (EU-Gesetz über künstliche Intelligenz)
Die Bestimmung des EU-KI-Gesetzes, die eine direkte Verpflichtungskette zwischen Anbietern und Betreibern von Hochrisiko-KI-Systemen schafft, einschließlich der Haftungsübertragung bei wesentlichen Systemänderungen.
Artikel 50 (EU-Gesetz über künstliche Intelligenz)
Die Bestimmung des EU-KI-Gesetzes, die Transparenzpflichten für KI-Systeme festlegt, die mit Menschen interagieren, synthetische Inhalte generieren oder Deepfakes erstellen.
Allgemeine Künstliche Intelligenz
Eine Art von KI, die über die Fähigkeit verfügt, Wissen auf eine verallgemeinerte Weise zu verstehen, zu lernen und anzuwenden, ähnlich der menschlichen Intelligenz.
Künstliche Intelligenz
Die Simulation menschlicher Intelligenzprozesse durch Maschinen, insbesondere Computersysteme, einschließlich Lernen, Schlussfolgern und Selbstkorrektur.
Australische Richtlinie für sichere und verantwortungsvolle KI
Die Richtlinie der australischen Bundesregierung zur Regulierung des Einsatzes künstlicher Intelligenz im öffentlichen Dienst und in Regierungsbehörden.
Automatisierte KI-Governance
Der Einsatz von Software- und API-Integrationen zur Durchführung kontinuierlicher Compliance-Prüfungen und Risikoüberwachungen in Echtzeit ohne manuelles Eingreifen.
B
Rückpropagation
Ein Trainingsalgorithmus, der in neuronalen Netzwerken verwendet wird, um Gewichte anzupassen, indem Fehler vom Ausgabeschicht rückwärts propagiert werden, um den Verlust zu minimieren.
Stapelverarbeitung Lernen
Ein maschinelles Lernverfahren, bei dem das Modell auf einmal mit dem gesamten Datensatz trainiert wird, im Gegensatz zum inkrementellen Lernen.
Benchmarking
Der Prozess des Vergleichs der Leistung eines KI-Systems mit Standardkennzahlen oder anderen Systemen zur Bewertung der Effektivität.
Voreingenommenheit
Systematische Fehler in den Ausgaben der KI, die durch voreingenommene Trainingsdaten oder fehlerhafte Algorithmen entstehen und zu unfaire Ergebnisse führen.
Verstärkung von Verzerrungen
Das Phänomen, bei dem KI-Systeme bestehende Vorurteile in den Trainingsdaten verstärken und zu zunehmend verzerrten Ergebnissen führen.
Voreingenommenheitsprüfung
Ein Bewertungsprozess zur Erkennung und Minderung von Verzerrungen in KI-Systemen, um Fairness und die Einhaltung ethischer Standards sicherzustellen.
Voreingenommenheitserkennung
Der Prozess der Identifizierung von Verzerrungen in KI-Modellen durch Analyse ihrer Ergebnisse und Entscheidungsprozesse.
Voreingenommenheitsminderung
Techniken, die während der KI-Entwicklung angewendet werden, um Vorurteile in Modellen und Datensätzen zu reduzieren oder zu beseitigen.
Schwarzkastenmodell
Ein KI-System, dessen interne Abläufe nicht transparent oder interpretierbar sind, was es schwierig macht zu verstehen, wie Entscheidungen getroffen werden.
Bot
Eine Softwareanwendung, die automatisierte Aufgaben ausführt und häufig in der KI für Aufgaben wie Kundenservice oder Datenerfassung eingesetzt wird.
Brasilianischer Gesetzentwurf zur KI (PL 2338/2023)
Brasiliens primäres gesetzgeberisches Vorhaben zur Schaffung eines nationalen Rahmens für KI-Rechte und deren Regulierung.
Brüsseler Effekt
Das Phänomen, bei dem EU-Regulierungen durch Marktzugangsbedingungen zum weltweiten Standard werden, selbst für Unternehmen mit Hauptsitz außerhalb der EU.
C
Kalifornisches Gesetz AB 1008
Eine Änderung des CCPA, die klarstellt, dass personenbezogene Daten auch solche Daten umfassen, die von KI-Systemen generiert oder ausgegeben werden.
Kalifornisches Gesetz AB 3030
Ein kalifornisches Gesetz, das Transparenz vorschreibt, wenn generative KI im Gesundheitswesen zur Kommunikation mit Patientinnen und Patienten eingesetzt wird.
Kalifornische ADMT-Regulierungen
Vorschriften des California Consumer Privacy Act (CCPA) zur Regulierung von automatisierten Entscheidungsfindungstechnologien (Automated Decision-Making Technology, ADMT).
Kalifornische FEHA-KI-Regulierungen
Staatliche Vorschriften im Rahmen des Fair Employment and Housing Act (FEHA) zur Bekämpfung von KI-gestützter Diskriminierung am Arbeitsplatz.
Kalifornisches Gesetz zur KI-Transparenz (SB 942)
Gesetzgebung, die große Anbieter von generativen KI-Systemen verpflichtet, Erkennungswerkzeuge bereitzustellen sowie latente und offensichtliche Offenlegungen in KI-generierte Inhalte einzubetten.
Kaskadierender Fehler (ASI08)
Ein Fehlermodus, bei dem ein Fehler oder eine böswillige Eingabe im Denkprozess eines KI-Agenten eine Kettenreaktion von Ausfällen über mehrere verbundene Agenten oder Systeme hinweg auslöst.
Kausale Inferenz
Eine Methode in der KI und Statistik, die verwendet wird, um Ursache-Wirkungs-Beziehungen zu bestimmen und dabei hilft, die Auswirkungen von Interventionen oder Änderungen von Variablen zu verstehen.
CE-Kennzeichnung
Ein zwingend erforderliches Zertifizierungskennzeichen, das die Konformität eines KI-Systems mit den Gesundheits-, Sicherheits- und Umweltschutzstandards für Produkte bestätigt, die innerhalb des EWR verkauft werden.
Benachrichtigungszeitfenster ändern
Ein vertraglich festgelegter Zeitraum, in dem ein Anbieter den Kunden über wesentliche Aktualisierungen eines KI-Modells informieren muss, bevor diese Aktualisierungen in der Produktivumgebung implementiert werden.
Chatbot
Eine KI-gestützte Softwareanwendung, die darauf ausgelegt ist, menschliche Gespräche zu simulieren und häufig im Kundenservice sowie zur Informationsbeschaffung eingesetzt wird.
Interimsregelungen für generative KI in China
Regulatorische Anforderungen für generative KI-Dienste, die für die chinesische Öffentlichkeit bereitgestellt werden.
Klassifizierung
Ein überwachtes Lernverfahren im Bereich des maschinellen Lernens, bei dem das Modell die Kategorie oder Klassenbezeichnung neuer Beobachtungen basierend auf den Trainingsdaten vorhersagt.
KI-Konvention des Europarats
Der erste rechtlich bindende internationale Vertrag über KI, der sich auf den Schutz der Menschenrechte, der Demokratie und der Rechtsstaatlichkeit konzentriert.
Kognitive Voreingenommenheit
Systematische Abweichungsmuster von der Norm oder Rationalität im Urteil, die die Entscheidungsfindung von KI beeinflussen können, wenn sie in den Trainingsdaten vorhanden sind.
Kognitives Computing
Ein Teilbereich der KI, der menschliche Denkprozesse in einem computergestützten Modell simuliert, mit dem Ziel, komplexe Probleme ohne menschliche Unterstützung zu lösen.
Kognitive Belastung
Der gesamte mentale Aufwand, der im Arbeitsgedächtnis verwendet wird, wird im Bereich der KI berücksichtigt, um Systeme zu entwerfen, die Benutzer nicht überfordern.
Colorado AI Act (SB24-205)
Das erste umfassende US-Bundesstaatengesetz, das Entwickler und Bereitsteller von hochriskanten KI-Systemen zur Implementierung von Sorgfaltsstandards und zur Durchführung jährlicher Folgenabschätzungen verpflichtet.
Colorado AI Act (SB 26-189)
Colorado SB 26-189 is the 2026 replacement for the original Colorado AI Act (SB 24-205), taking effect 1 January 2027 with obligations focused on automated decision-making technology making consequential decisions about Coloradans.
Compliance-Rahmenwerk
Ein strukturierter Satz von Richtlinien und Best Practices, denen Organisationen folgen, um sicherzustellen, dass ihre KI-Systeme regulatorische und ethische Standards erfüllen.
Compliance-Risiko
Das Potenzial für rechtliche oder regulatorische Sanktionen, finanzielle Verluste oder Reputationsschäden, dem ein Unternehmen ausgesetzt ist, wenn es versäumt, gesetzliche Vorschriften, Regulierungen oder vorgegebene Praktiken einzuhalten.
Computer Vision
Ein Bereich der KI, der Computer darin schult, visuelle Informationen aus der Welt, wie Bilder und Videos, zu interpretieren und zu verarbeiten.
Konzeptdrift
Die Veränderung der statistischen Eigenschaften der Zielvariablen, die das Modell vorherzusagen versucht, im Laufe der Zeit, was zu einer Verschlechterung des Modells führt.
Vertrauensintervall
Ein Wertebereich, abgeleitet von Stichprobenstatistiken, der wahrscheinlich den Wert eines unbekannten Populationsparameters enthält, wird in der KI verwendet, um Unsicherheiten auszudrücken.
Konformitätsbewertung
Ein Verfahren zur Bestimmung, ob ein KI-System festgelegte Anforderungen, Standards oder Vorschriften erfüllt, das häufig Tests und Zertifizierungen umfasst.
Interne Kontrolle (Konformitätsbewertung)
Ein Verfahren im Rahmen des EU-KI-Gesetzes, bei dem ein Anbieter selbst bestätigt, dass sein Hochrisiko-KI-System alle regulatorischen Anforderungen erfüllt, ohne dass eine Prüfung durch eine unabhängige Stelle erforderlich ist.
Kontinuierliches Lernen
Die Fähigkeit eines KI-Systems, kontinuierlich aus neuen Dateneingaben zu lernen und sich ohne menschliches Eingreifen anzupassen, verbessert sich im Laufe der Zeit.
Steuerbarkeit
In welchem Maße Menschen die Entscheidungen und Verhaltensweisen eines KI-Systems lenken, beeinflussen oder übersteuern können.
Mandat des AStV
Das Verhandlungsmandat, das die Botschafter der EU-Mitgliedstaaten (Ausschuss der Ständigen Vertreter) der rotierenden Ratspräsidentschaft für Trilog-Verhandlungen über EU-Rechtsvorschriften erteilen.
Kreuzvalidierung
Eine Modellvalidierungsmethode zur Beurteilung, wie die Ergebnisse einer statistischen Analyse auf ein unabhängiges Datenset verallgemeinert werden können.
Kryptografische Agenten-Identität
Ein verifizierbarer digitaler Berechtigungsnachweis (oftmals ein dezentraler Identifikator oder DID), der einen KI-Agenten und dessen Autorisierungsstufe eindeutig identifiziert.
Cybersicherheit
Die Praxis des Schutzes von Systemen, Netzwerken und Programmen vor digitalen Angriffen ist entscheidend für den Schutz von KI-Systemen vor Bedrohungen.
D
Datenabweichung
Die Veränderung der Modell-Eingabedaten im Laufe der Zeit kann zu einer Verschlechterung der Modellleistung führen, wenn diese nicht überwacht und behoben wird.
Datenethik
Der Bereich der Ethik, der Datenpraktiken im Hinblick auf die moralischen Verpflichtungen bei der Erfassung, dem Schutz und der Nutzung personenbezogener Informationen bewertet.
Datenverwaltung
Die umfassende Verwaltung der Datenverfügbarkeit, Benutzerfreundlichkeit, Integrität und Sicherheit in einem Unternehmen, um sicherzustellen, dass Daten während ihres gesamten Lebenszyklus ordnungsgemäß behandelt werden.
Risiko bei der Datenübernahme
Das Risiko, dass vertrauliche oder geschützte Informationen während der Interaktion eines Benutzers dauerhaft in den Trainingsdatensatz eines KI-Modells aufgenommen werden.
Datenlebenszyklusverwaltung
Die richtlinienbasierte Verwaltung des Datenflusses über den gesamten Lebenszyklus: von der Erstellung und anfänglichen Speicherung bis zu dem Zeitpunkt, an dem die Daten veraltet sind und gelöscht werden.
Datenminimierung
Das Prinzip, nur die Daten zu erfassen, die für einen bestimmten Zweck erforderlich sind, reduziert das Risiko von Missbrauch oder Verstößen.
Datenschutz
Der Bereich der Informationstechnologie, der sich mit der Fähigkeit befasst, zu kontrollieren, welche Daten geteilt werden und mit wem, und dabei sicherzustellen, dass personenbezogene Daten angemessen behandelt werden.
Datenschutz
Der Prozess, wichtige Informationen vor Beschädigung, Kompromittierung oder Verlust zu schützen und die Einhaltung der Datenschutzgesetze und -vorschriften zu gewährleisten.
Datenherkunft
Eine dokumentierte Erfassung der Herkunft, der Eigentumsverhältnisse und des Lebenszyklus eines Datensatzes, der für das Training oder die Feinabstimmung eines KI-Modells verwendet wird.
Datenqualität
Der Zustand von Daten, basierend auf Faktoren wie Genauigkeit, Vollständigkeit, Zuverlässigkeit und Relevanz, ist entscheidend für die effektive Leistung von KI-Modellen.
Datenresidenz
Der physische oder geografische Standort der Daten einer Organisation, der Auswirkungen auf die Einhaltung von Datenschutzgesetzen haben kann.
Datenhoheit
Das Konzept, dass Daten den Gesetzen und Governance-Strukturen des Landes unterliegen, in dem sie gesammelt, gespeichert oder verarbeitet werden.
Betroffene Person
Eine Person, deren personenbezogene Daten erfasst, gespeichert oder verarbeitet werden, was insbesondere im Kontext von Datenschutzgesetzen wie der DSGVO relevant ist.
De-Identifikation
Der Prozess der Entfernung oder Verschleierung personenbezogener Kennungen in Datensätzen, um es schwierig zu machen, Einzelpersonen zu identifizieren, wird verwendet, um die Privatsphäre zu schützen.
Tiefes Lernen
Ein Teilbereich des maschinellen Lernens, der neuronale Netze mit mehreren Schichten umfasst und die Modellierung komplexer Muster in Daten ermöglicht.
Täuschungstechnologie
Synthetische Medien, bei denen eine Person in einem bestehenden Bild oder Video durch das Abbild einer anderen Person ersetzt wird, das mit Hilfe von Deep-Learning-Techniken erstellt wurde.
Differentialer Datenschutz
Ein System zur öffentlichen Weitergabe von Informationen über einen Datensatz, indem Muster von Gruppen innerhalb des Datensatzes beschrieben werden, während Informationen über Einzelpersonen zurückgehalten werden.
Das digitale EU-Omnibusgesetz zur Künstlichen Intelligenz
Ein Gesetzgebungspaket für 2025/2026, das darauf ausgelegt ist, technische Standards, Konformitätsbewertungen und Durchsetzungszeitpläne im Rahmen des EU-KI-Gesetzes und damit verbundener digitaler Sicherheitsgesetze zu rationalisieren und zu harmonisieren.
Diskriminierung
Im Bereich der KI bezieht sich dies auf die unfaire Behandlung von Einzelpersonen oder Gruppen aufgrund von Verzerrungen in Daten oder Algorithmen, die zu ungleichen Ergebnissen führen.
Verteiltes Lernen
Ein maschineller Lernansatz, bei dem Trainingsdaten auf mehrere Geräte oder Standorte verteilt werden und Modelle kollaborativ trainiert werden, ohne rohe Daten auszutauschen.
Domänenanpassung
Eine Technik im maschinellen Lernen, bei der ein in einem Bereich trainiertes Modell angepasst wird, um in einem anderen, aber verwandten Bereich zu funktionieren.
Dual-Use-Basismodell
Ein KI-Modell, das auf einer enormen Datenmenge trainiert wurde und über eine leistungsstarke Performance verfügt, sodass es sowohl für zivile als auch für schädliche oder militärische Zwecke eingesetzt werden kann.
Dynamische Risikoanalyse
Der kontinuierliche Prozess der Identifizierung und Bewertung von Risiken in Echtzeit ermöglicht rechtzeitige Reaktionen auf neu auftretende Bedrohungen in KI-Systemen.
E
Edge-KI
Die Bereitstellung von KI-Algorithmen auf Edge-Geräten ermöglicht die Datenverarbeitung und Entscheidungsfindung direkt an der Quelle der Datenerzeugung.
Edge-Analytik
Die Analyse von Daten am Rand des Netzwerks, nahe der Quelle der Datenerzeugung, reduziert Latenzzeiten und Bandbreitennutzung.
Integrierte KI
KI-Funktionen oder -Features, die direkt in die Software-as-a-Service-Plattformen (SaaS) oder Unternehmensanwendungen von Drittanbietern integriert sind.
Ensemble-Lernen
Ein maschinelles Lernparadigma, bei dem mehrere Modelle trainiert und kombiniert werden, um dasselbe Problem zu lösen und die Gesamtleistung zu verbessern.
Entitätsauflösung
Der Prozess der Identifizierung und Verknüpfung von Datensätzen, die sich auf dasselbe reale Objekt in verschiedenen Datenbeständen beziehen.
Enzai
Eine Unternehmensplattform für KI-Governance, die es Organisationen ermöglicht, ihre KI-Systeme zu inventarisieren, bewerten und steuern, um eine maximale Einführung von KI zu gewährleisten und zugleich das Risiko zu minimieren.
Eskalationslogik
Ein Satz vordefinierter Regeln und Auslöser, die einen KI-Agenten zwingen, den autonomen Betrieb einzustellen und die Kontrolle wieder an einen menschlichen Bediener zu übergeben.
ESMA-Erwartungen an die KI/ML-Governance
Regulatorische Richtlinien der Europäischen Wertpapier- und Marktaufsichtsbehörde bezüglich des Einsatzes von Abstrakter Intelligenz (KI) und maschinellem Lernen auf den Finanzmärkten.
Ethische KI
Die Praxis, KI-Systeme auf eine Weise zu entwerfen, zu entwickeln und bereitzustellen, die mit ethischen Prinzipien und Werten übereinstimmt, um Fairness, Verantwortlichkeit und Transparenz zu gewährleisten.
Ethisches KI-Audit
Der Prozess der systematischen Bewertung von KI-Systemen, um sicherzustellen, dass sie den ethischen Standards entsprechen und keinen Schaden verursachen.
Zertifizierung für ethische KI
Eine formale Anerkennung, dass ein KI-System etablierten ethischen Standards und Richtlinien entspricht.
Ethische KI-Governance
Der Rahmen von Richtlinien, Verfahren und Praktiken, die sicherstellen, dass KI-Systeme verantwortungsvoll und ethisch entwickelt und verwendet werden.
Ethische Rahmenwerke
Strukturierte Sätze von Prinzipien und Richtlinien, die dazu bestimmt sind, die ethische Entwicklung und Implementierung von KI-Systemen zu leiten.
Ethisches Hacken
Die bewusste Überprüfung von Systemen auf Schwachstellen, um Sicherheitsprobleme zu identifizieren und zu beheben, gewährleistet die Robustheit von KI-Systemen.
Ethische Auswirkungen Bewertung
Ein systematischer Evaluierungsprozess zur Identifizierung und Berücksichtigung der ethischen Implikationen und potenziellen gesellschaftlichen Auswirkungen von KI-Systemen vor deren Einsatz.
Ethisches Risiko
Das Potenzial eines KI-Systems, Schaden durch unethisches Verhalten wie Voreingenommenheit, Diskriminierung oder Verletzung der Privatsphäre zu verursachen.
Ethische Leitlinien für vertrauenswürdige KI
Ein Satz von Richtlinien, die von der hochrangigen Expertengruppe der Europäischen Kommission für KI entwickelt wurden, um vertrauenswürdige KI zu fördern, wobei der Schwerpunkt auf menschlicher Handlungskompetenz, technischer Robustheit, Datenschutz, Transparenz, Vielfalt, gesellschaftlichem Wohlergehen und Verantwortung liegt.
EU-KI-Gesetz
Das weltweit erste umfassende horizontale Regelwerk für KI, das ein risikobasiertes Klassifizierungssystem für Systeme etabliert, die innerhalb der Europäischen Union bereitgestellt oder genutzt werden.
Hochrisiko-Kategorien gemäß dem EU-KI-Gesetz
Die beiden Einstufungen von Hochrisiko-KI-Systemen im Rahmen des EU-KI-Gesetzes (EU AI Act): eigenständige Systeme, die in Anhang III aufgeführt sind (einschließlich Biometrie, kritischer Infrastruktur, Beschäftigung, Bildung, Strafverfolgung und anderer genannter Verwendungszwecke), und in regulierte Produkte eingebettete KI, die in Anhang I aufgeführt sind (einschließlich Medizinprodukten, Fahrzeugen, Maschinen und anderen regulierten Produktkategorien).
Risikoklassifizierung nach dem EU-Gesetz über künstliche Intelligenz
Der vorgeschriebene Prozess zur Einstufung eines KI-Systems in eine von vier Risikoklassen (unacceptable, high, limited, minimal risk) gemäß dem EU-Gesetz über künstliche Intelligenz (EU AI Act).
EU-Amt für KI
Das Gremium der Europäischen Kommission, das für die Überwachung der Umsetzung und Durchsetzung der EU-KI-Verordnung eingerichtet wurde, insbesondere im Hinblick auf KI-Modelle mit allgemeinem Verwendungszweck und systemischem Risiko.
Digitale Omnibus-Richtlinie der EU
Das umfassendere Gesetzgebungs-Vereinfachungspaket der Europäischen Union für den Zeitraum 2025–2026, das verschiedene digitale Verordnungen adressiert, darunter das Gesetz über künstliche Intelligenz (AI Act), Bestimmungen der DSGVO, das Cyber-Resilienz-Gesetz sowie Änderungen des Datengesetzes (Data Act).
Übermäßige Handlungsbefugnis
Eine Sicherheitslücke, bei der einem KI-System im Verhältnis zu seiner beabsichtigten Funktion ein zu hohes Maß an Autonomie, zu viele Werkzeuge oder übermäßig privilegierte Zugriffsrechte gewährt werden.
Executive Order 14110
Die Regierungsrichtlinie der Biden-Administration (unterzeichnet im Oktober 2023, aufgehoben im Januar 2025), die nationale US-Standards für die Sicherheit, Vertrauenswürdigkeit und den Datenschutz von KI festlegte und das U.S. AI Safety Institute am NIST ins Leben rief.
Techniken der Erklärbarkeit
Methoden zur Interpretation und zum Verständnis der Entscheidungen von KI-Modellen, wie LIME, SHAP und Salienzabbildungen.
Erklärbarkeit vs. Interpretierbarkeit
Während beide darauf abzielen, KI-Entscheidungen verständlich zu machen, konzentriert sich die Erklärbarkeit auf die Begründung der Entscheidungen, während sich die Interpretierbarkeit auf die Transparenz der internen Mechanismen des Modells bezieht.
Erklärbare KI (XAI)
KI-Systeme, die darauf ausgelegt sind, nachvollziehbare Begründungen für ihre Entscheidungen und Handlungen bereitzustellen, wodurch Transparenz und Vertrauen gestärkt werden.
Erklärbare Maschinelles Lernen
Maschinelle Lernmodelle, die entwickelt wurden, um klare und verständliche Erklärungen für ihre Vorhersagen und Entscheidungen bereitzustellen.
F
Gerechtigkeit
Sicherstellen, dass KI-Systeme unvoreingenommene und gerechte Ergebnisse für verschiedene Einzelpersonen und Gruppen liefern und diskriminierende Auswirkungen mindern.
Fairness-Kennzahlen
Quantitative Maße (z.B. demografische Parität, gleichberechtigte Chancen), die verwendet werden, um zu bewerten, wie fair die Vorhersagen eines KI-Modells über verschiedene Gruppen hinweg sind.
Falsch Negativ
Wenn ein AI-Modell fälschlicherweise eine negative Klasse für eine Instanz vorhersagt, die tatsächlich positiv ist (Typ-II-Fehler).
Falsch-Positiv
Wenn ein KI-Modell fälschlicherweise eine positive Klasse für ein Beispiel prognostiziert, das in Wirklichkeit negativ ist (Typ-I-Fehler).
Fehlertoleranz
Die Fähigkeit eines KI-Systems, auch dann korrekt weiterzuarbeiten, wenn einige Komponenten ausfallen oder Fehler produzieren.
Merkmalsengineering
Erstellen, Auswählen oder Transformieren von Rohdatensatzattributen in Merkmale, die die Leistung von maschinellen Lernmodellen verbessern.
Merkmalextraktion
Der Prozess der Zuordnung von Rohdaten (z. B. Text, Bilder) zu numerischen Darstellungen (Merkmale), die sich für die Eingabe in maschinelle Lernalgorithmen eignen.
Funktionsauswahl
Identifizierung und Auswahl der relevantesten Merkmale für das Modelltraining, um die Komplexität zu reduzieren und die Genauigkeit zu verbessern.
Föderierte KI-Governance
Ein Governance-Modell, bei dem zentrale Richtlinien und Aufsicht mit dezentralen Entscheidungsbefugnissen der Geschäftsbereiche oder regionalen Niederlassungen kombiniert werden, um ein ausgewogenes Verhältnis zwischen Konsistenz und operativer Flexibilität zu gewährleisten.
Föderiertes Lernen
Ein dezentraler Ansatz für maschinelles Lernen, bei dem Modelle auf mehreren Geräten oder Servern trainiert werden, die lokale Daten halten, ohne dass Rohdaten zentral geteilt werden müssen.
Rückkopplungsschleife
Ein Prozess, bei dem KI-Ausgaben als Eingaben zurückgeführt werden, wodurch das Modellverhalten verstärkt werden kann – zum Positiven (verstärkendes Lernen) oder zum Negativen (Verstärkung von Verzerrungen).
Feinabstimmung
Anpassen eines vortrainierten KI-Modells an eine spezifische Aufgabe oder ein spezifisches Dataset durch Fortsetzung des Trainings mit neuen Daten, was oft die leistungsbezogene Effizienz verbessert.
Formale Verifikation
Mathematisch beweisen, dass KI-Algorithmen spezifischen Korrektheitseigenschaften entsprechen, die häufig in sicherheitskritischen Systemen verwendet werden.
Rahmenwerk
Ein strukturiertes Set von Richtlinien, Prozessen und Werkzeugen zur Steuerung, Entwicklung, Bereitstellung und Überwachung von KI-Systemen.
Betrugserkennung
Verwendung von KI-Techniken (z.B. Anomalieerkennung, Mustererkennung), um betrügerische Aktivitäten in Finanzwesen, Versicherungen usw. zu identifizieren und zu verhindern.
FS AI RMF (Risikomanagement-Framework für künstliche Intelligenz im Finanzdienstleistungssektor)
Das im Februar 2026 veröffentlichte, spezialisierte KI-Risikomanagement-Framework des US-Finanzministeriums für Finanzdienstleistungsunternehmen, welches das NIST AI RMF an sektorspezifische Verpflichtungen anpasst.
Funktionale Sicherheit
Sicherzustellen, dass KI-Systeme unter allen Bedingungen sicher funktionieren, insbesondere in Branchen wie der Automobilindustrie oder dem Gesundheitswesen, erfolgt oft durch Redundanz und Überprüfungen.
Grundrechtecharta-Folgenabschätzung (FRIA)
Eine nach dem EU-KI-Gesetz für bestimmte Bereitsteller obligatorische Bewertung zur Bestimmung der Auswirkungen, die der Einsatz eines Hochrisiko-KI-Systems auf die Bürgerrechte und Menschenrechte haben könnte.
Fuzzy-Logik
Ein Logiksystem, das Schlussfolgerungen mit ungefähren statt binären Wahr/Falsch-Werten verarbeitet – nützlich für Steuerungssysteme und den Umgang mit Unsicherheiten.
G
Lückenanalyse
Der Prozess, aktuelle KI-Governance-Praktiken mit den gewünschten Standards oder Vorschriften zu vergleichen, um Bereiche zu identifizieren, die Verbesserungen benötigen.
DSGVO
Die Datenschutz-Grundverordnung der EU legt strenge Anforderungen für die Erfassung, Verarbeitung und die individuellen Rechte persönlicher Daten fest.
Verallgemeinerung
Die Fähigkeit eines KI-Modells, auf neuen, unbekannten Daten gute Leistungen zu erbringen, indem es zugrunde liegende Muster erfasst, anstatt Trainingsbeispiele auswendig zu lernen.
Generative KI
KI-Techniken (z. B. GANs, Transformer), die neue Inhalte – Texte, Bilder oder andere Medien – erstellen und dabei häufig neuartige Fragestellungen in Bezug auf Governance und geistiges Eigentum aufwerfen.
Globales Modell
Ein konsolidiertes KI-Modell, das auf aggregierten Daten aus mehreren Quellen trainiert ist, im Gegensatz zu lokalisierten oder personalisierten Modellen.
Zielabweichung
Ein Phänomen, bei dem sich die internen Teilziele oder Argumentationspfade eines KI-Agenten schrittweise von den ursprünglich durch den Menschen vorgegebenen Zielen entfernen.
Governance
Das Gesamtkonstrukt aus Richtlinien, Verfahren, Rollen und Verantwortlichkeiten, das die ethische, legale und effektive Entwicklung sowie den Einsatz von KI-Systemen leitet.
Lenkungsgremium
Eine funktionsübergreifende Gruppe (z. B. rechtlich, ethisch, technisch), die damit betraut ist, die Richtlinien zur KI-Governance innerhalb einer Organisation zu überwachen und deren Umsetzung zu gewährleisten.
Governance-Rahmenwerk
Ein strukturiertes Modell, das darlegt, wie die Komponenten der KI-Governance (Risikomanagement, Verantwortlichkeit, Aufsicht) zusammenpassen, um die Einhaltung von Vorschriften und die ethische Nutzung sicherzustellen.
Reifegradmodell für Governance
Ein gestuftes Rahmenwerk, das bewertet, wie fortgeschritten die KI-Governance-Praktiken einer Organisation sind, von ad-hoc bis optimiert.
Richtlinie zur Unternehmensführung
Ein formales Dokument, das Regeln, Rollen und Verfahren für die Entwicklung und Überwachung von KI innerhalb einer Organisation kodifiziert.
Governance-Bewertungssystem
Ein Dashboard oder Bericht, das wichtige Kennzahlen (z. B. Vorfälle von Voreingenommenheit, Compliance-Audits) zur Messung der Effektivität der KI-Governance im Laufe der Zeit verfolgt.
Verhaltenskodex für GPAI
Das detaillierte Regulierungsinstrument, das spezifische Verpflichtungen zur Transparenz, Sicherheitsprüfung und Risikominderung für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck (GPAI) gemäß dem Gesetz über künstliche Intelligenz der EU (EU AI Act) festlegt.
GPAI-Modell
Ein universell einsetzbares Modell der künstlichen Intelligenz, das in der Lage ist, eine Vielzahl unterschiedlicher Aufgaben auszuführen und sich nahtlos in verschiedene Anwendungen integrieren lässt.
GPU
Spezialisierter Hardware-Beschleuniger für parallele Berechnungen, der häufig zum effizienten Trainieren und Ausführen groß angelegter KI-Modelle verwendet wird.
Gradientenabstieg
Ein Optimierungsalgorithmus, der die Modellparameter iterativ in die Richtung anpasst, die die Verlustfunktion minimal verringert.
Granulare Zustimmung
Ein Datenschutzansatz, der es Einzelpersonen ermöglicht, spezifische Berechtigungen für jede Art der Datennutzung zu erteilen oder zu verweigern, wodurch Transparenz und Kontrolle verbessert werden.
Grüne KI
Die Praxis, den ökologischen Fußabdruck von KI durch energieeffiziente Algorithmen und nachhaltige Computerpraktiken zu reduzieren.
Grauer-Box-Modell
Ein Modell, dessen innere Logik teilweise transparent ist (einige Komponenten sind interpretierbar, andere undurchsichtig), das Leistung und Erklärbarkeit ausbalanciert.
Tatsächliche Gegebenheit
Die präzisen, praxisnahen Daten oder Kennzeichnungen, die als Maßstab zur Schulung und Bewertung der Leistung von KI-Modellen verwendet werden.
Leitplanken
Vordefinierte Einschränkungen oder Überprüfungen (technisch und richtlinienbasiert), die in KI-Systeme eingebettet sind, um unsicheres oder nicht konformes Verhalten zur Laufzeit zu verhindern.
Leitlinie (Ethische KI)
Eine unverbindliche Empfehlung oder ein Best-Practice-Dokument, das von Organisationen (z.B. IEEE, EU) herausgegeben wird, um die verantwortungsvolle Entwicklung und Implementierung von KI zu gestalten.
H
Halluzination
Wenn generative KI inkorrekte oder erfundene Informationen erstellt, die plausibel erscheinen, aber keine Grundlage in den Trainingsdaten haben.
Umgang mit fehlenden Daten
Techniken (z.B. Imputation, Löschung, Modellierung) zur Schließung von Lücken in Datensätzen, um die Integrität und Fairness des Modells zu bewahren.
Hardware-Beschleuniger
Spezialisierte Chips (z.B. GPUs, TPUs), die zur Beschleunigung von KI-Berechnungen entwickelt wurden, mit Auswirkungen auf den Energieverbrauch und das Lieferkettenrisiko.
Schadensbewertung
Bewertung potenzieller negativer Auswirkungen (physisch, psychologisch, gesellschaftlich) von KI-Systemen und Definition von Minderungsstrategien.
Harmonisierung
Harmonisierung von KI-Richtlinien, -Standards und -Vorschriften über verschiedene Rechtsgebiete hinweg, um Konflikte zu reduzieren und Interoperabilität zu ermöglichen.
Harmonisierte Struktur
Eine einheitliche Vorlage für alle ISO-Managementsystemnormen, ehemals bekannt als Annex SL, die für Konsistenz bei der Terminologie und der Nummerierung der Abschnitte sorgt.
Hashierung
Der Prozess der Umwandlung von Daten in eine Zeichenfolge fester Größe wird für Datenintegritätsprüfungen und die datenschutzfreundliche Verknüpfung von Aufzeichnungen verwendet.
Heterogene Daten
Die Kombination von Daten unterschiedlicher Typen (Text, Bild, Sensor) oder aus mehreren Domänen stellt Herausforderungen an Integration und Governance dar.
Heuristik
Eine Faustregel oder vereinfachte Entscheidungsstrategie, die verwendet wird, um KI-Prozesse zu beschleunigen, wobei oft Optimalität gegen Effizienz eingetauscht wird.
Heuristische Bewertung
Eine Methode zur Gebrauchstauglichkeitsprüfung, bei der Experten ein KI-System anhand etablierter Gebrauchstauglichkeitsprinzipien beurteilen, um potenzielle Probleme zu identifizieren.
Hochrisiko-KI-System
KI-Anwendungen, die ein erhebliches Potenzial zur Gefährdung der Gesundheit, Sicherheit oder der Grundrechte von Personen aufweisen und somit die strengsten Compliance-Anforderungen gemäß dem EU-Gesetz über künstliche Intelligenz (EU AI Act) auslösen.
KI im Hochspannungsbereich
KI-Anwendungen, deren Ausfälle erheblichen Schaden verursachen könnten (z. B. medizinische Diagnosen, autonome Fahrzeuge), erfordern verstärkte Governance und Aufsicht.
Mensch-in-der-Schleife
Einbeziehung menschlicher Urteilsfähigkeit in KI-Prozesse (Schulung, Validierung, Entscheidungsüberprüfung), um Genauigkeit und Verantwortlichkeit zu verbessern.
Menschliche Aufsicht
Mechanismen, die es ausgewählten Personen ermöglichen, Entscheidungen von KI-Systemen zu überwachen, einzugreifen oder zu überschreiben, um ethische und gesetzliche Konformität sicherzustellen.
Auswirkungen auf die Menschenrechte Bewertung
Ein Verfahren zur Bewertung, wie KI-Systeme die Grundrechte (Privatsphäre, Meinungsfreiheit, Nichtdiskriminierung) beeinflussen, und zur Identifizierung von Minderungsmaßnahmen.
Hybrides Modell
KI-Systeme, die mehrere Lernparadigmen kombinieren (z. B. symbolische und neuronale), um Erklärbarkeit und Leistung in Einklang zu bringen.
Hyperparameter
Eine Konfigurationsvariable (z. B. Lernrate, Baumeistiefe), die vor dem Modelltraining festgelegt wird und das Lernverhalten sowie die Leistung beeinflusst.
Optimierung von Hyperparametern
Der Prozess der Suche nach den optimalen Hyperparameterwerten (z.B. durch Grid-Suche oder Bayes'sche Optimierung), um die Modellleistung zu maximieren.
Ich
Ungleichgewichtige Daten
Ein Datensatz, bei dem eine Klasse oder Kategorie die anderen signifikant überwiegt, was dazu führen kann, dass KI-Modelle zugunsten der Mehrheitsklasse voreingenommen sind, es sei denn, dies wird behoben.
Unveränderliches Hauptbuch
Ein manipulationsnachweisender Mechanismus zur Protokollführung (z. B. Blockchain), der sicherstellt, dass einmal geschriebene Daten nicht ohne Erkennung verändert werden können – ideal für KI-Audit-Trails.
Auswirkungsbewertung
Eine strukturierte Bewertung zur Identifizierung, Analyse und Minderung potenzieller ethischer, rechtlicher und gesellschaftlicher Auswirkungen eines KI-Systems vor dessen Einsatz.
Durchführungsrechtsakte
Sekundärrecht der Europäischen Union, das von der Europäischen Kommission erlassen wird, um einheitliche Bedingungen für die Umsetzung von Primärrecht festzulegen, und das in allen Mitgliedstaaten rechtsverbindlich ist.
Implizite Voreingenommenheit
Unbewusste oder unbeabsichtigte Verzerrungen, die in den Trainingsdaten oder im Modellentwurf eingebettet sind und zu diskriminierenden Ergebnissen führen können.
Anreizabstimmung
Die Gestaltung von Belohnungsstrukturen und Zielen, sodass die Zielsetzungen von KI-Systemen mit menschlichen Werten und organisatorischen Prioritäten übereinstimmen.
Induktive Verzerrung
Die Menge von Annahmen, die ein Lernalgorithmus verwendet, um von beobachteten Daten auf nicht gesehene Instanzen zu verallgemeinern.
Schlussfolgerung
Der Prozess, bei dem ein trainiertes KI-Modell neue Daten eingibt, um Vorhersagen oder Entscheidungen zu treffen.
Schlussfolgerungsmaschine
Die Komponente eines KI-Systems (oft in regelbasierten oder Expertensystemen), die eine Wissensdatenbank auf Eingabedaten anwendet, um Schlussfolgerungen zu ziehen.
Informationsverwaltung
Die Richtlinien, Verfahren und Kontrollen, die die Datenqualität, den Datenschutz und die Nutzbarkeit über die Datenbestände einer Organisation hinweg gewährleisten, einschließlich der Schulungsdatensätze für künstliche Intelligenz.
Datenschutzinformationen
Das Recht von Personen, zu kontrollieren, wie ihre persönlichen Daten von KI-Systemen gesammelt, verwendet, gespeichert und geteilt werden.
Infrastruktur als Code (IaC)
Verwalten und Bereitstellen von KI-Infrastruktur (Rechenleistung, Speicher, Netzwerk) durch maschinenlesbare Konfigurationsdateien, wodurch Wiederholbarkeit und Prüfungsfähigkeit verbessert werden.
Vererbtes Datenrisiko
Das regulatorische und ethische Haftungsrisiko, das ein Unternehmen eingeht, wenn es ein KI-System einsetzt, das mit Daten trainiert wurde, die das Unternehmen nicht selbst erhoben oder überprüft hat.
Erfassungsworkflow
Der standardisierte Prozess und die Reihe von Prüfungen, die ein neues KI-System durchlaufen muss, bevor es entwickelt oder beschafft wird.
Absichtsvalidierung
Der Prozess der Verifizierung, dass die geplanten Teilschritte eines KI-Agenten konsistent mit dem ursprünglich vom Menschen vorgegebenen Ziel übereinstimmen.
Interoperabilität
Die Fähigkeit verschiedener KI-Systeme und -Komponenten, Informationen nahtlos auszutauschen, zu verstehen und zu nutzen, häufig über offene Standards oder APIs.
Interpretierbarkeit
Das Maß, in dem ein Mensch die inneren Mechanismen oder Entscheidungsgründe eines KI-Modells verstehen kann.
Einbruchserkennung
Überwachung der KI-Infrastruktur und -Anwendungen auf bösartige Aktivitäten oder Verstöße gegen Richtlinien, Auslösung von Warnungen oder automatisierten Reaktionen.
ISO/IEC 42001
Der internationale Standard, der Anforderungen für die Einführung, Implementierung, Aufrechterhaltung und kontinuierliche Verbesserung eines Managementsystems für Künstliche Intelligenz (AIMS) definiert.
ISO/IEC 42005
Der internationale Standard, der Richtlinien für die Durchführung von Folgenabschätzungen für KI-Systeme bereitstellt.
ISO/IEC JTC 1/SC 42
Der gemeinsame ISO/IEC-Ausschuss für die Standardisierung Künstlicher Intelligenz entwickelt internationale KI-Standards für Governance, Risiko und Interoperabilität.
J
Jacobian-Matrix
In der Erklärbarkeit von KI ist die Matrix aller partiellen Ableitungen erster Ordnung der Ausgaben eines Modells in Bezug auf seine Eingaben, die zur Bewertung der Empfindlichkeit und der Merkmalsbedeutung verwendet wird.
Jailbreak-Angriff
Eine Art von Prompt-Injection, bei der Benutzer Schwachstellen ausnutzen, um Schutzmaßnahmen in generativen KI-Modellen zu umgehen, was möglicherweise zu unsicheren oder unautorisierten Ausgaben führen kann.
Japanisches Gesetz zur Förderung von KI
Ein japanisches Gesetz (beschlossen im Jahr 2025), das grundlegende Prinzipien zur Förderung von KI und zur Risikominderung festlegt.
Gemeinsame Haftung
Rechtsprinzip, bei dem mehrere Parteien (z. B. Entwickler, Betreiber) die Verantwortung für KI-bedingte Schäden teilen, was Einfluss auf Vertrags- und Governance-Strukturen hat.
Gemeinsame Modellierung
Entwicklung von KI-Systemen, die mehrere Aufgaben gleichzeitig lernen (z. B. Spracherkennung + Übersetzung), wobei eine Governance für Komplexität und Überprüfbarkeit erforderlich ist.
Urteilsverzerrung
Systematische Fehler in menschlichen oder KI-Entscheidungsprozessen, die durch kognitive Abkürzungen oder fehlerhafte Daten verursacht werden, erfordern eine Überprüfung und Minderung von Verzerrungen.
Gerichtliche Überprüfung
Der rechtliche Prozess, bei dem Gerichte die Gesetzmäßigkeit von Entscheidungen prüfen, die von KI getroffen oder unterstützt werden, um Verantwortlichkeit und ordnungsgemäßen Ablauf sicherzustellen.
Rechtsraum
Die rechtliche Zuständigkeit über Daten, KI-Operationen und Haftung, die je nach geografischer Lage variiert und die Einhaltung regionaler Vorschriften beeinflusst (z. B. DSGVO, CCPA).
Juror Automatisierung
Der Einsatz von KI zur Unterstützung bei der Jury-Auswahl oder der Fallanalyse wirft ethische Bedenken hinsichtlich Fairness, Transparenz und rechtlicher Aufsicht auf.
Gerechtigkeitsmetriken
Quantitative Messgrößen (z. B. unterschiedliche Auswirkungen, Chancengleichheit), die zur Bewertung von Fairness und Nichtdiskriminierung bei KI-Entscheidungsprozessen verwendet werden.
K
Schlüsselindikator für die Leistung
Ein quantifizierbarer Messwert (z. B. Modellgenauigkeitsdrift, Zeit zur Beseitigung von Vorurteilen), der zur Überwachung und Berichterstattung über Ziele der KI-Governance und Compliance verwendet wird.
Schlüsselrisikoindikator
Ein führender Messwert (z.B. Häufigkeit von unzutreffenden Vorhersagen, Rate unerklärlicher Entscheidungen), der auf aufkommende KI-Risiken hinweist, bevor sie sich manifestieren.
Kennen Sie Ihren Kunden (KYC)
Compliance-Prozesse zur Überprüfung der Identität, des Risikoprofils und der Legitimität von Personen oder Unternehmen, die mit KI-Systemen interagieren, insbesondere in regulierten Branchen.
Wissensverdichtung
Eine Methode zur Übertragung von Erkenntnissen von einem größeren „Lehrer“-Modell auf ein kleineres „Schüler“-Modell, um Leistung mit Ressourcen- und Governance-Einschränkungen in Einklang zu bringen.
Wissensgraph
Eine strukturierte Darstellung von Entitäten und deren Beziehungen, die dazu verwendet wird, die Erklärbarkeit, Prüfbarkeit und Anpassung von KI an Domänenontologien zu verbessern.
Wissensmanagement
Praktiken und Werkzeuge zur Erfassung, Organisation und Weitergabe von Organisationswissen (z. B. Modeldokumentation, Prüfungsprotokolle), um Reproduzierbarkeit und Aufsicht sicherzustellen.
L
Etikettenleckage
Die unbeabsichtigte Aufnahme von Ausgabedaten in die Trainingsdatenetiketten, die Leistungskennzahlen beeinflussen und tatsächliche Generalisierungsprobleme des Modells verschleiern können.
Großes Sprachmodell
Ein Deep-Learning-Modell, das auf umfangreichen Textkorpora trainiert wurde und Aufgaben wie Textgenerierung, Übersetzung und Zusammenfassung ausführen kann, wobei oft eine sorgfältige Steuerung von Vorurteilen und Missbrauch erforderlich ist.
Minimale Agenturabhängigkeit
Ein Sicherheits- und Governance-Prinzip, das besagt, dass KI-Agenten nur das minimale Maß an Autonomie und Werkzeugzugriff gewährt werden sollte, das zur Erfüllung einer bestimmten Aufgabe erforderlich ist.
Prinzip der minimalen Rechte
Ein Sicherheitsprinzip, bei dem KI-Komponenten und Benutzer nur die minimal erforderlichen Zugriffsrechte erhalten, die notwendig sind, um ihre Funktionen auszuführen, wodurch das Risiko eines Missbrauchs verringert wird.
Rechtliche Konformität
Die Praxis, sicherzustellen, dass KI-Systeme während ihres gesamten Lebenszyklus den geltenden Gesetzen, Vorschriften und Industriestandards entsprechen.
Haftungsrahmen
Ein strukturierter Ansatz zur Bestimmung der Verantwortlichkeiten bei KI-bezogenen Schäden oder Ausfällen, einschließlich Entwicklern, Implementierern und Betreibern.
Lebenszyklusmanagement
Die koordinierten Prozesse für Entwicklung, Bereitstellung, Überwachung, Wartung und Außerdienststellung von KI-Systemen, um kontinuierliche Compliance und Risikokontrolle sicherzustellen.
Lebendigkeitserkennung
Techniken, die verwendet werden, um zu überprüfen, dass eine Eingabe (z. B. biometrische Daten) von einem lebenden Subjekt stammt und nicht von einem Spoof oder Replay, wodurch die Systemsicherheit und Integrität verbessert wird.
Lokalisierung
Anpassung von KI-Systemen an lokale Sprachen, Vorschriften, kulturelle Normen und Anforderungen an die Datenresidenz in verschiedenen Gerichtsbarkeiten.
Protokollverwaltung
Die Sammlung, Speicherung und Analyse von System- und Anwendungsprotokollen aus AI-Workflows zur Unterstützung von Audits, Reaktionsmaßnahmen auf Vorfälle und der Nachverfolgung von Modellleistung.
Verlustfunktion
Eine mathematische Funktion, die den Unterschied zwischen vorhergesagten Ausgaben und tatsächlichen Werten quantifiziert und die Modellschulung und -optimierung steuert.
M
Marktüberwachungsbehörde
Die nationale Regulierungsbehörde in jedem EU-Mitgliedstaat, die für die Überwachung von KI-Systemen zuständig ist, um deren Einhaltung des EU-KI-Gesetzes (EU AI Act) sicherzustellen.
MAS-FEAT-Prinzipien
Die Richtlinien der Monetary Authority of Singapore für Fairness, Ethik, Rechenschaftspflicht und Transparenz (FEAT) beim Einsatz von KI im Finanzwesen.
Bedeutungsvolle Menschliche Kontrolle
Ein regulatorischer und betrieblicher Standard, der sicherstellt, dass Menschen die Fähigkeit behalten, AI-Entscheidungsprozesse zu überwachen, einzugreifen und zu übersteuern.
Metadatenverwaltung
Die Praxis der Erfassung und Pflege beschreibender Daten (z. B. Datenherkunft, Merkmaldefinitionen, Modellparameter), um Rückverfolgbarkeit und Audits zu unterstützen.
Kennzahlen & Leistungsindikatoren
Quantitative Maße (z.B. Abweichung der Genauigkeit, Fairness-Scores, Reaktionszeiten bei Vorfällen), die zur Überwachung der Systemgesundheit, Risiken und Compliance-Ziele von KI-Systemen verwendet werden.
Mexikanisches Bundesgesetz über KI und Algorithmen
Ein Entwurf für ein mexikanisches Bundesgesetz zu KI und Algorithmen, das ein risikobasiertes Klassifizierungssystem, die Nationale KI-Kommission (CONAIA) sowie Anforderungen an die Kennzeichnung von KI-generierten Inhalten mittels Wasserzeichen vorschlägt.
Minderungsstrategien
Geplante Maßnahmen (z. B. Beseitigung von Voreingenommenheit, erneutes Training, Feature-Re-Engineering) zur Behebung identifizierter KI-Risiken und Compliance-Lücken.
Minnesota CDPA (Bestimmungen zur künstlichen Intelligenz)
Die KI-spezifischen Komponenten des Minnesota Consumer Data Privacy Act.
Modellkarte
Ein kurzes, standardisiertes Dokument mit wesentlichen Informationen über die Leistung, Einschränkungen und beabsichtigten Anwendungsfälle eines Machine-Learning-Modells.
Modell-Herausgabe
Eine aufsichtsrechtliche Maßnahme, die ein Unternehmen dazu verpflichtet, KI-Modelle oder -Algorithmen zu löschen, welche unter Verwendung unzulässig oder rechtswidrig erlangter Daten entwickelt wurden.
Modellabweichung
Der fortschreitende Qualitätsverlust der Vorhersageleistung eines KI-Modells im Laufe der Zeit, verursacht durch Veränderungen von realen Daten oder Umweltbedingungen.
Modellerklärbarkeit
Techniken und Dokumentation, die die Entscheidungslogik eines KI-Modells verständlich für Stakeholder und Prüfer machen.
Modellführung
Die Richtlinien, Rollen und Kontrollen, die sicherstellen, dass KI-Modelle in Übereinstimmung mit den organisatorischen Standards und regulatorischen Anforderungen entwickelt, genehmigt und verwendet werden.
Modellüberwachung
Kontinuierliches Überwachen der Leistung eines KI-Modells, der Datenverschiebung und der Betriebskennzahlen zur Erkennung von Verschlechterungen oder aufkommenden Risiken.
Modell-Neutraining
Der Prozess der Aktualisierung eines KI-Modells mit neuen oder aktualisierten Daten, um die Leistung und die Einhaltung der Vorschriften aufrechtzuerhalten, während sich die Datenverteilung weiterentwickelt.
Modellrisikomanagement
Der strukturierte Prozess zur Identifizierung, Bewertung und Minderung von Risiken, die sich aus KI/ML-Modellen während ihres gesamten Lebenszyklus ergeben.
Modellvalidierung
Die Evaluierungstätigkeiten (z. B. Tests mit zurückgestellten Daten, Stressszenarien), die bestätigen, dass ein KI-Modell seinen vorgesehenen Zweck und die Leistungskriterien erfüllt.
Engagement von mehreren Interessengruppen
Einbeziehung verschiedener Gruppen (z. B. Recht, Ethik, Betrieb, Endbenutzer) in die Prozesse der KI-Governance, um eine ausgewogene Risikokontrolle und die Ausrichtung auf Unternehmensziele sicherzustellen.
N
Verarbeitung natürlicher Sprache (NLP)
Techniken und Werkzeuge, die Maschinen ermöglichen, menschliche Sprache in Text- oder Sprachform zu interpretieren, zu generieren und zu analysieren.
Netzwerksicherheit
Maßnahmen und Kontrollen (z. B. Segmentierung, Firewalls, Eindringungserkennung), um die KI-Infrastruktur und Datenpipelines vor unbefugtem Zugriff oder Manipulation zu schützen.
Neuronale Architektur-Suche
Automatisierte Methoden zur Gestaltung und Optimierung von neuronalen Netzwerkstrukturen, um die Modellleistung zu verbessern, während die Komplexität und Ressourcenbeschränkungen ausgewogen werden.
NIST KI-Risikomanagement-Rahmenwerk
Eine freiwillige Anleitung des US-amerikanischen National Institute of Standards and Technology, die bewährte Verfahren zur Risikominderung über den gesamten Lebenszyklus von KI-Systemen darlegt.
NIST AI RMF-Profile
Kontextspezifische Implementierungen des NIST AI Risk Management Frameworks, die speziell auf bestimmte Branchen, Technologien oder Risikoarten zugeschnitten sind.
Rauschinjektion
Gezielte Einführung zufälliger Störungen in Trainingsdaten oder Modellparameter, um die Robustheit zu erhöhen und gegen manipulative Angriffe zu schützen.
Nicht-menschliche Identität (NHI)
Digitale Anmeldedaten, die von einem KI-Agenten, Bot oder Dienst verwendet werden, um sich gegenüber Unternehmenssystemen zu authentifizieren und mit diesen zu interagieren.
Benannte Stelle
Eine unabhängige Drittorganisation, die von einem EU-Mitgliedstaat benannt wird, um die Konformität bestimmter KI-Systeme mit hohem Risiko gemäß dem EU-KI-Gesetz zu bewerten.
Neuartigkeitserkennung
Techniken zur Identifizierung von Eingaben oder Szenarien, die erheblich von den Trainingsdaten abweichen und eine Überprüfung oder einen Sicherheitsmodus auslösen, um unerwartete Ausfälle zu verhindern.
NYC Local Law 144
Ein Gesetz der Stadt New York, das jährliche Audits zur Überprüfung von Voreingenommenheit bei KI-Tools vorschreibt, die für Personalentscheidungen eingesetzt werden.
O
Beobachtbarkeit
Die Fähigkeit, den internen Zustand und das Verhalten eines KI-Systems durch die Sammlung und Analyse von Protokollen, Metriken und Ausgaben für effektive Überwachung und Fehlerbehebung abzuleiten.
OMB-Memorandum M-25-21
Eine bundesweit geltende Richtlinie, die Anforderungen an die Governance und das Risikomanagement von KI für Behörden der US-Regierung festlegt.
Fortlaufende Überwachung
Kontinuierliches Tracking der Leistung von KI-Systemen, Datenverschiebungen, Verzerrungsmessungen und Sicherheitsereignissen, um auftretende Risiken im Laufe der Zeit zu erkennen und zu adressieren.
Deckkraft
Das Fehlen von Transparenz bei der Art und Weise, wie ein KI-Modell Entscheidungen oder Vorhersagen trifft, stellt Herausforderungen für das Vertrauen und die Einhaltung von Vorschriften dar.
Operative Autonomie
Die Fähigkeit eines KI-Systems, mehrstufige Aufgaben auszuführen und Entscheidungen zu treffen, ohne dass in jeder Phase ein menschliches Eingreifen erforderlich ist.
Betriebliche Resilienz
Die Fähigkeit von KI-Systemen und deren unterstützender Infrastruktur, Störungen oder widrigen Ereignissen vorherzusehen, ihnen standzuhalten, sich davon zu erholen und sich anzupassen.
Orchestrierung
Die automatisierte Orchestrierung von KI-Workflows und -Services – von der Datenaufnahme über das Modelltraining bis hin zur Bereitstellung – gewährleistet die Einhaltung von Richtlinien sowie eine effektive Ressourcen-Governance.
Ausreißererkennung
Techniken zur Identifizierung von Datenpunkten oder Modellvorhersagen, die erheblich von den erwarteten Mustern abweichen und Überprüfungs- oder Abhilfemaßnahmen auslösen.
Risiko der Ausgabe
Die operationellen, rechtlichen und reputationsbezogenen Risiken, die sich aus der Verwendung fehlerhafter, voreingenommener oder schädlicher Inhalte ergeben, die von einem KI-System generiert wurden.
Überanpassung
Ein Modellierungsproblem, bei dem ein KI-System Rauschen oder Eigenheiten in den Trainingsdaten erlernt und dadurch seine Fähigkeit zur Verallgemeinerung auf neue, unsichtbare Daten verringert.
Überblick
Der strukturierte Prozess der Überprüfung, Genehmigung und Verantwortlichkeit für die Entwicklung und Bereitstellung von KI, der typischerweise funktionsübergreifende Governance-Instanzen umfasst.
OWASP Agentic Top 10
Eine formale Taxonomie der zehn kritischsten Sicherheitsrisiken, die spezifisch für autonome KI-Agenten und deren Anwendungsumgebungen sind.
Eigentum
Die klare Zuweisung von Verantwortung und Befugnissen für KI-Assets – Daten, Modelle, Prozesse – zur Sicherstellung der Rechenschaftspflicht über den gesamten Systemlebenszyklus hinweg.
P
Parametrisches Wissen
Die Informationen, die ein KI-Modell während seines Trainingsprozesses lernt und in seinen Gewichtungen und Parametern speichert.
Governance für den standardisierten Entwicklungspfad
Eine Strategie, die Compliance fördert, indem autorisierte, sichere Workflows einfacher zu befolgen sind als nicht autorisierte Alternativen.
Berechtigungsverwaltung
Die Verwaltung von Benutzer- und Systemzugriffsrechten auf KI-Daten und -Funktionen, um sicherzustellen, dass nur die minimalen erforderlichen Rechte vergeben werden und unbefugte Nutzung verhindert wird.
Pilotversuche
Ein begrenzter Versuch eines KI-Systems in einer kontrollierten Umgebung, um Leistung, Risiken und Governance-Kontrollen vor der vollständigen Einführung zu bewerten.
Richtlinienumsetzung
Die automatisierten oder manuellen Mechanismen, die sicherstellen, dass KI-Operationen den organisatorischen Richtlinien, regulatorischen Vorschriften und ethischen Leitlinien entsprechen.
Überwachungen nach der Bereitstellung
Fortlaufende Beobachtung des Verhaltens und der Umgebung von KI-Systemen nach deren Freigabe, um Abbau, Abweichungen oder Verstöße gegen die Compliance zu erkennen.
PRA SS1/23 (Management von Modellrisiken)
Die Erklärung der britischen Prudential Regulation Authority zum Modellrisikomanagement für Banken und Versicherer.
Vorausschauende Wartung
KI-gesteuerte Überwachung und Analyse zur Vorhersage von Komponenten- oder Systemausfällen, um die Betriebskontinuität zu gewährleisten und Risiken in kritischen Umgebungen zu mindern.
Konformitätsvermutung
Ein rechtlicher Mechanismus im Rahmen des EU-KI-Gesetzes und anderer Regelungen, bei dem die Einhaltung eines harmonisierten Standards (z. B. eines veröffentlichten EN-Standards) die widerlegbare Annahme begründet, dass die zugrunde liegende Verordnung erfüllt ist.
Datenschutz durch Design
Ein Ansatz, der Datenschutz und die Privatsphäre der Nutzer von Anfang an in die Architektur und die Prozesse des KI-Systems einbindet.
Datenschutz-Folgenabschätzung
Eine strukturierte Analyse zur Identifizierung und Minderung von Datenschutzrisiken im Zusammenhang mit KI-Systemen, die Datenerfassung, -nutzung, -weitergabe und -speicherung abdeckt.
Probabilistisches System
Ein System, dessen Ergebnisse auf statistischen Wahrscheinlichkeiten basieren und nicht auf einer deterministischen, festen Logik.
Prozessautomatisierung
Der Einsatz von KI und Workflow-Tools zur Straffung von Governance, Compliance-Prüfungen und Risikominderungsaktivitäten, wodurch manueller Aufwand und Fehler verringert werden.
F
Qualitative Bewertung
Die subjektive Überprüfung von Verhaltensweisen, Entscheidungen und Dokumentationen von KI-Systemen durch Experten, um ethische, rechtliche oder rufschädigende Bedenken zu identifizieren, die quantitativ nicht erfasst werden.
Qualitätssicherung
Die systematischen Prozesse und Überprüfungen zur Sicherstellung, dass KI-Modelle und Datenpipelines definierte Standards für Genauigkeit, Zuverlässigkeit und ethische Konformität erfüllen.
Qualitätskontrolle
Die fortlaufende Überprüfung von AI-Ergebnissen und -Prozessen anhand von Benchmarks und Testfällen, um Mängel, Vorfälle von Voreingenommenheit oder Verstöße gegen Richtlinien aufzudecken.
Quantitative Risikoanalyse
Eine datenbasierte Bewertung potenzieller Bedrohungen durch KI, die Wahrscheinlichkeiten und Auswirkungen numerisch abschätzt, um Priorisierungsmaßnahmen zu ermöglichen und Risikokontrollstrategien zu optimieren.
Quantencomputing
Das aufstrebende Rechenparadigma, das die Quantenmechanik nutzt und neue Herausforderungen in Bezug auf Sicherheit, Standardisierung und Risiko aufwirft.
Abfrageprotokollierung
Die Praxis der Aufzeichnung von KI-Systemeingaben und Benutzeranfragen, um Prüfpfade zu ermöglichen, Missbrauch zu erkennen und Verantwortlichkeit zu unterstützen.
Datenschutz bei Abfragen
Techniken und Richtlinien zum Schutz sensibler Informationen in Benutzeranfragen, um sicherzustellen, dass aufgezeichnete Eingaben keine persönlichen oder proprietären Daten gefährden.
Fragebogenrahmen
Ein strukturierter Satz von governance-orientierten Fragen, der während der Gestaltung, Beschaffung oder Implementierung verwendet wird, um sicherzustellen, dass KI-Systeme mit den Anforderungen der Richtlinien übereinstimmen.
Beschlussfähigkeit des Governance Boards
Die Mindestanzahl der erforderlichen Mitglieder des Governance-Ausschusses, die anwesend sein müssen, um offizielle Entscheidungen über KI-Risiken, Genehmigungen von Richtlinien oder Prüfergebnisse zu treffen.
Kontingentverwaltung
Die Steuerungen und Begrenzungen der Nutzung von KI-Ressourcen (z. B. API-Aufrufe, Rechenzeit), um Governance-Richtlinien durchzusetzen und unkontrollierte Kosten oder Missbrauch zu verhindern.
R
Argumentationskette
Der mehrstufige logische Prozess, dem ein KI-Agent folgt, um von einer ursprünglichen Zielsetzung zu einer finalen Aktion oder Ausgabe zu gelangen.
Rückgriff
Mechanismen, die betroffenen Personen ermöglichen, KI-gesteuerte Entscheidungen, die ihre Rechte oder Interessen betreffen, anzufechten oder eine Abhilfe zu suchen.
Rotes Teaming
Ein proaktiver Testansatz, bei dem interne oder externe Experten Angriffe oder Missbrauchsszenarien simulieren, um Schwachstellen in KI-Systemen aufzudecken.
Regulatorische Konformität
Sicherstellung, dass KI-Systeme während ihres gesamten Betriebs die geltenden Gesetze, Vorschriften und Industriestandards (z. B. DSGVO, FDA, finanzielle Aufsicht) einhalten.
Reproduzierbarkeit
Die Fähigkeit, die Ergebnisse von KI-Modellen unter Verwendung derselben Daten, Codes und Konfigurationen konstant zu reproduzieren, wodurch Transparenz und Prüfbarkeit sichergestellt werden.
Verantwortlichkeitszuordnungsmatrix
Ein Instrument (z. B. RACI), das Rollen und Zuständigkeiten für jede Governance-Aktivität klar definiert – also festlegt, wer verantwortlich, gesamtverantwortlich, zu konsultieren und zu informieren ist.
Verantwortungsvolle KI
Die Praxis des Entwerfens, Entwickelns und Bereitstellens von KI-Systemen auf eine Weise, die ethisch, transparent und rechenschaftspflichtig gegenüber den Interessengruppen und der Gesellschaft ist.
Risikobewertung
Der Prozess der Identifizierung, Analyse und Priorisierung potenzieller Schäden oder Ausfälle in KI-Systemen, um geeignete Minderungsstrategien zu bestimmen.
Risikomanagement-Rahmenwerk
Eine strukturierte Reihe von Richtlinien und Prozessen zur systematischen Bewältigung von KI-Risiken über den gesamten Lebenszyklus des Systems, von der Gestaltung bis zur Außerbetriebnahme.
Robustheit
Die Fähigkeit eines KI-Systems, unter einer Vielzahl von herausfordernden oder gegnerischen Bedingungen eine zuverlässige Leistung zu erbringen.
Ursachenanalyse
Eine strukturierte Untersuchung, um die zugrunde liegenden Gründe für das Versagen von KI-Systemen oder unerwartetem Verhalten zu bestimmen und korrigierende Maßnahmen zu leiten.
S
Genehmigte Nutzungsrichtlinie
Definierte Regeln und Kontrollen, die zugelassene Kontexte, Benutzer und Zwecke für den Betrieb von KI-Systemen spezifizieren, um Missbrauch zu verhindern.
Sicherheit durch Design
Die Integration von Sicherheitskontrollen und bewährten Praktiken in KI-Systeme von den frühesten Designphasen an, um Schwachstellen und Datenverletzungen zu verhindern.
Schattenakteur_innen
Nicht autorisierte, autonome KI-Agenten, die ohne das Wissen des Governance-Teams innerhalb einer Organisation bereitgestellt werden und in der Lage sind, Aktionen auszuführen, die sich auf Geschäftssysteme und externe Parteien auswirken.
Schatten-KI
Die unautorisierte Verwendung von KI-Modellen, -Agenten oder -Werkzeugen durch Mitarbeiter ohne Genehmigung der IT-Abteilung schafft verdeckte Sicherheitslücken durch Datenleckagen und unbefugte autonome Aktionen.
Modell-Rahmenwerk für KI-Governance in Singapur
Ein freiwilliger Leitfaden der singapurischen Behörden IMDA und PDPC für die verantwortungsvolle Implementierung künstlicher Intelligenz.
KI-Basisgesetz für Südkorea
Südkoreas umfassender rechtlicher Rahmen für die Entwicklung und das Vertrauen in KI.
Bewertung der gesellschaftlichen Auswirkungen
Eine strukturierte Bewertung, wie ein KI-System die sozialen, wirtschaftlichen und kulturellen Aspekte von Gemeinschaften beeinflusst, wobei mögliche Schäden und Vorteile identifiziert werden.
Software-Entwicklungslebenszyklus
Der End-to-End-Prozess (Anforderungen, Design, Erstellung, Test, Bereitstellung, Überwachung) für KI-Anwendungen, der in jeder Phase Governance- und Compliance-Prüfungen integriert.
SR 11-7 (Modellrisikomanagement)
Die grundlegenden Leitlinien der US-Notenbank Federal Reserve für das Risikomanagement im Zusammenhang mit dem Einsatz von Modellen im Bankenwesen.
Stakeholder-Engagement
Der Prozess der Einbeziehung betroffener Parteien (z.B. Benutzer, Regulierungsbehörden, betroffene Gemeinschaften) in die Entwicklung und Überwachung von KI, um vielfältige Perspektiven und Unterstützung sicherzustellen.
Erklärung zur Anwendbarkeit (Statement of Applicability, SoA)
Ein Dokument, das bestimmt, welche Kontrollen aus dem ISO 42001 Anhang A für das KI-Managementsystem einer Organisation relevant sind, und erläutert, warum andere ausgeschlossen wurden.
Wesentliche Änderung
Eine Änderung an einem KI-System nach dessen Inverkehrbringen, die sich auf seine Konformität oder seinen bestimmungsgemäßen Zweck gemäß dem KI-Gesetz der EU auswirkt.
Überwachungsrisiko
Die Bedrohung, dass KI-Systeme für invasive Überwachung von Einzelpersonen oder Gruppen ausgenutzt werden könnten, wobei die Privatsphäre und bürgerliche Freiheiten verletzt werden.
Synthetische Daten
Künstlich generierte Datensätze, die reale Datenverteilungen nachahmen und zur Erweiterung von Trainingssätzen verwendet werden, während der Datenschutz gewahrt bleibt.
System der Aufzeichnung
Die maßgebliche Datenquelle für ein bestimmtes Datenelement oder eine Information innerhalb einer Organisation.
Schwellenwert für systemisches Risiko
Der technische oder fähigkeitsbasierte Grenzwert (z. B. 10^25 FLOPs), ab dem ein Allzweck-KI-Modell als mit einem hohen Risiko für die Gesellschaft verbunden eingestuft wird.
T
Extremes Risiko
Das Potenzial für seltene, extreme Ergebnisse im Verhalten oder in der Entscheidungsfindung von KI, die außerhalb normaler Erwartungen liegen und spezielle Maßnahmenplanung erfordern.
Testen & Validierung
Der systematische Prozess der Bewertung von KI-Modellen anhand von Benchmark-Tests, speziellen Randfällen und Belastungsbedingungen, um sicherzustellen, dass sie Leistungs-, Sicherheits- und Compliance-Kriterien erfüllen.
Risiko durch Dritte
Das Risiko, das sich aus der Abhängigkeit von externen Datenanbietern, Modelllieferanten oder Dienstleistungsplattformen ergibt, die möglicherweise Compliance- oder Sicherheitsanfälligkeiten einführen.
Schwellenwert Einstellung
Festlegung von Grenzen oder Grenzwerten in KI-Entscheidungsregeln (z. B. Vertrauenswerte), um Risiken wie falsch-positive gegenüber falsch-negativen Ergebnissen auszubalancieren.
Rückverfolgbarkeit
Die Fähigkeit, jeden Schritt im KI-Lebenszyklus – von der Datenerfassung über die Modellentwicklung bis hin zur Bereitstellung – nachzuverfolgen und zu dokumentieren, um Audits und forensische Analysen zu unterstützen.
Schulungsdatensatz
Die kuratierte Sammlung von gelabelten oder ungelabelten Daten, die verwendet wird, um einem KI-Modell die Beziehungen und Muster beizubringen, die es lernen muss, um seine Aufgabe auszuführen.
Transfer-Lernen
Eine Technik, bei der ein für eine Aufgabe entwickeltes Modell für eine verwandte Aufgabe angepasst wird. Dies verkürzt die Entwicklungszeit, erfordert jedoch eine Steuerung der übernommenen Vorurteile.
Transparenz
Die Praxis, Prozesse von KI-Systemen, Entscheidungslogik und Datennutzung für Transparenz und Verständlichkeit gegenüber Stakeholdern klar darzustellen.
Trilog
Die informelle dreiseitige Verhandlung zwischen der Europäischen Kommission, dem Rat der Europäischen Union und dem Europäischen Parlament, die zur Erzielung einer politischen Einigung über EU-Rechtsvorschriften vor deren formeller Annahme dient.
Verlässliche KI
KI-Systeme, die in einer Weise entworfen und betrieben werden, die ethisch, zuverlässig, sicher und im Einklang mit menschlichen Werten und gesellschaftlichen Normen steht.
Sie
Aktionsplan für KI-Chancen im Vereinigten Königreich
Der strategische Fahrplan der britischen Regierung zur Maximierung der Vorteile von KI bei gleichzeitiger Etablierung gezielter, verbindlicher Sicherheitsregeln.
Unteranpassung
Ein Modellierungsproblem, bei dem ein KI-System zu einfach ist, um zugrunde liegende Datenmuster zu erfassen, was zu einer schlechten Leistung sowohl bei Trainingsdaten als auch bei neuen Daten führt.
Einheitlichkeit
Sicherstellung einer konsistenten Anwendung von Richtlinien, Kontrollen und Standards über alle KI-Systeme hinweg, um Governance-Lücken oder ungleiche Risikomanagementpraktiken zu vermeiden.
Unüberwachtes Lernen
Ein maschineller Lernansatz, bei dem Modelle Muster oder Gruppierungen in nicht gekennzeichneten Daten erkennen, ohne explizite Ergebnisanweisungen.
Verfügbarkeitsüberwachung
Kontinuierliche Überwachung der Verfügbarkeit und Leistung von KI-Systemen, um Ausfälle oder Leistungseinbußen zu erkennen, die kritische Abläufe oder Compliance-Verpflichtungen beeinträchtigen könnten.
Anwendungsfall-Governance
Die Praxis der Definition, Genehmigung und Überwachung spezifischer KI-Anwendungsfälle, um sicherzustellen, dass jeder mit den organisatorischen Richtlinien, ethischen Standards und der Risikobereitschaft übereinstimmt.
Benutzerzustimmung
Der Prozess des Einholens und Aufzeichnens ausdrücklicher Zustimmung von Einzelpersonen, bevor ihre persönlichen Daten in KI-Systemen gesammelt, verarbeitet oder verwendet werden.
Dienstprogramm
Ein Maß dafür, wie wertvoll oder effektiv ein KI-System bei der Erreichung seiner vorgesehenen Ziele ist, im Verhältnis zu den damit verbundenen Risiken oder Ressourcenaufwendungen.
V
Validierung
Der Prozess der Bestätigung, dass ein KI-Modell genaue und zuverlässige Leistungen bei den vorgesehenen Aufgaben erbringt und definierte Leistungskriterien erfüllt.
Varianzüberwachung
Verfolgung von Schwankungen in den Ausgaben von KI-Modellen oder Leistungskennzahlen im Laufe der Zeit, um Drift zu erkennen und potenziellen Abbau oder Risiken zu ermitteln.
Lieferantenrisikomanagement
Bewertung und Überwachung von Drittanbietern von KI-Komponenten oder -Dienstleistungen zur Identifizierung und Minderung potenzieller Compliance-, Sicherheits- oder ethischer Risiken.
Versionskontrolle
Die Praxis, Änderungen an KI-Code, Modellen und Datensätzen im Laufe der Zeit zu verwalten und nachzuverfolgen, um Reproduzierbarkeit und Prüfbarkeit sicherzustellen.
Versions-Pinning
Die Vorgehensweise, ein KI-System auf eine bestimmte, getestete Version eines Basismodells festzulegen, um zu verhindern, dass unangekündigte Updates das Systemverhalten verändern.
Vetorecht
Das formale Recht, das von einem Governance-Gremium oder einem Stakeholder ausgeübt wird, um AI-Implementierungen, die unannehmbare Risiken darstellen, zu blockieren oder Änderungen zu verlangen.
Überwachungsinstrument
Kontinuierliche Überwachung des Verhaltens von KI und externer Signale (z.B. regulatorische Aktualisierungen), um aufkommende Risiken oder Nicht-Einhaltungen frühzeitig zu erkennen und darauf zu reagieren.
Visuelle KI-Überwachung
Die Governance-Prozesse, die speziell für Computer-Vision-Systeme entwickelt wurden, gewährleisten die Datenqualität, führen Bias-Prüfungen durch und sorgen für Transparenz bei auf Bild/Video basierenden Entscheidungsprozessen.
Schwachstellenbewertung
Identifizierung, Analyse und Priorisierung von Sicherheitsschwächen in AI-Infrastrukturen und -Anwendungen zur Steuerung von Behebungsmaßnahmen.
W
Watchdog-Überwachung
Unabhängige Laufzeitprüfungen, die KI-Entscheidungen überwachen und Warnungen oder Eingriffe auslösen, wenn Richtlinien oder Schwellenwerte überschritten werden.
Wasserzeichenerstellung
Die Praxis, erkennbare, maschinenlesbare Herkunftsmarkierungen in KI-generierten Inhalten wie Bildern, Audio, Video und synthetischem Text einzubetten, damit nachgelagerte Konsumenten und Plattformen diese Inhalte als KI-generiert identifizieren können.
Gewichtskontrolle
Untersuchung von Modellgewichten und -strukturen auf Anomalien, Hintertüren oder Vorurteile, die auf Manipulationen oder unbeabsichtigte Verhaltensweisen hindeuten könnten.
White-Box-Tests
Bewertung von KI-Systemen mit umfassendem Wissen über interne Abläufe (Code, Parameter, Architektur), um Korrektheit, Sicherheit und Compliance zu überprüfen.
Richtlinie zur Zulassungsliste/Sperrliste
Governance-Regel, die erlaubte (Whitelist) und nicht erlaubte (Blacklist) Eingaben, Funktionen oder Vorgänge definiert, um die Einhaltung der Vorschriften zu gewährleisten und Missbrauch zu verhindern.
Positivliste
Nur vorab genehmigte Datenquellen, Bibliotheken oder Modellkomponenten in KI-Pipelines zuzulassen, um das Risiko durch nicht überprüfte oder bösartige Elemente zu reduzieren.
Arbeitsablauf-Orchestrierung
Automatisierung und Sequenzierung von KI-Lebenszyklusaufgaben (Datenaufnahme, Training, Validierung, Bereitstellung), um Governance-Richtlinien durchzusetzen und Konsistenz sicherzustellen.
Arbeitslasttrennung
Trennung von KI-Computing-Umgebungen (z. B. Entwicklung, Test, Produktion) und Datenbereichen, um den Ausbreitungsradius von Fehlern oder Sicherheitsverletzungen zu begrenzen.
Worst-Case-Analyse
Bewertung der extremsten potenziellen Ausfälle oder Missbräuche eines KI-Systems, um solide Risikominderungs- und Notfallplanungsstrategien zu entwickeln.
Speicher für einmaliges Schreiben und mehrfaches Lesen (WORM)
Unveränderlicher Speicher gewährleistet, dass Protokolle, Prüfpfade und Modellartefakte nach dem Schreiben nicht mehr verändert werden können, was die Nichtabstreitbarkeit unterstützt und eine forensische Überprüfung ermöglicht.
X
X-Validierung
Eine Modellvalidierungstechnik (häufig als „X-Val“ abgekürzt), die Daten in Falten aufteilt, um die Generalisierung des Modells rigoros zu bewerten und Überanpassung zu erkennen.
XAI-Prüfung
Ein Überprüfungsprozess, der bewertet, ob die Ausgaben zur Erklärbarkeit von KI den internen Richtlinien und behördlichen Anforderungen entsprechen und ausreichende Transparenz gewährleisten.
XAI (Erklärbare KI)
Techniken und Methoden, die den Entscheidungsprozess eines KI-Modells für Menschen transparent und verständlich machen und somit Verantwortlichkeit und Compliance unterstützen.
XAI-Framework
Ein strukturierter Ansatz oder ein Satz von Richtlinien, den Organisationen verwenden, um die Umsetzbarkeit, Messung und Steuerung von Erklärbarkeitspraktiken in ihren KI-Systemen zu implementieren und zu verwalten.
XAI-Metriken
Quantitative oder qualitative Messgrößen (z. B. Wichtigkeitsscores von Funktionen, Erklärungsgenauigkeit), die zur Bewertung der Qualität und Zuverlässigkeit von KI-Erklärungen verwendet werden.
Ja
YARA-Regeln
Ein Satz von signaturbasierten Erkennungsmustern, die verwendet werden, um KI-Pipelines und Artefakte auf bekannte bösartige Codes oder Manipulationen zu überprüfen.
Jährliche Compliance-Überprüfung
Eine jährliche Bewertung der KI-Governance-Prozesse, -Richtlinien und -Systeme, um die fortwährende Einhaltung von Vorschriften und internen Standards sicherzustellen.
Z
Zero-Day-Schwachstelle
Eine zuvor unbekannte Sicherheitslücke in der KI-Software oder -Infrastruktur, die ausgenutzt werden kann, bevor ein Patch oder eine Abhilfe verfügbar ist.
Null-Fehlertoleranz
Ein Governance-Prinzip, das darauf abzielt, keine Fehler oder Richtlinienverstöße in den KI-Ergebnissen zuzulassen, unterstützt durch rigorose Tests, Überwachung und kontinuierliche Verbesserungszyklen.
Null-Schuss-Lernen
Eine Modellfähigkeit, Aufgaben korrekt zu bewältigen oder Daten zu klassifizieren, auf die es nie explizit trainiert wurde, indem es generalisierte Wissensdarstellungen nutzt.
Zonenbasierte Zugriffskontrolle
Ein Netzwerk- oder Daten-Governance-Ansatz, der Ressourcen in Zonen mit unterschiedlichen Richtlinien unterteilt und den Zugriff von KI-Systemen gemäß der Datenempfindlichkeit einschränkt.
Abonnieren Sie unseren Newsletter
Indem Sie sich anmelden, stimmen Sie der Enzai Datenschutzerklärung zu.
Abonnieren Sie unseren Newsletter
Indem Sie sich anmelden, stimmen Sie der Enzai Datenschutzerklärung zu.
Abonnieren Sie unseren Newsletter
Indem Sie sich anmelden, stimmen Sie der Enzai Datenschutzerklärung zu.
Abonnieren Sie unseren Newsletter
Indem Sie sich anmelden, stimmen Sie der Enzai Datenschutzerklärung zu.
KI-Governance
KI-Governance
Infrastruktur
Infrastruktur
Entwickelt für Vertrauen.
Entwickelt für Vertrauen.
Ermöglichen Sie Ihrer Organisation die Einführung, Steuerung und Überwachung von KI mit unternehmensgerechtem Vertrauen. Entwickelt für regulierte Organisationen, die im großen Maßstab operieren.
Verbinden Sie nahtlos Ihre bestehenden Systeme, Richtlinien und KI-Workflows – alles auf einer einheitlichen Plattform.
Verbinden Sie nahtlos Ihre bestehenden Systeme, Richtlinien und KI-Workflows – alles auf einer einheitlichen Plattform.