Glossar
Aktualisiert
Obwohl es sich nicht um eine formelle Stufe in der Risikopyramide des EU AI Act handelt, überschneiden sich Dual-Use-Konzepte häufig mit GPAI-Modellen (KI-Modelle mit allgemeinem Verwendungszweck) mit systemischem Risiko. Diese Modelle verfügen über Fähigkeiten (wie fortschrittliche chemische Synthese oder die Planung von Cyberangriffen), die Red-Teaming-Tests und Sicherheitsberichte an das EU-KI-Büro erfordern, um deren Missbrauch im Kontext der nationalen Sicherheit zu verhindern.
Beispiel
Ein Technologiekonzern veröffentlicht ein Modell, das sowohl Gedichte als auch funktionsfähige Schadsoftware schreiben kann. Aufgrund dieses Dual-Use-Potenzials muss der Anbieter die Sicherheitsergebnisse des Red-Teamings mit den staatlichen Regulierungsbehörden teilen.