Definierte Regeln und Kontrollen, die zugelassene Kontexte, Benutzer und Zwecke für den Betrieb von KI-Systemen spezifizieren, um Missbrauch zu verhindern.
Ein formelles Richtliniendokument – durch technische Kontrollen (rollenbasierter Zugriff, Policy-as-Code-Engines) durchgesetzt – das festlegt, wer ein KI-System für welche Aufgaben und unter welchen Bedingungen nutzen darf. Es führt verbotene Anwendungsfälle auf (z. B. Massenüberwachung, irreführende Werbung), erforderliche Genehmigungen für sensible Vorgänge sowie Überwachungsprotokolle. Die Governance automatisiert Richtlinienprüfungen zur Laufzeit und überprüft Richtlinien regelmäßig, um neue Risiken oder regulatorische Änderungen zu erfassen.
Die Richtlinie eines Forschungslabors zur zulässigen Nutzung verlangt von jedem Team, das seine Gesichtserkennungs-API verwenden möchte, eine Genehmigung durch das Ethikkomitee einzuholen, Endnutzer-Lizenzvereinbarungen zu unterzeichnen, die Überwachung untersagen, und jeden einzelnen Aufruf zu protokollieren. Ein Policy-Engine-Gateway setzt diese Regeln auf der API-Ebene automatisch durch.
