Zuletzt aktualisiert am:
Definierte Richtlinien und Kontrollen, die autorisierte Kontexte, Benutzer und Verwendungszwecke für den Betrieb von KI-Systemen festlegen, um Missbrauch zu verhindern.
Ein formelles Richtliniendokument – durchgesetzt mittels technischer Kontrollen (rollenbasierte Zugriffskontrolle, Policy-as-Code-Engines) –, das festlegt, wer ein KI-System für welche Aufgaben und unter welchen Bedingungen nutzen darf. Es listet unzulässige Anwendungsfälle (z. B. Massenüberwachung, irreführende Werbung), erforderliche Genehmigungen für sensible Prozesse sowie Protokolle zur Überwachung auf. Governance automatisiert die Richtlinienprüfung zur Laufzeit und bewertet Richtlinien regelmäßig neu, um neue Risiken oder regulatorische Änderungen zu erfassen.
Praxisbeispiel:
Die Richtlinie zur genehmigten Nutzung eines Forschungslabors schreibt vor, dass jedes Team, das seine Gesichtserkennungs-API nutzen möchte, die Genehmigung eines Ethikausschusses einholen, Endbenutzer-Lizenzvereinbarungen unterzeichnen muss, die Überwachung untersagen, und jeden Aufruf protokollieren muss. Ein Policy-Engine-Gateway setzt diese Regeln automatisch auf der API-Ebene durch.
