Glossar
Aktualisiert
Defensive Schutzebenen, sowohl algorithmischer Art (Konfidenzschwellenwerte, Bereinigung von Eingabedaten, Erkennung von adversarialen Angriffen) als auch prozessualer Art (Genehmigungsschranken, Human-in-the-Loop), die Richtliniengrenzen durchsetzen. Leitplanken begrenzen Ausgaben (z. B. keine Hassrede), schränken Entscheidungsbereiche ein und lösen ausfallsichere Maßnahmen aus. Eine effektive Governance dieser Schutzmechanismen erfordert die regelmäßige Überprüfung und Aktualisierung von Einschränkungen bei neuen Bedrohungen sowie die Überwachung von Umgehungsversuchen.
Beispiel
Eine KI zur Inhaltmoderation verfügt über Sicherheitsmechanismen, die Obszönitäten und extremistische Inhalte blockieren. Wenn das Vertrauensniveau des NLP-Filters unter 70 % liegt, leitet das System den Beitrag an einen menschlichen Moderator weiter, anstatt ihn automatisch zu veröffentlichen. So wird sichergestellt, dass unsichere Inhalte niemals ohne Aufsicht in den Feed gelangen.