Unabhängige Laufzeitprüfungen, die KI-Entscheidungen überwachen und Warnungen oder Eingriffe auslösen, wenn Richtlinien oder Schwellenwerte überschritten werden.
Eine sekundäre Überwachungsebene – implementiert als separate Services oder Prozesse – die Modellausgaben in Echtzeit anhand vordefinierter Regeln prüft (z. B. verbotene Inhalte, Vorhersagen außerhalb des zulässigen Bereichs). Bei Verstößen können Watchdogs die Entscheidung automatisch blockieren, zur menschlichen Überprüfung eskalieren oder ein Rollback auf eine sichere Modellversion durchführen. Die Governance definiert Watchdog-Richtlinien, Reaktions-SLAs und Protokollierungsanforderungen für forensische Analysen.
Eine KI zur Inhaltsmoderation wird durch einen Überwachungsdienst ergänzt, der jeden freigegebenen Beitrag auf Hassrede-Muster überprüft. Wenn ein markierter Begriff dennoch durchrutscht, zieht der Überwachungsdienst den Beitrag umgehend zurück und erstellt ein Incident-Ticket für das Moderationsteam – und bietet damit ein Sicherheitsnetz gegen Modellfehler.
