Glossar
Aktualisiert
Eine sekundäre Überwachungsebene, implementiert als separate Dienste oder Prozesse, die Modell-Outputs in Echtzeit auf vordefinierte Regeln (z. B. unzulässige Inhalte, Vorhersagen außerhalb des zulässigen Bereichs) überprüft. Bei Verstößen können diese Kontrollmechanismen (Watchdogs) die Entscheidung automatisch blockieren, eine manuelle Überprüfung anfordern oder auf eine sichere Modellversion zurückgreifen. Die Governance definiert dabei die Watchdog-Richtlinien, Service-Level-Agreements (SLAs) für Reaktionen sowie Protokollierungsanforderungen für forensische Analysen.
Beispiel
Eine KI zur Inhaltsmoderation wird durch einen Watchdog-Dienst ergänzt, der jeden freigegebenen Beitrag auf Muster von Hassrede scannt. Sollte ein markierter Begriff dennoch durchschlüpfen, zieht der Watchdog den Beitrag umgehend zurück und öffnet ein Vorfall-Ticket für das Moderationsteam. Dies bietet ein Sicherheitsnetz gegen Modellfehler.