Zuletzt aktualisiert am:
Unabhängige Laufzeitprüfungen, die KI-Entscheidungen überwachen und Warnmeldungen oder Interventionen auslösen, wenn Richtlinien oder Schwellenwerte verletzt werden.
Eine sekundäre Überwachungsebene – implementiert als separate Dienste oder Prozesse –, die Modell-Outputs in Echtzeit auf vordefinierte Regeln (z. B. unzulässige Inhalte, Vorhersagen außerhalb des zulässigen Bereichs) überprüft. Bei Verstößen können diese Kontrollmechanismen (Watchdogs) die Entscheidung automatisch blockieren, eine manuelle Überprüfung anfordern oder auf eine sichere Modellversion zurückgreifen. Die Governance definiert dabei die Watchdog-Richtlinien, Service-Level-Agreements (SLAs) für Reaktionen sowie Protokollierungsanforderungen für forensische Analysen.
Praxisbeispiel:
Eine KI zur Inhaltmoderation wird durch einen Watchdog-Dienst ergänzt, der jeden freigegebenen Beitrag auf Muster von Hassrede scannt. Sollte ein markierter Begriff dennoch durchschlüpfen, zieht der Watchdog den Beitrag umgehend zurück und öffnet ein Vorfall-Ticket für das Moderationsteam – dies bietet ein Sicherheitsnetz gegen Modellfehler.
