Erkennung von Eindringlingen
Überwachung der KI-Infrastruktur und -Anwendungen auf böswillige Aktivitäten oder Richtlinienverstöße, Auslösen von Warnmeldungen oder automatisierten Reaktionen.
Definition
Erweitert die traditionelle Cybersicherheit auf KI-spezifische Bedrohungen — Modellinversion, API-Missbrauch, ungewöhnliche Inferenzmuster. Zur Unternehmensführung gehören der Einsatz von IDS/IPS-Systemen, die Protokolle, Netzwerkverkehr und Kennzahlen zur Modellnutzung analysieren, Playbooks für die Reaktion auf Vorfälle definieren und regelmäßige Penetrationstests durchführen, um die Wirksamkeit der Erkennung zu überprüfen.
Real-World Example
Ein cloudbasierter ML-Dienst integriert ein IDS, das nach anomalen Mustern Ausschau hält — z. B. nach großen Mengen an Inferenzanfragen von einer einzigen IP (potenzielle Modellextraktion). Wenn Schwellenwerte überschritten werden, drosselt er automatisch den Datenverkehr und benachrichtigt das Sicherheitsteam zur Untersuchung.
.svg)
