Glossar
Aktualisiert
AI TRiSM geht über die bloße Einhaltung regulatorischer Vorschriften hinaus und adressiert die technischen Realitäten von KI in der Produktivphase. Laut Gartner basiert es auf vier Säulen: Erklärbarkeit (Verständnis der Modelllogik), ModelOps (Lebenszyklusmanagement), KI-Anwendungssicherheit (Abwehr von Angriffen) und Datenschutz. Für Governance-Teams in Unternehmen bedeutet die Einführung von AI TRiSM den Übergang vom bloßen „Abhaken von Kontrollkästchen“ hin zur Implementierung aktiver Abwehrmechanismen gegen Bedrohungen wie Modellmanipulation (Model Poisoning) und adversarielle Angriffe.
Beispiel
Ein Fintech-Unternehmen setzt AI TRiSM für sein Kreditbewertungsmodell ein. Anstatt das Modell lediglich für die Aufsichtsbehörden zu dokumentieren (Governance), implementiert das Unternehmen „Adversarial Training“, um sicherzustellen, dass Hacker die Bewertung nicht manipulieren können (Security), sowie „Drift Detection“, damit das Modell über die Zeit hinweg präzise bleibt (Reliability). Dadurch entsteht ein kontinuierlicher Kreislauf des Vertrauens.