Zuletzt aktualisiert am:
Ein von Gartner geprägtes Akronym, das für AI Trust, Risk, and Security Management steht; ein Framework, das Governance, Vertrauenswürdigkeit und Sicherheit in einer einzigen operativen Strategie vereint.
AI TRiSM geht über die bloße Einhaltung regulatorischer Vorschriften hinaus und adressiert die technischen Realitäten von KI in der Produktivphase. Laut Gartner basiert es auf vier Säulen: Erklärbarkeit (Verständnis der Modelllogik), ModelOps (Lebenszyklusmanagement), KI-Anwendungssicherheit (Abwehr von Angriffen) und Datenschutz. Für Governance-Teams in Unternehmen bedeutet die Einführung von AI TRiSM den Übergang vom bloßen „Abhaken von Kontrollkästchen“ hin zur Implementierung aktiver Abwehrmechanismen gegen Bedrohungen wie Modellmanipulation (Model Poisoning) und adversarielle Angriffe.
Praxisbeispiel:
Ein Fintech-Unternehmen setzt AI TRiSM für sein Kreditbewertungsmodell ein. Anstatt das Modell lediglich für die Aufsichtsbehörden zu dokumentieren (Governance), implementiert das Unternehmen „Adversarial Training“, um sicherzustellen, dass Hacker die Bewertung nicht manipulieren können (Security), sowie „Drift Detection“, damit das Modell über die Zeit hinweg präzise bleibt (Reliability). Dadurch entsteht ein kontinuierlicher Kreislauf des Vertrauens.
