Ein von Gartner geprägtes Akronym, das für KI-Vertrauen, Risiko- und Sicherheitsmanagement steht; ein Rahmenwerk, das Governance, Vertrauenswürdigkeit und Sicherheit in eine einzige operative Strategie vereint.
AI TRiSM geht über die reine Einhaltung regulatorischer Vorgaben hinaus und adressiert die technischen Realitäten von KI im produktiven Einsatz. Laut Gartner basiert es auf vier Säulen: Erklärbarkeit (Verständnis der Modelllogik), ModelOps (Lifecycle-Management), Sicherheit von KI-Anwendungen (Schutz vor Angriffen) und Datenschutz. Für Governance-Teams in Unternehmen bedeutet die Einführung von AI TRiSM einen Wandel vom bloßen „Abhaken von Kontrollpunkten“ hin zur Implementierung aktiver Schutzmaßnahmen gegen Bedrohungen wie Modellvergiftung und adversariale Angriffe.
Ein Fintech-Unternehmen setzt AI TRiSM für sein Kredit-Scoring-Modell ein. Anstatt das Modell für Regulierungsbehörden lediglich zu dokumentieren (Governance), implementiert es „Adversarial Training“, um sicherzustellen, dass Hacker den Score nicht manipulieren können (Security), sowie „Drift Detection“, um zu gewährleisten, dass das Modell im Zeitverlauf präzise bleibt (Reliability), und schafft so einen kontinuierlichen Vertrauenskreislauf.
