最終更新日:
Gartner社が提唱した、AIの信頼性（Trust）、リスク（Risk）、セキュリティ管理（Security Management）の頭文字をとった略語。ガバナンス、信頼性、セキュリティを単一の運用戦略に統合するフレームワークを指します。
AI TRiSMは、単なる規制への準拠にとどまらず、本番環境におけるAIの技術的な実態に対応するものです。Gartner社によると、AI TRiSMは「説明可能性（モデルのロジックの理解）」、「ModelOps（ライフサイクル管理）」、「AIアプリケーションのセキュリティ（攻撃に対する防御）」、「データプライバシー」の4つの柱に基づいています。企業のガバナンスチームにとって、AI TRiSMを採用することは、「チェックボックスを埋めるだけの作業」から、モデルポイズニングや敵対的攻撃などの脅威に対する「能動的な防御の構築」へと移行することを意味します。
実際の導入事例：
あるフィンテック企業が、信用スコアリングモデルにAI TRiSMを採用しました。規制当局向けにモデルを文書化する（ガバナンス）だけでなく、ハッカーによるスコア操作を防ぐための「対抗学習」（セキュリティ）や、モデルの経時的な精度を維持するための「ドリフト検知」（信頼性）を実装し、信頼の継続的なループを構築しています。
