ゼロ・ディフェクト・トレランス
厳格なテスト、監視、継続的な改善サイクルに支えられた、AIアウトプットにエラーやポリシー違反がないことを目指すガバナンス原則。
Definition
徹底的なテストスイート、自動ロールバックによるリアルタイム監視、軽微な異常の根本原因分析など、多層的な保護手段に裏打ちされた欠陥（精度の低下、偏りのないインシデント、セキュリティ侵害）に対する「容認しない」姿勢です。ガバナンスは厳格なSLA（重要なQAテストの合格率を 100% にするなど）を定め、あらゆる欠陥の即時是正を義務付け、欠陥ゼロの基準を維持するための継続的な改善の文化を育みます。
Real-World Example
取引を承認する金融AIは、各取引セッションの前に100％のコンプライアンステストの合格率を満たす必要があります。テストにどんなに小さな失敗があっても、自動的に停止し、最後に正常に動作することがわかっているバージョンにロールバックします。その後、運用を再開する前に、ただちにインシデントのレビューと修正が行われます。
.svg)
