Détection de nouveautés
Techniques permettant d'identifier les entrées ou les scénarios qui diffèrent de manière significative des données d'entraînement, de déclencher une révision ou de fonctionner en mode sécurisé pour éviter les défaillances inattendues.
Définition
Également appelée détection hors distribution, elle utilise des distances statistiques, des erreurs de reconstruction par autoencodeur ou des estimations d'incertitude (par exemple, les réseaux bayésiens) pour signaler les entrées anormales. Governance configure des seuils pour les solutions de secours en mode sécurisé, enregistre les nouveaux événements à des fins d'analyse des incidents et met régulièrement à jour les modèles de détection pour refléter l'évolution de la distribution des données.
Exemple concret
Une IA d'imagerie médicale signale tout scan dont la distribution des pixels diverge de plus de deux écarts types par rapport à la définition d'apprentissage. Lorsqu'une nouveauté est détectée, le système transmet le scan à un spécialiste pour un examen manuel et enregistre l'événement pour une analyse ultérieure, empêchant ainsi le modèle de poser des diagnostics fiables mais fallacieux sur des cas inhabituels.
.svg)
