Observabilité
Capacité à déduire l'état et le comportement internes d'un système d'IA grâce à la collecte et à l'analyse de journaux, de mesures et de sorties pour une surveillance et un dépannage efficaces.
Définition
Elle va au-delà de la simple surveillance pour fournir des informations détaillées sur l'état du système. Les pipelines d'observabilité collectent des journaux structurés (requêtes, erreurs), des métriques (latence, utilisation des ressources) et des traces (chemins d'exécution) issus de services d'ingestion de données, de formation et d'inférence. Grâce aux corrélations et aux tableaux de bord, les équipes peuvent identifier les causes profondes des problèmes, rejouer les événements et effectuer des autopsies. La gouvernance définit les signaux à capturer, les politiques de rétention et les seuils d'alerte pour maintenir la fiabilité et la conformité du système.
Exemple concret
Une plateforme de détection des fraudes intègre OpenTelemetry pour émettre des traces pour chaque transaction, enregistrer les décisions du modèle avec des scores de confiance et suivre l'utilisation du CPU/GPU. En cas de pic de latence, l'équipe SRE explore les traces pour détecter une requête lente dans le magasin de fonctionnalités, corrige l'indexation et rétablit les performances normales en 15 minutes.
.svg)
