Réglage des hyperparamètres
Processus de recherche des valeurs d'hyperparamètres optimales (par exemple, via une recherche par grille, une optimisation bayésienne) afin de maximiser les performances du modèle.
Définition
Une exploration systématique (grille, recherche aléatoire ou bayésienne) des espaces d'hyperparamètres afin de trouver des configurations offrant le meilleur équilibre entre précision, généralisation et utilisation des ressources. Les meilleures pratiques de gouvernance incluent la définition de plages de recherche, la limitation des budgets de calcul, le suivi de toutes les expériences dans MLflow ou similaire, et le gel des configurations une fois validées pour éviter toute « dérive » de la production.
Exemple concret
Une équipe de PNL utilise l'optimisation bayésienne pour ajuster le taux d'apprentissage, la taille des lots et le taux d'abandon d'un transformateur sur 50 essais. Ils enregistrent les métriques et les hyperparamètres de chaque essai dans un tableau de bord de suivi des expériences, puis sélectionnent la configuration qui permet d'obtenir la meilleure F1 sur un ensemble de tests, garantissant ainsi des performances reproductibles et optimisées.