Recherche d'architecture neuronale
Méthodes automatisées pour concevoir et optimiser les structures de réseaux neuronaux afin d'améliorer les performances des modèles tout en équilibrant la complexité et les contraintes de ressources.
Définition
Utilise des algorithmes de recherche (apprentissage par renforcement, stratégies évolutives, optimisation bayésienne) pour explorer des millions de types, de tailles et de connexions de couches possibles, en découvrant des architectures qui surpassent les modèles conçus manuellement. La gouvernance doit contrôler les budgets de calcul, suivre la reproductibilité des architectures découvertes, appliquer des contraintes d'équité et d'efficacité et valider que les modèles générés par le NAS répondent aux exigences d'interprétabilité et de déploiement.
Exemple concret
Une équipe Vision-AI utilise le NAS pour trouver un CNN optimisé pour la détection des défauts sur la chaîne de montage. Après une recherche de 1 000 essais limitée par un budget FLOP, le NAS propose une architecture allégée avec une précision supérieure de 1 % et 30 % de paramètres en moins par rapport à la base de référence. L'équipe enregistre la configuration du NAS et le modèle final à des fins de reproductibilité dans son registre.