Rétropropagation

Algorithme d'entraînement utilisé dans les réseaux neuronaux qui ajuste les poids en propageant les erreurs vers l'arrière depuis la couche de sortie afin de minimiser les pertes.

Définition

Processus d'optimisation itératif dans lequel, après le calcul des prédictions du réseau par une passe directe, la différence entre les valeurs prévues et les valeurs réelles (la perte) est propagée vers l'arrière, couche par couche, pour calculer les gradients. Ces dégradés fournissent des informations sur les mises à jour de pondération via une descente de gradient, permettant aux réseaux profonds d'apprendre des représentations de caractéristiques complexes et hiérarchiques.

Exemple concret

Dans la classification des images, un réseau neuronal convolutif utilise la rétropropagation sur des millions de photos étiquetées : après chaque lot, il modifie des millions de poids de connexion afin que les images « chat » produisent une activation plus élevée dans le nœud de sortie correct et une activation plus faible ailleurs, atteignant progressivement une précision de plus de 95 % sur les données de validation.