Recuit cosinus
ROBOTIQUE
Définition
Un calendrier de taux d'apprentissage qui diminue le taux d'apprentissage selon une courbe cosinus d'une valeur initiale à près de zéro sur la période d'entraînement. Le recuit cosinus avec redémarrages chauds (SGDR) réinitialise périodiquement le taux d'apprentissage, ce qui peut aider à échapper aux minima locaux. C'est le calendrier par défaut pour l'entraînement des vision Transformers et de nombreux modèles d'apprentissage robotique.
Français
Recuit cosinus
Anglais
Cosine Annealing
Sources
Contributeurs: wiki
