Échauffement linéaire
(Redirigé depuis Linear Warm-Up)
en construction
Définition
L'échauffement linéaire, aussi appelé échauffement graduel, désigne un plan pour le taux d'apprentissage dans lequel ce dernier est augmenté linéairement à partir d'un taux faible jusqu'à un taux constant. Ceci permet de réduire la versatilité dans les premiers stades de l'entraînement.
Voir aussi échauffement du taux d'apprentissage et Warm-Up
Français
échauffement linéaire
échauffement graduel
Anglais
linear warm-up
linear warmup
gradual warm-up
gradual warmup
Linear warm-up, also called gradual warm-up, is a learning rate schedule where we linearly increase the learning rate from a low rate to a constant rate thereafter. This reduces volatility in the early stages of training.
Source
Contributeurs: Arianne
