« Échauffement linéaire » : différence entre les versions
(Page créée avec « == en construction == == Définition == XXXXXXXX Voir aussi '''Learning-Rate Warm-Up''' == Français == ''' XXXXXX''' == Anglais == ''' Linear Warm-Up''' ''' Linear Warmup''' ''' Gradual Warm-Up''' ''' Gradual Warmup''' ''Linear Warmup is a learning rate schedule where we linearly increase the learning rate from a low rate to a constant rate thereafter. This reduces volatility in the early stages of training.'' == Source == [https://www.baeldung.com... ») |
Aucun résumé des modifications |
||
| (3 versions intermédiaires par le même utilisateur non affichées) | |||
| Ligne 2 : | Ligne 2 : | ||
== Définition == | == Définition == | ||
L'échauffement linéaire, aussi appelé échauffement graduel, désigne un plan pour le '''[[taux d'apprentissage]]''' dans lequel ce dernier est augmenté linéairement à partir d'un taux faible jusqu'à un '''taux constant'''. Ceci permet de réduire la versatilité dans les premiers stades de l'entraînement. | |||
Voir aussi '''[[ | Voir aussi '''[[échauffement du taux d'apprentissage]]''' et '''[[Warm-Up]]''' | ||
== Français == | == Français == | ||
''' | ''' échauffement linéaire''' | ||
''' échauffement graduel''' | |||
== Anglais == | == Anglais == | ||
''' | ''' linear warm-up''' | ||
''' | ''' linear warmup''' | ||
''' | ''' gradual warm-up''' | ||
''' | ''' gradual warmup''' | ||
''Linear | ''Linear warm-up, also called gradual warm-up, is a learning rate schedule where we linearly increase the learning rate from a low rate to a constant rate thereafter. This reduces volatility in the early stages of training.'' | ||
== Source == | == Source == | ||
Dernière version du 9 novembre 2024 à 14:30
en construction
Définition
L'échauffement linéaire, aussi appelé échauffement graduel, désigne un plan pour le taux d'apprentissage dans lequel ce dernier est augmenté linéairement à partir d'un taux faible jusqu'à un taux constant. Ceci permet de réduire la versatilité dans les premiers stades de l'entraînement.
Voir aussi échauffement du taux d'apprentissage et Warm-Up
Français
échauffement linéaire
échauffement graduel
Anglais
linear warm-up
linear warmup
gradual warm-up
gradual warmup
Linear warm-up, also called gradual warm-up, is a learning rate schedule where we linearly increase the learning rate from a low rate to a constant rate thereafter. This reduces volatility in the early stages of training.
Source
Contributeurs: Arianne
