« Échauffement linéaire » : différence entre les versions
Aucun résumé des modifications |
Aucun résumé des modifications |
||
| (2 versions intermédiaires par le même utilisateur non affichées) | |||
| Ligne 4 : | Ligne 4 : | ||
L'échauffement linéaire, aussi appelé échauffement graduel, désigne un plan pour le '''[[taux d'apprentissage]]''' dans lequel ce dernier est augmenté linéairement à partir d'un taux faible jusqu'à un '''taux constant'''. Ceci permet de réduire la versatilité dans les premiers stades de l'entraînement. | L'échauffement linéaire, aussi appelé échauffement graduel, désigne un plan pour le '''[[taux d'apprentissage]]''' dans lequel ce dernier est augmenté linéairement à partir d'un taux faible jusqu'à un '''taux constant'''. Ceci permet de réduire la versatilité dans les premiers stades de l'entraînement. | ||
Voir aussi '''[[échauffement du taux d'apprentissage]]''' | Voir aussi '''[[échauffement du taux d'apprentissage]]''' et '''[[Warm-Up]]''' | ||
== Français == | == Français == | ||
| Ligne 18 : | Ligne 18 : | ||
''' gradual warm-up''' | ''' gradual warm-up''' | ||
''' | ''' gradual warmup''' | ||
''Linear warm-up, also called gradual warm-up, is a learning rate schedule where we linearly increase the learning rate from a low rate to a constant rate thereafter. This reduces volatility in the early stages of training.'' | ''Linear warm-up, also called gradual warm-up, is a learning rate schedule where we linearly increase the learning rate from a low rate to a constant rate thereafter. This reduces volatility in the early stages of training.'' | ||
Dernière version du 9 novembre 2024 à 14:30
en construction
Définition
L'échauffement linéaire, aussi appelé échauffement graduel, désigne un plan pour le taux d'apprentissage dans lequel ce dernier est augmenté linéairement à partir d'un taux faible jusqu'à un taux constant. Ceci permet de réduire la versatilité dans les premiers stades de l'entraînement.
Voir aussi échauffement du taux d'apprentissage et Warm-Up
Français
échauffement linéaire
échauffement graduel
Anglais
linear warm-up
linear warmup
gradual warm-up
gradual warmup
Linear warm-up, also called gradual warm-up, is a learning rate schedule where we linearly increase the learning rate from a low rate to a constant rate thereafter. This reduces volatility in the early stages of training.
Source
Contributeurs: Arianne
