« Échauffement linéaire » : différence entre les versions


(Page créée avec « == en construction == == Définition == XXXXXXXX Voir aussi '''Learning-Rate Warm-Up''' == Français == ''' XXXXXX''' == Anglais == ''' Linear Warm-Up''' ''' Linear Warmup''' ''' Gradual Warm-Up''' ''' Gradual Warmup''' ''Linear Warmup is a learning rate schedule where we linearly increase the learning rate from a low rate to a constant rate thereafter. This reduces volatility in the early stages of training.'' == Source == [https://www.baeldung.com... »)
 
Aucun résumé des modifications
Ligne 2 : Ligne 2 :


== Définition ==
== Définition ==
XXXXXXXX
L'échauffement linéaire, aussi appelé échauffement graduel, désigne un plan pour le '''[[taux d'apprentissage]]''' dans lequel ce dernier est augmenté linéairement à partir d'un taux faible jusqu'à un '''taux constant'''. Ceci permet de réduire la versatilité dans les premiers stades de l'entraînement.


Voir aussi '''[[Learning-Rate Warm-Up]]'''
Voir aussi '''[[échauffement du taux d'apprentissage]]'''


== Français ==
== Français ==
''' XXXXXX'''
''' échauffement linéaire'''
 
''' échauffement graduel'''


== Anglais ==
== Anglais ==
''' Linear Warm-Up'''
''' linear warm-up'''


''' Linear Warmup'''
''' linear warmup'''


''' Gradual Warm-Up'''
''' gradual warm-up'''


''' Gradual Warmup'''
''' Gradual Warmup'''


''Linear Warmup is a learning rate schedule where we linearly increase the learning rate from a low rate to a constant rate thereafter. This reduces volatility in the early stages of training.''
''Linear warm-up, also called gradual warm-up, is a learning rate schedule where we linearly increase the learning rate from a low rate to a constant rate thereafter. This reduces volatility in the early stages of training.''


== Source ==
== Source ==

Version du 9 novembre 2024 à 14:28

en construction

Définition

L'échauffement linéaire, aussi appelé échauffement graduel, désigne un plan pour le taux d'apprentissage dans lequel ce dernier est augmenté linéairement à partir d'un taux faible jusqu'à un taux constant. Ceci permet de réduire la versatilité dans les premiers stades de l'entraînement.

Voir aussi échauffement du taux d'apprentissage

Français

échauffement linéaire

échauffement graduel

Anglais

linear warm-up

linear warmup

gradual warm-up

Gradual Warmup

Linear warm-up, also called gradual warm-up, is a learning rate schedule where we linearly increase the learning rate from a low rate to a constant rate thereafter. This reduces volatility in the early stages of training.

Source

Source : Baeldung

Source : Paperwithcode

Contributeurs: Arianne