Learning Rate Warm-Up


Révision datée du 7 novembre 2024 à 13:14 par Arianne (discussion | contributions)
(diff) ← Version précédente | Voir la version actuelle (diff) | Version suivante → (diff)

en construction

Définition

XXXXXXXX

Voir aussi Linear Warm-Up

Français

XXXXXX

Anglais

Learning Rate Warm-Up

Learning Rate Warmup

LR Warm-Up

LR Warmup

Learning rate warmup is a common heuristic used by many practitioners for training deep neural nets for computer vision and natural language processing tasks.

Source

Source : Baeldung

Source : Open Review

Contributeurs: Arianne