Échauffement du taux d'apprentissage

Définition

XXXXXXXX

Voir aussi Linear Warm-Up et réseau antagoniste génératif

Français

XXXXXX

Anglais

Learning Rate Warm-Up

Learning Rate Warmup

LR Warm-Up

LR Warmup

Learning rate warmup is a common heuristic used by many practitioners for training deep neural nets for computer vision and natural language processing tasks.

Source

Source : Baeldung

Source : Open Review