« Échauffement du taux d'apprentissage » : différence entre les versions
(Page créée avec « == en construction == == Définition == XXXXXXXX == Français == ''' XXXXXX''' == Anglais == ''' Learning Rate Warm-Up''' ''' Learning Rate Warmup''' ''' LR Warm-Up''' ''Learning rate warmup is a common heuristic used by many practitioners for training deep neural nets for computer vision and natural language processing tasks.'' == Source == [https://www.baeldung.com/cs/learning-rate-warm-up Source : Baeldung] [https://openreview.net/pdf?id=r14EOsCqKX... ») |
Aucun résumé des modifications |
||
| (6 versions intermédiaires par le même utilisateur non affichées) | |||
| Ligne 2 : | Ligne 2 : | ||
== Définition == | == Définition == | ||
L'échauffement du taux d'apprentissage désigne une méthode, ou plus spécifiquement une technique de régularisation du '''[[réseau de neurones]]''', qui assure une stabilité dans la phase d'apprentissage du modèle qui effectue des tâches comme la reconnaissance d'images ou le '''[[traitement de la langue naturelle]]'''. | |||
Voir aussi '''[[échauffement linéaire]]''', '''[[réseau antagoniste génératif]]''', '''[[taux d'apprentissage]]''' et '''[[Warm-Up]]''' | |||
== Français == | == Français == | ||
''' | ''' échauffement du taux d'apprentissage''' | ||
== Anglais == | == Anglais == | ||
''' | ''' learning rate warm-up''' | ||
''' learning rate warmup''' | |||
''' | ''' LR warm-up''' | ||
''' LR | ''' LR warmup''' | ||
'' | ''Learing Rate Warm-up is a method, or more secifically, a network regularization technique, that ensures stability in the initial phase of training for computer vision and natural language processing tasks.'' | ||
== Source == | == Source == | ||
Dernière version du 9 novembre 2024 à 14:24
en construction
Définition
L'échauffement du taux d'apprentissage désigne une méthode, ou plus spécifiquement une technique de régularisation du réseau de neurones, qui assure une stabilité dans la phase d'apprentissage du modèle qui effectue des tâches comme la reconnaissance d'images ou le traitement de la langue naturelle.
Voir aussi échauffement linéaire, réseau antagoniste génératif, taux d'apprentissage et Warm-Up
Français
échauffement du taux d'apprentissage
Anglais
learning rate warm-up
learning rate warmup
LR warm-up
LR warmup
Learing Rate Warm-up is a method, or more secifically, a network regularization technique, that ensures stability in the initial phase of training for computer vision and natural language processing tasks.
Source
Contributeurs: Arianne
