« Échauffement du taux d'apprentissage » : différence entre les versions
Aucun résumé des modifications |
Aucun résumé des modifications |
||
| Ligne 1 : | Ligne 1 : | ||
== Définition == | == Définition == | ||
L'échauffement du taux d'apprentissage désigne une méthode, ou plus spécifiquement une technique de régularisation du '''[[réseau de neurones]]''', qui assure une stabilité dans la phase d'apprentissage du modèle qui effectue des tâches comme la reconnaissance d'images ou le '''[[traitement de la langue naturelle]]'''. | L'échauffement du taux d'apprentissage désigne une méthode, ou plus spécifiquement une technique de régularisation du '''[[réseau de neurones]]''', qui assure une stabilité dans la phase d'apprentissage du modèle qui effectue des tâches comme la reconnaissance d'images ou le '''[[traitement de la langue naturelle]]'''. | ||
Voir aussi '''[[échauffement linéaire]]''', '''[[réseau antagoniste génératif]]''' | Voir aussi '''[[échauffement linéaire]]''', '''[[réseau antagoniste génératif]]''' et '''[[taux d'apprentissage]]''' | ||
== Français == | == Français == | ||
| Ligne 26 : | Ligne 24 : | ||
[https://openreview.net/pdf?id=r14EOsCqKX Source : Open Review] | [https://openreview.net/pdf?id=r14EOsCqKX Source : Open Review] | ||
[[Catégorie: | [[Catégorie:publication]] | ||
Version du 30 novembre 2024 à 13:36
Définition
L'échauffement du taux d'apprentissage désigne une méthode, ou plus spécifiquement une technique de régularisation du réseau de neurones, qui assure une stabilité dans la phase d'apprentissage du modèle qui effectue des tâches comme la reconnaissance d'images ou le traitement de la langue naturelle.
Voir aussi échauffement linéaire, réseau antagoniste génératif et taux d'apprentissage
Français
échauffement du taux d'apprentissage
Anglais
learning rate warm-up
learning rate warmup
LR warm-up
LR warmup
Learing Rate Warm-up is a method, or more secifically, a network regularization technique, that ensures stability in the initial phase of training for computer vision and natural language processing tasks.
Source
