« Problème de l'explosion du gradient » : différence entre les versions
m (Remplacement de texte — « Termes privilégiés » par « Français ») |
Aucun résumé des modifications Balises : mobile edit mobile web edit |
||
| Ligne 3 : | Ligne 3 : | ||
[[Catégorie:Apprentissage profond]] Apprentissage profond | [[Catégorie:Apprentissage profond]] Apprentissage profond | ||
[[Category:scotty]] | |||
== Définition == | == Définition == | ||
définition amanquante | |||
| Ligne 13 : | Ligne 14 : | ||
=== le problème de l'explosion du gradient === | === le problème de l'explosion du gradient === | ||
== Anglais == | == Anglais == | ||
| Ligne 22 : | Ligne 23 : | ||
The Exploding Gradient Problem is the opposite of the Vanishing Gradient Problem. In Deep Neural Networks gradients may explode during backpropagation, resulting number overflows. A common technique to deal with exploding gradients is to perform Gradient Clipping. | The Exploding Gradient Problem is the opposite of the Vanishing Gradient Problem. In Deep Neural Networks gradients may explode during backpropagation, resulting number overflows. A common technique to deal with exploding gradients is to perform Gradient Clipping. | ||
• On the difficulty of training recurrent neural networks | • On the difficulty of training recurrent neural networks | ||
<br> | |||
<br> | |||
Référence: https://openclassrooms.com/courses/utilisez-des-modeles-supervises-non-lineaires/empilez-les-perceptrons | |||
Version du 18 janvier 2019 à 14:18
Domaine
Vocabulary
Apprentissage profond
Définition
définition amanquante
Français
le problème de l'explosion du gradient
Anglais
Exploding Gradient Problem
The Exploding Gradient Problem is the opposite of the Vanishing Gradient Problem. In Deep Neural Networks gradients may explode during backpropagation, resulting number overflows. A common technique to deal with exploding gradients is to perform Gradient Clipping. • On the difficulty of training recurrent neural networks
Contributeurs: Claude Coulombe, Jacques Barolet, Patrick Drouin, Pierre Labreche, wiki
