Problème de l'explosion du gradient

De wiki.datafranca.org
(Redirigé depuis Exploding Gradient Problem)
Aller à : navigation, rechercher

Domaine

Vocabulary
Apprentissage profond

Définition

définition amanquante


Français

le problème de l'explosion du gradient

Anglais

Exploding Gradient Problem

The Exploding Gradient Problem is the opposite of the Vanishing Gradient Problem. In Deep Neural Networks gradients may explode during backpropagation, resulting number overflows. A common technique to deal with exploding gradients is to perform Gradient Clipping. • On the difficulty of training recurrent neural networks




Référence: https://openclassrooms.com/courses/utilisez-des-modeles-supervises-non-lineaires/empilez-les-perceptrons