« Problème de l'explosion du gradient » : différence entre les versions

Version du 12 avril 2019 à 10:42

Domaine

Vocabulary
Apprentissage profond

Définition

Le problème du gradient explosif est l'opposé du problème du gradient disparaissant. Dans les réseaux de neurones profonds, les gradients peuvent exploser pendant la rétropropagation, entraînant des dépassements de nombre. Une technique courante pour traiter les dégradés explosifs consiste à effectuer un écrêtage en dégradé.

Français

problème de l'explosion du gradient n.m.

Anglais

Exploding Gradient Problem

Référence: https://openclassrooms.com/courses/utilisez-des-modeles-supervises-non-lineaires/empilez-les-perceptrons

@@ Ligne 6 : / Ligne 6 : @@
 == Définition ==
+Le problème du gradient explosif est l'opposé du problème du gradient disparaissant. Dans les réseaux de neurones profonds, les gradients peuvent exploser pendant la rétropropagation, entraînant des dépassements de nombre. Une technique courante pour traiter les dégradés explosifs consiste à effectuer un écrêtage en dégradé.
-définition amanquante
@@ Ligne 17 : / Ligne 16 : @@
 == Anglais ==
+'''Exploding Gradient Problem'''
-'''Exploding Gradient Problem'''
-The Exploding Gradient Problem is the opposite of the Vanishing Gradient Problem. In Deep Neural Networks gradients may explode during backpropagation, resulting number overflows. A common technique to deal with exploding gradients is to perform Gradient Clipping.
-•	On the difficulty of training recurrent neural networks