« Évanescence du gradient » : différence entre les versions


m (Remplacement de texte — « <small> masculin </small> » par «  »)
m (Remplacement de texte — « Catégorie:Réseau de neurones artificiels » par «  »)
Ligne 27 : Ligne 27 :
[[Category:Intelligence artificielle]]  
[[Category:Intelligence artificielle]]  
[[Catégorie:Apprentissage automatique]]
[[Catégorie:Apprentissage automatique]]
[[Catégorie:Réseau de neurones artificiels]]
 
[[Catégorie:Apprentissage profond]]
[[Catégorie:Apprentissage profond]]
[[Category:GRAND LEXIQUE FRANÇAIS]]
[[Category:GRAND LEXIQUE FRANÇAIS]]
[[Category:Termino 2019]]
[[Category:Termino 2019]]

Version du 17 avril 2021 à 18:43

Définition

Problème posé, dans un réseau de neurones profond, par la diminution très rapide des valeurs des gradients pendant la rétropropagation entraînant l'annulation du gradient et l'arrêt de l'apprentissage.

Français

problème de la disparition du gradient

problème de l'évanescence du gradient

problème de la dissipation du gradients

Anglais

gradient vanishing problem

gradient vanishing


Source: Pascanu, Razvan (2015). On Recurrent and Deep Neural Networks, thèse de doctorat, Université de Montréal, 267 pages.

Source : openclassrooms.com

Source: Claude Coulombe ( discussion)

Source: Termino