« Évanescence du gradient » : différence entre les versions


(Ajout d'une source)
Balise : Éditeur de wikicode 2017
Aucun résumé des modifications
Balise : Éditeur de wikicode 2017
Ligne 9 : Ligne 9 :
[[Category:Vocabulaire2]]
[[Category:Vocabulaire2]]
[[Category:Termino 2019]]
[[Category:Termino 2019]]


==Définition==
==Définition==
Problème posé, dans un réseau de neurones profond, par la diminution très rapide des valeurs des gradients pendant la rétropropagation entraînant l'annulation du gradient et l'arrêt de l'apprentissage.  
Problème posé, dans un réseau de neurones profond, par la diminution très rapide des valeurs des gradients pendant la rétropropagation entraînant l'annulation du gradient et l'arrêt de l'apprentissage.  


==Français ==
==Français ==
'''problème de la disparition du gradient'''  n.m.
'''problème de la disparition du gradient'''  n.m.


Ligne 26 : Ligne 20 :
'''problème de la dissipation du gradients'''  n.f.
'''problème de la dissipation du gradients'''  n.f.


==Anglais==
'''gradient vanishing problem'''
'''gradient vanishing'''


Source: Pascanu, Razvan (2015). On Recurrent and Deep Neural Networks, thèse de doctorat, Université de Montréal, 267 pages.


Source : Claude Coulombe




==Anglais==
'''gradient vanishing problem'''


'''gradient vanishing'''




Source: Pascanu, Razvan (2015). On Recurrent and Deep Neural Networks, thèse de doctorat, Université de Montréal, 267 pages.     


[https://openclassrooms.com/courses/utilisez-des-modeles-supervises-non-lineaires/empilez-les-perceptrons Source : openclassrooms.com]
[https://openclassrooms.com/courses/utilisez-des-modeles-supervises-non-lineaires/empilez-les-perceptrons Source : openclassrooms.com]

Version du 15 juin 2019 à 23:07

Domaine

Intelligence artificielle
Apprentissage automatique
Réseau de neurones artificiels
Apprentissage profond

Définition

Problème posé, dans un réseau de neurones profond, par la diminution très rapide des valeurs des gradients pendant la rétropropagation entraînant l'annulation du gradient et l'arrêt de l'apprentissage.

Français

problème de la disparition du gradient n.m.

problème de l'évanescence du gradient n.f.

problème de la dissipation du gradients n.f.

Anglais

gradient vanishing problem

gradient vanishing




Source: Pascanu, Razvan (2015). On Recurrent and Deep Neural Networks, thèse de doctorat, Université de Montréal, 267 pages.

Source : openclassrooms.com

source : Claude Coulombe ( discussion)

Source : Termino