« Évanescence du gradient » : différence entre les versions
m (Remplacement de texte — « <!-- Coulombe2 --> » par « ») |
Aucun résumé des modifications Balise : Éditeur de wikicode 2017 |
||
| Ligne 1 : | Ligne 1 : | ||
==Définition== | ==Définition== | ||
Problème posé, dans un réseau de neurones profond, par la diminution très rapide des valeurs des gradients pendant la rétropropagation entraînant l'annulation du gradient et l'arrêt de l'apprentissage. | Problème posé, dans un réseau de neurones profond, par la diminution très rapide des valeurs des gradients pendant la rétropropagation entraînant l'annulation du gradient et l'arrêt de l'apprentissage. | ||
| Ligne 21 : | Ligne 13 : | ||
'''gradient vanishing''' | '''gradient vanishing''' | ||
| Ligne 34 : | Ligne 24 : | ||
[[Utilisateur:Patrickdrouin | Source: Termino ]] | [[Utilisateur:Patrickdrouin | Source: Termino ]] | ||
[[Category:Intelligence artificielle]] | |||
[[Catégorie:Apprentissage automatique]] | |||
[[Catégorie:Réseau de neurones artificiels]] | |||
[[Catégorie:Apprentissage profond]] | |||
[[Category:GRAND LEXIQUE FRANÇAIS]] | |||
[[Category:Termino 2019]] | |||
Version du 8 mai 2020 à 09:16
Définition
Problème posé, dans un réseau de neurones profond, par la diminution très rapide des valeurs des gradients pendant la rétropropagation entraînant l'annulation du gradient et l'arrêt de l'apprentissage.
Français
problème de la disparition du gradient loc. nom. masc.
problème de l'évanescence du gradient loc. nom. masc.
problème de la dissipation du gradients loc. nom. masc.
Anglais
gradient vanishing problem
gradient vanishing
Source: Pascanu, Razvan (2015). On Recurrent and Deep Neural Networks, thèse de doctorat, Université de Montréal, 267 pages.
Contributeurs: Claude Coulombe, Jacques Barolet, Patrick Drouin, Pierre Labreche, wiki
