« Évanescence du gradient » : différence entre les versions

Dernière version du 1 août 2024 à 17:38

Définition

Problème posé, dans un réseau de neurones profond, par la diminution très rapide des valeurs des gradients pendant la rétropropagation entraînant l'annulation du gradient et par conséquent l'arrêt de l'apprentissage.

Compléments

Nous recommandons l'expression « évanescence du gradient » pour sa spécificité et sa beauté langagière.

Français

évanescence du gradient

disparition du gradient

dissipation du gradients

problème de l'évanescence du gradient

Anglais

gradient vanishing

gradient vanishing problem

Sources

Source: Pascanu, Razvan (2015). On Recurrent and Deep Neural Networks, thèse de doctorat, Université de Montréal, 267 pages.

Source : openclassrooms.com

Source: Claude Coulombe ( discussion)

Source: Termino

@@ Ligne 1 : / Ligne 1 : @@
-==Domaine==
+==Définition==
-[[Category:Intelligence artificielle]]Intelligence artificielle<br>
+Problème posé, dans un réseau de neurones profond, par la diminution très rapide des valeurs des gradients pendant la rétropropagation entraînant l'annulation du gradient et par conséquent l'arrêt de l'apprentissage.
-[[Catégorie:Apprentissage automatique]]Apprentissage automatique<br>
-[[Catégorie:Réseau de neurones artificiels]]Réseau de neurones artificiels<br>
-[[Catégorie:Apprentissage profond]]Apprentissage profond<br>
-[[Category:Coulombe2]]
-[[Category:scotty2]]
-[[Category:GRAND LEXIQUE FRANÇAIS]]
-[[Category:Vocabulaire]]
-[[Category:Termino 2019]]
-[[Category:Scotty]]
+==Compléments==
+Nous recommandons l'expression « évanescence du gradient » pour sa spécificité et sa <i>beauté</i> langagière.
+==Français ==
+'''évanescence du gradient'''
-==Définition==
+'''disparition du gradient'''
-Problème posé, dans un réseau de neurones profond, par la diminution très rapide des valeurs des gradients pendant la rétropropagation entraînant l'annulation du gradient et l'arrêt de l'apprentissage.
+'''dissipation du gradients'''
-Note
+'''problème de l'évanescence du gradient'''
-Plusieurs techniques permettent de contrer l'explosion du gradient à commencer par de meilleures techniques d'initialisation, le choix de fonctions d'activation non saturantes comme la fonction linéaire rectifiée, et la normalisation par lots.
+==Anglais==
-==Français ==
+'''gradient vanishing'''
-'''problème de la disparition du gradient'''  n.m.
-'''problème de l'évanescence du gradient'''  n.f.
-'''problème de la dissipation du gradients'''  n.f.
+'''gradient vanishing problem'''
+==Sources==
-Source: Pascanu, Razvan (2015). On Recurrent and Deep Neural Networks, thèse de doctorat, Université de Montréal, 267 pages.
+Source: Pascanu, Razvan (2015). ''On Recurrent and Deep Neural Networks'', thèse de doctorat, Université de Montréal, 267 pages.
+[https://openclassrooms.com/courses/utilisez-des-modeles-supervises-non-lineaires/empilez-les-perceptrons Source : ''openclassrooms.com'']
-==Anglais==
+[[Utilisateur:Claude COULOMBE | Source: Claude Coulombe]]            ([[Discussion utilisateur:Claude COULOMBE | discussion]])
-'''gradient vanishing'''
+[[Utilisateur:Patrickdrouin  | Source: Termino  ]]
-[https://openclassrooms.com/courses/utilisez-des-modeles-supervises-non-lineaires/empilez-les-perceptrons Source : openclassrooms.com]
+[[Category:GRAND LEXIQUE FRANÇAIS]]
-[[Utilisateur:Claude COULOMBE | source : Claude Coulombe]]            ([[Discussion utilisateur:Claude COULOMBE | discussion]])
+{{DEFAULTSORT: evanescence du gradient}}

« Évanescence du gradient » : différence entre les versions