« Momentum » : différence entre les versions
m (Remplacement de texte — « <small> loc. nom. masc. </small> » par « <small> masculin </small> ») |
Aucun résumé des modifications |
||
| (3 versions intermédiaires par un autre utilisateur non affichées) | |||
| Ligne 1 : | Ligne 1 : | ||
== Définition == | == Définition == | ||
Algorithme sophistiqué de descente de gradient dans lequel une étape d'apprentissage dépend non seulement de la dérivée de l'étape actuelle, mais aussi des dérivées des étapes qui l'ont immédiatement précédée. Momentum calcule une moyenne glissante pondérée exponentiellement des gradients au fil du temps, à l'instar du calcul du moment en physique. Momentum permet parfois d'éviter à l'apprentissage de se retrouver bloqué à un minimum local. | Algorithme sophistiqué de [[descente de gradient]] dans lequel une étape d'apprentissage dépend non seulement de la [[dérivée]] de l'étape actuelle, mais aussi des dérivées des étapes qui l'ont immédiatement précédée. Momentum calcule une moyenne glissante pondérée exponentiellement des gradients au fil du temps, à l'instar du calcul du moment en physique. Momentum permet parfois d'éviter à l'apprentissage de se retrouver bloqué à un minimum local. | ||
== Français == | == Français == | ||
''' | '''Momentum''' | ||
== Anglais == | == Anglais == | ||
''' | '''Momentum''' | ||
==Sources== | |||
[https://developers.google.com/machine-learning/glossary/ Source : Google machine learning glossary ] | |||
[https://developers.google.com/machine-learning/glossary/ Source: Google machine learning glossary ] | |||
[[Category:GRAND LEXIQUE FRANÇAIS]] | [[Category:GRAND LEXIQUE FRANÇAIS]] | ||
[[Catégorie:ENGLISH]] | [[Catégorie:ENGLISH]] | ||
[[Category:Apprentissage profond]] | [[Category:Apprentissage profond]] | ||
Dernière version du 1 avril 2024 à 14:07
Définition
Algorithme sophistiqué de descente de gradient dans lequel une étape d'apprentissage dépend non seulement de la dérivée de l'étape actuelle, mais aussi des dérivées des étapes qui l'ont immédiatement précédée. Momentum calcule une moyenne glissante pondérée exponentiellement des gradients au fil du temps, à l'instar du calcul du moment en physique. Momentum permet parfois d'éviter à l'apprentissage de se retrouver bloqué à un minimum local.
Français
Momentum
Anglais
Momentum
Sources
Contributeurs: Claire Gorjux, Jacques Barolet, wiki, Robert Meloche
