« Momentum » : différence entre les versions
m (Remplacement de texte — « <!-- Scotty2 --> » par « ») |
Aucun résumé des modifications Balise : Éditeur de wikicode 2017 |
||
Ligne 1 : | Ligne 1 : | ||
== Définition == | == Définition == | ||
Algorithme sophistiqué de descente de gradient dans lequel une étape d'apprentissage dépend non seulement de la dérivée de l'étape actuelle, mais aussi des dérivées des étapes qui l'ont immédiatement précédée. Momentum calcule une moyenne glissante pondérée exponentiellement des gradients au fil du temps, à l'instar du calcul du moment en physique. Momentum permet parfois d'éviter à l'apprentissage de se retrouver bloqué à un minimum local. | Algorithme sophistiqué de descente de gradient dans lequel une étape d'apprentissage dépend non seulement de la dérivée de l'étape actuelle, mais aussi des dérivées des étapes qui l'ont immédiatement précédée. Momentum calcule une moyenne glissante pondérée exponentiellement des gradients au fil du temps, à l'instar du calcul du moment en physique. Momentum permet parfois d'éviter à l'apprentissage de se retrouver bloqué à un minimum local. | ||
== Français == | == Français == | ||
''' momentum | ''' momentum '''<small> loc. nom. masc. </small> | ||
== Anglais == | == Anglais == | ||
Ligne 17 : | Ligne 11 : | ||
<small> | <small> | ||
[https://developers.google.com/machine-learning/glossary/ Source: Google machine learning glossary ] | |||
[ | [[Category:GRAND LEXIQUE FRANÇAIS]] | ||
[[Catégorie:ENGLISH]] | |||
[[Category:Apprentissage profond]] |
Version du 7 mai 2020 à 12:53
Définition
Algorithme sophistiqué de descente de gradient dans lequel une étape d'apprentissage dépend non seulement de la dérivée de l'étape actuelle, mais aussi des dérivées des étapes qui l'ont immédiatement précédée. Momentum calcule une moyenne glissante pondérée exponentiellement des gradients au fil du temps, à l'instar du calcul du moment en physique. Momentum permet parfois d'éviter à l'apprentissage de se retrouver bloqué à un minimum local.
Français
momentum loc. nom. masc.
Anglais
Momentum
Contributeurs: Evan Brach, Claire Gorjux, Jacques Barolet, wiki, Robert Meloche