Momentum

De wiki.datafranca.org
Aller à : navigation, rechercher

Domaine

Vocabulaire
Google
Apprentissage profond


Définition

Algorithme sophistiqué de descente de gradient dans lequel une étape d'apprentissage dépend non seulement de la dérivée de l'étape actuelle, mais aussi des dérivées des étapes qui l'ont immédiatement précédée. Momentum calcule une moyenne glissante pondérée exponentiellement des gradients au fil du temps, à l'instar du calcul du moment en physique. Momentum permet parfois d'éviter à l'apprentissage de se retrouver bloqué à un minimum local.



Termes privilégiés

Momentum


Anglais

Momentum




Source: Google machine learning glossary