« Méthode d'accélération » : différence entre les versions


m (Remplacement de texte — « <small>loc. nom. fém.</small> » par « <small> féminin </small> »)
m (Remplacement de texte — « <small> féminin </small> » par «  »)
Ligne 3 : Ligne 3 :


==Français==
==Français==
'''méthode d'accélération'''  <small> féminin </small>
'''méthode d'accélération'''   


'''méthode à contrario'''  <small> féminin </small>
'''méthode à contrario'''   


'''méthode d'inertie'''  <small> féminin </small>
'''méthode d'inertie'''   


'''méthode du momentum'''  <small> féminin </small>
'''méthode du momentum'''   
   
   
==Anglais==
==Anglais==

Version du 1 février 2021 à 19:56

Définition

La méthode d'accélération, aussi appelée méthode du momentum, est conçue pour accélérer l'apprentissage en particulier face à des courbures élevées, des gradients faibles mais robustes ou des gradients bruités. L'algorithme du momentum construit une moyenne mobile cumulée des gradients passés, aux poids exponentiellement décroissants et continue à se placer dans leur direction.

Français

méthode d'accélération

méthode à contrario

méthode d'inertie

méthode du momentum

Anglais

method of momentum


Source : L'apprentissage profond, Ian Goodfellow, Yoshua Bengio et Aaron Courville Éd. Massot 2018 page 302

Contributeurs: Jacques Barolet, wiki