« Méthode d'accélération » : différence entre les versions


Aucun résumé des modifications
Balise : Éditeur de wikicode 2017
Aucun résumé des modifications
Ligne 1 : Ligne 1 :
== en construction ==
==en construction==
[[Catégorie:Vocabulaire]]  
[[Catégorie:Vocabulaire]]  
[[Catégorie:App-profond-livre]]
[[Catégorie:App-profond-livre]]
Ligne 5 : Ligne 5 :
[[Catégorie:Scotty]]
[[Catégorie:Scotty]]


== Définition ==
==Définition==
La ''méthode du momentum'' ( ou ''méthode d'accélération'', parfois dénommée'' à contrario'', ou ''méthode d'inertie'') est conçue pour accélérer l'apprentissage en particulier face à des courbures élevées, des gradients faibles mais robustes ou des gradients bruités. L'algorithme du momentum construit une moyenne mobile cumulée des gradients passés, aux poids exponentiellement décroissants et continue à se placer dans leur direction.
La méthode d'accélération, aussi appelée méthode du momentum, est conçue pour accélérer l'apprentissage en particulier face à des courbures élevées, des gradients faibles mais robustes ou des gradients bruités. L'algorithme du momentum construit une moyenne mobile cumulée des gradients passés, aux poids exponentiellement décroissants et continue à se placer dans leur direction.


== Français ==
==Français==
'''méthode d'accélération'''
'''méthode d'accélération'''


'''méthode a contrario'''
'''méthode à contrario'''


'''méthode d'inertie'''
'''méthode d'inertie'''
Ligne 17 : Ligne 17 :
'''méthode du momentum'''
'''méthode du momentum'''
   
   
== Anglais ==
==Anglais==
'''method of momentum'''
'''method of momentum'''


Ligne 23 : Ligne 23 :
<small>
<small>


[https://www.apprentissageprofond.org/   Source :  ''L'apprentissage profond'',  Ian Goodfellow, Yoshua Bengio et Aaron Courville  Éd. Massot 2018 page 302 ]
[https://www.apprentissageprofond.org/ Source :  ''L'apprentissage profond'',  Ian Goodfellow, Yoshua Bengio et Aaron Courville  Éd. Massot 2018 page 302]

Version du 28 février 2020 à 14:03

en construction

Définition

La méthode d'accélération, aussi appelée méthode du momentum, est conçue pour accélérer l'apprentissage en particulier face à des courbures élevées, des gradients faibles mais robustes ou des gradients bruités. L'algorithme du momentum construit une moyenne mobile cumulée des gradients passés, aux poids exponentiellement décroissants et continue à se placer dans leur direction.

Français

méthode d'accélération

méthode à contrario

méthode d'inertie

méthode du momentum

Anglais

method of momentum


Source : L'apprentissage profond, Ian Goodfellow, Yoshua Bengio et Aaron Courville Éd. Massot 2018 page 302



Contributeurs: Jacques Barolet, wiki