« Méthode d'accélération » : différence entre les versions
m (Remplacement de texte — « <small>loc. nom. fém.</small> » par « <small> féminin </small> ») |
m (Remplacement de texte : « ↵<small> » par « ==Sources== ») |
||
| (Une version intermédiaire par le même utilisateur non affichée) | |||
| Ligne 3 : | Ligne 3 : | ||
==Français== | ==Français== | ||
'''méthode d'accélération''' | '''méthode d'accélération''' | ||
'''méthode à contrario''' | '''méthode à contrario''' | ||
'''méthode d'inertie''' | '''méthode d'inertie''' | ||
'''méthode du momentum''' | '''méthode du momentum''' | ||
==Anglais== | ==Anglais== | ||
| Ligne 15 : | Ligne 15 : | ||
==Sources== | |||
[https://www.apprentissageprofond.org/ Source : ''L'apprentissage profond'', Ian Goodfellow, Yoshua Bengio et Aaron Courville Éd. Massot 2018 page 302] | [https://www.apprentissageprofond.org/ Source : ''L'apprentissage profond'', Ian Goodfellow, Yoshua Bengio et Aaron Courville Éd. Massot 2018 page 302] | ||
Dernière version du 28 janvier 2024 à 10:27
Définition
La méthode d'accélération, aussi appelée méthode du momentum, est conçue pour accélérer l'apprentissage en particulier face à des courbures élevées, des gradients faibles mais robustes ou des gradients bruités. L'algorithme du momentum construit une moyenne mobile cumulée des gradients passés, aux poids exponentiellement décroissants et continue à se placer dans leur direction.
Français
méthode d'accélération
méthode à contrario
méthode d'inertie
méthode du momentum
Anglais
method of momentum
Sources
Contributeurs: Jacques Barolet, wiki
