« Méthode d'accélération » : différence entre les versions
m (Remplacement de texte — « <small> féminin </small> » par « ») |
m (Remplacement de texte : « ↵<small> » par « ==Sources== ») |
||
| Ligne 15 : | Ligne 15 : | ||
==Sources== | |||
[https://www.apprentissageprofond.org/ Source : ''L'apprentissage profond'', Ian Goodfellow, Yoshua Bengio et Aaron Courville Éd. Massot 2018 page 302] | [https://www.apprentissageprofond.org/ Source : ''L'apprentissage profond'', Ian Goodfellow, Yoshua Bengio et Aaron Courville Éd. Massot 2018 page 302] | ||
Dernière version du 28 janvier 2024 à 10:27
Définition
La méthode d'accélération, aussi appelée méthode du momentum, est conçue pour accélérer l'apprentissage en particulier face à des courbures élevées, des gradients faibles mais robustes ou des gradients bruités. L'algorithme du momentum construit une moyenne mobile cumulée des gradients passés, aux poids exponentiellement décroissants et continue à se placer dans leur direction.
Français
méthode d'accélération
méthode à contrario
méthode d'inertie
méthode du momentum
Anglais
method of momentum
Sources
Contributeurs: Jacques Barolet, wiki
