« Méthode d'accélération » : différence entre les versions
m (Remplacement de texte — « Source: L'apprentissage profond. Éd.Massot 2018 » par « Source : ''L'apprentissage profond'', Ian Goodfellow, Yoshua Bengio et Aaron Courville Éd. Massot 2018 ») |
Aucun résumé des modifications Balise : Éditeur de wikicode 2017 |
||
| Ligne 6 : | Ligne 6 : | ||
== Définition == | == Définition == | ||
La ''méthode du momentum'' ( ou ''méthode d'accélération'', parfois dénommée'' | La ''méthode du momentum'' ( ou ''méthode d'accélération'', parfois dénommée'' à contrario'', ou ''méthode d'inertie'') est conçue pour accélérer l'apprentissage en particulier face à des courbures élevées, des gradients faibles mais robustes ou des gradients bruités. L'algorithme du momentum construit une moyenne mobile cumulée des gradients passés, aux poids exponentiellement décroissants et continue à se placer dans leur direction. | ||
== Français == | == Français == | ||
Version du 23 février 2020 à 21:18
en construction
Définition
La méthode du momentum ( ou méthode d'accélération, parfois dénommée à contrario, ou méthode d'inertie) est conçue pour accélérer l'apprentissage en particulier face à des courbures élevées, des gradients faibles mais robustes ou des gradients bruités. L'algorithme du momentum construit une moyenne mobile cumulée des gradients passés, aux poids exponentiellement décroissants et continue à se placer dans leur direction.
Français
méthode d'accélération
méthode a contrario
méthode d'inertie
méthode du momentum
Anglais
method of momentum
Contributeurs: Jacques Barolet, wiki
