Méthode d'accélération


Révision datée du 28 janvier 2024 à 10:27 par Pitpitt (discussion | contributions) (Remplacement de texte : « ↵<small> » par «  ==Sources== »)
(diff) ← Version précédente | Voir la version actuelle (diff) | Version suivante → (diff)

Définition

La méthode d'accélération, aussi appelée méthode du momentum, est conçue pour accélérer l'apprentissage en particulier face à des courbures élevées, des gradients faibles mais robustes ou des gradients bruités. L'algorithme du momentum construit une moyenne mobile cumulée des gradients passés, aux poids exponentiellement décroissants et continue à se placer dans leur direction.

Français

méthode d'accélération

méthode à contrario

méthode d'inertie

méthode du momentum

Anglais

method of momentum


Sources

Source : L'apprentissage profond, Ian Goodfellow, Yoshua Bengio et Aaron Courville Éd. Massot 2018 page 302

Contributeurs: Jacques Barolet, wiki