Méthode d'accélération


Définition

La méthode d'accélération, aussi appelée méthode du momentum, est conçue pour accélérer l'apprentissage en particulier face à des courbures élevées, des gradients faibles mais robustes ou des gradients bruités. L'algorithme du momentum construit une moyenne mobile cumulée des gradients passés, aux poids exponentiellement décroissants et continue à se placer dans leur direction.

Français

méthode d'accélération

méthode à contrario

méthode d'inertie

méthode du momentum

Anglais

method of momentum


Sources

Source : L'apprentissage profond, Ian Goodfellow, Yoshua Bengio et Aaron Courville Éd. Massot 2018 page 302

Contributeurs: Jacques Barolet, wiki