Méthode d'accélération

La version imprimable n’est plus prise en charge et peut comporter des erreurs de génération. Veuillez mettre à jour les signets de votre navigateur et utiliser à la place la fonction d’impression par défaut de celui-ci.

Définition

La méthode d'accélération, aussi appelée méthode du momentum, est conçue pour accélérer l'apprentissage en particulier face à des courbures élevées, des gradients faibles mais robustes ou des gradients bruités. L'algorithme du momentum construit une moyenne mobile cumulée des gradients passés, aux poids exponentiellement décroissants et continue à se placer dans leur direction.

Français

méthode d'accélération

méthode à contrario

méthode d'inertie

méthode du momentum

Anglais

method of momentum

Sources

Source : L'apprentissage profond, Ian Goodfellow, Yoshua Bengio et Aaron Courville Éd. Massot 2018 page 302