Optimisation Adam


Révision datée du 28 janvier 2024 à 10:49 par Pitpitt (discussion | contributions) (Remplacement de texte : « ↵<small> » par «  ==Sources== »)

Définition

L'algorithme d'optimisation Adam est utilisé pour la formation de modèles d'apprentissage profond. Il s'agit d'une extension de la descente de gradient stochastique. Dans cet algorithme d'optimisation, les moyennes courantes des gradients et des seconds moments des gradients sont utilisées. Il est utilisé pour calculer les taux d'apprentissage adaptatifs pour chaque paramètre.

Français

optimisation Adam

Anglais

Adam optimization

Adaptive Moment Estimation (Adam)


Sources

Contributeurs: Imane Meziani, wiki