Ecrêtage de gradient


Révision datée du 3 mai 2020 à 09:23 par Pitpitt (discussion | contributions) (Remplacement de texte — « Catégorie:100 » par «  »)



Définition

Mécanisme couramment utilisé afin d'atténuer le problème d'explosion du gradient en limitant artificiellement la valeur maximale des gradients lors de l'utilisation de la descente de gradient pendant l'entraînement d'un modèle.

Français

écrêtage de gradient loc. nom. masc.

bornement de gradient loc. nom. masc.

seuillage de gradient loc. nom. masc.

Anglais

Gradient Clipping

Source: Géron, Aurélien (2017). Deep Learning avec TensorFlow - Mise en oeuvre et cas concrets, Paris, Dunod, 360 pages.

Source:L'apprentissage profond p.295

Source: Termino